AI 레드티밍(AI Red Teaming)의 정의와 전통 보안 테스트와의 차이, 핵심 용어, 방법론, 주요 공격 벡터와 방어를 한 번에 정리합니다.

모델 추출·탈취(model stealing) 공격 정리. API 쿼리로 가중치·구조를 복원하는 원리, $20로 상용 LLM 일부를 추출한 연구, rate limit·출력제한 방어.

LLM 가드레일 구축 가이드 — input/output/topical/retrieval rail, NeMo·Llama Guard·Guardrails AI 비교, 적용 시나리오와 한계.

RAG 지식베이스 포이즈닝(PoisonedRAG) 공격 원리와 방어. 검색 문서가 공격표면이 되는 메커니즘, 5개 텍스트로 90% 성공한 연구, 출처검증·격리·리랭킹.

Microsoft PyRIT로 생성형 AI를 자동 레드팀하는 법. targets·converters·scorers·orchestrators·memory 구조와 단일·다회전 공격, garak과의 차이까지.

데이터 포이즈닝 공격을 백도어·라벨 플리핑·웹스케일 오염으로 정리. PoisonGPT·Nightshade·Carlini 실사례와 데이터 출처 검증 방어까지.

NVIDIA garak으로 LLM의 프롬프트 인젝션·탈옥·데이터 유출을 자동 점검하는 실전 가이드. 설치, probe/detector 개념, 실행, 리포트, CI 회귀 점검.

OWASP Top 10 for LLM Applications 2025를 LLM01~LLM10 항목별 공격 시나리오·방어와 함께 한글로 정리. 실무 예시와 기업 best-practice 포함.

이번 주 AI 보안 동향 10선 — Anthropic·MITRE 위협 매핑, LiteLLM CVSS 10.0 RCE 체인, 추론엔진 SSRF, 에이전트 프롬프트 인젝션 연구를 한글로 정리.

MCP Tool Poisoning 공격의 원리(도구 설명 인젝션), rug pull·tool shadowing 변종, CVE-2025-54136 실사례와 방어법을 정리한다.