AI 레드티밍(AI Red Teaming)의 정의와 전통 보안 테스트와의 차이, 핵심 용어, 방법론, 주요 공격 벡터와 방어를 한 번에 정리합니다.

Microsoft PyRIT로 생성형 AI를 자동 레드팀하는 법. targets·converters·scorers·orchestrators·memory 구조와 단일·다회전 공격, garak과의 차이까지.

데이터 포이즈닝 공격을 백도어·라벨 플리핑·웹스케일 오염으로 정리. PoisonGPT·Nightshade·Carlini 실사례와 데이터 출처 검증 방어까지.

NVIDIA garak으로 LLM의 프롬프트 인젝션·탈옥·데이터 유출을 자동 점검하는 실전 가이드. 설치, probe/detector 개념, 실행, 리포트, CI 회귀 점검.

OWASP Top 10 for LLM Applications 2025를 LLM01~LLM10 항목별 공격 시나리오·방어와 함께 한글로 정리. 실무 예시와 기업 best-practice 포함.

이번 주 AI 보안 동향 10선 — Anthropic·MITRE 위협 매핑, LiteLLM CVSS 10.0 RCE 체인, 추론엔진 SSRF, 에이전트 프롬프트 인젝션 연구를 한글로 정리.

MCP Tool Poisoning 공격의 원리(도구 설명 인젝션), rug pull·tool shadowing 변종, CVE-2025-54136 실사례와 방어법을 정리한다.

AI 에이전트(Agentic AI)의 권한 상승 공격 — 암묵적 권한 가정, 체인·멀티에이전트 에스컬레이션, SSRF 시나리오와 최소권한·HITL 방어를 정리.

2026년 6월 첫째 주 AI 보안 동향 — 에이전틱 AI 레드티밍, LLM 에이전트 RCE 취약점, 탈옥 연구, OWASP·국내 KISA 소식까지 한 번에 정리.

프롬프트 인젝션(Prompt Injection)의 직접·간접 주입과 탈옥(jailbreak), 동작 메커니즘, 탐지·방어를 실제 사례와 함께 정리합니다.