개요
AI/LLM 침투 테스트는 대규모 언어 모델로 구축된 애플리케이션을 전통적인 테스트가 놓치는 AI 특화 위험에 대해 평가합니다. OWASP Top 10 for LLM Applications(2025)에 기반하여, 모델, 프롬프트, 도구, 데이터 파이프라인 전반에 걸쳐 프롬프트 인젝션, 민감 정보 노출, 안전하지 않은 출력 처리, 과도한 에이전시, 공급망 및 RAG 약점을 테스트합니다.
방법론 및 표준
OWASP Top 10 for LLM Applications 2025(LLM01 Prompt Injection부터 LLM10 Unbounded Consumption까지)를 따르며, NIST AI RMF 및 MITRE ATLAS로 보완됩니다.
포함 내용
직접 및 간접 프롬프트 인젝션과 탈옥 테스트
시스템 프롬프트 추출 및 RAG / 데이터 중독 테스트
도구 및 에이전트 오용(과도한 에이전시) 테스트
모델을 둘러싼 일반적인 앱, API, 인프라 계층
제공 산출물
개념 증명과 함께 OWASP LLM Top 10에 매핑된 결과
가드레일 및 완화 권고
재테스트 및 입증
OWASP 부합경영진 보고개선 가이던스재테스트 포함증명서스캐너 덤프 없음
자주 묻는 질문
표준 침투 테스트는 웹과 API 계층을 점검하지만 모델 동작은 점검하지 않습니다. 프롬프트 인젝션, 시스템 프롬프트 유출, RAG 중독, 과도한 에이전시와 같은 LLM 위험은 AI 특화 테스트가 필요하며, OWASP LLM Top 10이 이를 위해 만들어졌습니다.
네. 도구와 자율성을 가진 에이전트는 위험을 높입니다(과도한 에이전시). 성공적인 인젝션은 실제 작업을 트리거할 수 있으므로, 당사는 공격자가 여러분의 에이전트에게 무엇을 시킬 수 있는지 정확히 테스트하고 가드레일을 권고합니다.