AI / LLM 침투 테스트
개요
AI/LLM 침투 테스트는 대규모 언어 모델로 구축된 애플리케이션을 전통적인 테스트가 놓치는 AI 특화 위험에 대해 평가합니다. OWASP Top 10 for LLM Applications(2025)에 기반하여, 모델, 프롬프트, 도구, 데이터 파이프라인 전반에 걸쳐 프롬프트 인젝션, 민감 정보 노출, 안전하지 않은 출력 처리, 과도한 에이전시, 공급망 및 RAG 약점을 테스트합니다. 이 서비스는 OWASP 기반 LLM 침투 테스트와 AI red teaming을 결합하여 모델과 에이전트에 대한 실제 적대적 오용을 시뮬레이션합니다.
방법론 및 표준
OWASP Top 10 for LLM Applications 2025(LLM01 Prompt Injection부터 LLM10 Unbounded Consumption까지)를 따르며, NIST AI RMF 및 MITRE ATLAS로 보완됩니다.
포함 내용
제공 산출물
자주 묻는 질문
표준 침투 테스트는 웹과 API 계층을 점검하지만 모델 동작은 점검하지 않습니다. 프롬프트 인젝션, 시스템 프롬프트 유출, RAG 중독, 과도한 에이전시와 같은 LLM 위험은 AI 특화 테스트가 필요하며, OWASP LLM Top 10이 이를 위해 만들어졌습니다.
네. 도구와 자율성을 가진 에이전트는 위험을 높입니다(과도한 에이전시). 성공적인 인젝션은 실제 작업을 트리거할 수 있으므로, 당사는 공격자가 여러분의 에이전트에게 무엇을 시킬 수 있는지 정확히 테스트하고 가드레일을 권고합니다.
비용은 범위에 포함된 모델, 에이전트, 통합, 데이터 소스의 수, 테스트 깊이, 재테스트 포함 여부에 따라 달라집니다. 대부분의 AI/LLM 평가는 집중된 애플리케이션 침투 테스트처럼 범위가 산정됩니다. 환경에 맞는 빠른 견적을 원하시면 침투 테스트 비용 계산기를 사용해 보신 후, 범위와 가격 확정을 위해 문의해 주세요.