概要
AI/LLM侵入テストは、従来のテストでは見逃されるAI固有のリスクについて、大規模言語モデル上に構築されたアプリケーションを評価します。OWASP Top 10 for LLM Applications（2025）に準拠し、モデル、プロンプト、ツール、データパイプラインにわたって、プロンプトインジェクション、機微な情報の開示、安全でない出力処理、過剰なエージェンシー、サプライチェーンおよびRAGの弱点をテストします。
方法論＆標準
OWASP Top 10 for LLM Applications 2025（LLM01 Prompt InjectionからLLM10 Unbounded Consumptionまで）に、NIST AI RMFとMITRE ATLASを補完的に用います。
含まれる内容
直接および間接のプロンプトインジェクションとジェイルブレイクのテスト
システムプロンプトの抽出とRAG / データポイズニングのテスト
ツールおよびエージェントの悪用（過剰なエージェンシー）のテスト
モデルを取り巻く従来型のアプリ、API、インフラ層
提供される成果物
概念実証を伴う、OWASP LLM Top 10にマッピングされた結果
ガードレールと緩和策の推奨
再テストと証明
OWASP準拠経営層向けレポート修正ガイダンス再テストを含む証明書スキャナーのダンプなし
よくある質問
標準的な侵入テストはWebおよびAPI層を検査しますが、モデルの挙動は検査しません。プロンプトインジェクション、システムプロンプトの漏洩、RAGのポイズニング、過剰なエージェンシーといったLLMのリスクには、AI固有のテストが必要であり、OWASP LLM Top 10はこれに対処するために作られました。
はい。ツールと自律性を備えたエージェントはリスクを高めます（過剰なエージェンシー）。インジェクションが成功すると実際のアクションを引き起こす恐れがあるため、攻撃者がエージェントに何をさせられるかを正確にテストし、ガードレールを推奨します。