AI / LLM侵入テスト
概要
AI/LLM侵入テストは、従来のテストでは見逃されるAI固有のリスクについて、大規模言語モデル上に構築されたアプリケーションを評価します。OWASP Top 10 for LLM Applications（2025）に準拠し、モデル、プロンプト、ツール、データパイプラインにわたって、プロンプトインジェクション、機微な情報の開示、安全でない出力処理、過剰なエージェンシー、サプライチェーンおよびRAGの弱点をテストします。本エンゲージメントは、OWASP準拠のLLMペネトレーションテストとAI red teamingを組み合わせ、モデルとエージェントに対する現実の敵対的な悪用をシミュレートします。
方法論＆標準
OWASP Top 10 for LLM Applications 2025（LLM01 Prompt InjectionからLLM10 Unbounded Consumptionまで）に、NIST AI RMFとMITRE ATLASを補完的に用います。
含まれる内容
提供される成果物
よくある質問
標準的な侵入テストはWebおよびAPI層を検査しますが、モデルの挙動は検査しません。プロンプトインジェクション、システムプロンプトの漏洩、RAGのポイズニング、過剰なエージェンシーといったLLMのリスクには、AI固有のテストが必要であり、OWASP LLM Top 10はこれに対処するために作られました。
はい。ツールと自律性を備えたエージェントはリスクを高めます（過剰なエージェンシー）。インジェクションが成功すると実際のアクションを引き起こす恐れがあるため、攻撃者がエージェントに何をさせられるかを正確にテストし、ガードレールを推奨します。
費用は、対象となるモデル、エージェント、連携、データソースの数、テストの深さ、再テストが含まれるかどうかによって異なります。ほとんどのAI/LLM評価は、対象を絞ったアプリケーション侵入テストと同様に範囲設定されます。ご利用環境に合わせた概算をすぐに知るには、侵入テスト費用計算ツールをお試しいただき、その後、範囲と価格の確認のためにご相談ください。