FUKLabPrompt Injection・制御回避
直接入力や外部コンテンツ経由の指示により、本来の制御やポリシーが回避されるかを確認します。
実装を検証する
生成AI利用システム向け脆弱性診断
稼働中または検証環境の生成AI利用システムに対して、合意した範囲内で攻撃者視点のテストを行い、再現性、影響、改善案を報告します。
生成AI利用システム向け脆弱性診断
生成AIアプリ、RAG、MCP、AI Agent、チャットボット等に対し、Prompt Injection、情報漏えい、権限不備、Tool Abuse等の成立可否を診断します。
| 項目 | 内容 |
|---|---|
| 主な対象 | 実装・稼働中のシステム |
| 概要 | 実システムに対する攻撃者視点のテストで、脆弱性と業務影響を確認します。 |
料金は個別見積りです。対象範囲、システム構成、実施方法、成果物、報告会、再評価・再診断の有無を確認後にお見積りします。
このような課題に対応します
- プロンプトインジェクションや制御回避が成立するか確認したい
- RAGの権限外文書参照、検索結果混入、引用漏えいを検証したい
- AI AgentやMCP Toolの承認回避、不正実行、外部送信リスクを確認したい
支援内容
機密情報・内部情報の漏えい
会話履歴、内部指示、システムプロンプト、RAG参照文書、API応答等が意図せず出力される可能性を確認します。
RAG・データアクセス
ユーザー権限を超えた文書参照、検索結果の混入、メタデータや引用からの情報漏えいを検証します。
MCP・AI Agent・Tool Abuse
外部Tool、SaaS、業務システム、API実行に関する承認回避、権限逸脱、外部送信、誤操作誘導を確認します。
主な成果物
- 診断結果報告書
- 検出事項一覧
- 再現手順と証跡
- 影響度・優先度評価
- 改善提案
進め方
対象範囲と禁止事項の合意
テスト環境・認証情報・ログ確認方法の準備
診断観点と深度の確定
手動検証を中心とした診断実施
結果分析と再現性確認
報告書提出と報告会
対応範囲について
- 本診断は合意範囲内の検証であり、脆弱性が存在しないことや将来の安全性を保証するものではありません。大規模な攻撃演習、継続監視、法的証拠能力の保証は含みません。
生成AI利用システム向け脆弱性診断を相談する
対象範囲が未確定の段階でも、初回相談で支援範囲と優先度を整理できます。