FUKLab事前ヒアリング
AIチャット、社内LLM、RAGなどの利用用途、利用者、扱うデータ、リリース予定を確認します。診断の前提と優先順位を整理します。
LLMアプリ脆弱性診断
本番前のAIチャット、社内LLM、RAG向けのAIセキュリティ支援
LLMアプリ脆弱性診断
LLMアプリケーションに対して、自動診断と手動検証を組み合わせて、実際の業務影響を踏まえた脆弱性診断を実施します。プロンプトインジェクション、機密情報漏えい、RAGの権限境界、出力制御、再現性、改善優先度などを確認します。
| 項目 | 内容 |
|---|---|
| 対象顧客 | 本番前のAIチャット、社内LLM、RAG |
| 内容 | 自動＋手動診断、Prompt Injection、RAG、出力制御、再現手順整理 |
| 成果物 | 詳細報告書、再現手順、改善優先度、報告会 |
| 価格目安 | 50〜100万円 |
サービス別の確認イメージ
LLMアプリの攻撃面を横断的に確認
LLMの応答だけでなく、入力、RAG、外部連携まで含めて、業務影響につながる接続部分を確認します。
入力
チャット / API / ファイル / URL
処理
プロンプト制御 / RAG / 外部連携
出力
機密情報 / 制御回避 / 内部情報露出
運用
再現手順 / 影響度 / 改善優先度
このような課題に対応します
- 本番前にAIチャットや社内LLMの攻撃面を確認したい
本番リリース前のAIチャット、社内LLM、顧客向けAI機能に対して、Prompt Injection、System Prompt Leakage、機密情報出力、出力制御回避などを確認します。単なるテスト入力ではなく、実際の利用者・業務フロー・扱う情報を踏まえて影響を評価します。 - RAGや外部連携を含む実装リスクを把握したい
RAG、ファイルアップロード、外部API、業務システム連携がある場合、LLMの応答だけでなく、データ取得・権限境界・出力処理を確認します。通常のWebアプリ診断では見落としやすい、AI機能と既存機能の接続部分を重点的に見ます。 - 開発チームが再現できる報告書が必要
指摘事項は、入力例、前提条件、観測結果、想定影響、修正方針を整理して報告します。開発チームがBacklogやJiraなどのチケットに落とし込みやすいよう、再現手順と改善優先度を明確にします。
対象となるシステム・構成
- 顧客向けAIチャット
- 社内LLMアプリ
- LLM API連携機能
- ファイル要約・文書分析機能
- 問い合わせ自動応答Bot
- 簡易RAGを含むAIアプリ
- AI機能を組み込んだSaaS
主な確認観点
- 直接Prompt Injection
- 間接Prompt Injection
- System Prompt Leakage
- Sensitive Information Disclosure
- 出力制御回避
- ファイル・URL・外部コンテンツ経由の誘導
- RAGやAPIとの接続部分
- 認証・認可とAI機能の結合不備
- 再現性・改善優先度
- エラーメッセージや内部情報露出
対象外・別見積となる範囲
- クラウド基盤全体の設定診断
- AIモデルそのものの学習データ監査
- 法的判断や規制適合性の保証
- 24時間監視
- 本格的なRed Team演習
- 大規模なソースコードレビュー
ご準備いただく情報
- システム概要と利用目的
- 検証用URLまたは検証環境
- 権限別のテストアカウント
- 画面・API・入力経路の一覧
- RAG、ファイル投入、外部連携の有無
- 実施してはいけない操作や時間帯
- 再現確認に必要な画面・API情報
相談タイミング
- 本番リリース前
- 顧客提供前
- 社内展開前
- RAGや外部連携を追加した時
- AI機能の大きな仕様変更前
成果物
| 項目 | 内容 |
|---|---|
| 報告書 | 詳細報告書、再現手順、改善優先度、報告会を、管理者向けサマリーと技術詳細に分けて提示します。 |
| 再現手順 | 開発チームが確認できる入力例、前提条件、観測結果を整理します。 |
| 改善優先度 | 技術的リスク、業務影響、対応難易度を踏まえて改善順序を示します。 |
進め方
対象範囲の確定
画面、API、RAG、外部連携、禁止事項を合意します。テストアカウントや権限条件も確認します。
脅威モデリング
データフロー、権限境界、入力経路、出力制御を整理し、成立し得るLLMアプリケーション特有の攻撃シナリオを定義します。
自動診断
Prompt Injection、機密情報漏えい、出力制御回避などの代表的な観点を自動・半自動で広く確認します。
手動検証
業務仕様や文脈依存の挙動を踏まえ、検出事項の再現性、悪用可能性、実際の業務影響を確認します。
報告会と改善支援
詳細報告書、再現手順、改善優先度を提示し、開発チームが修正に着手できる形で報告会を実施します。
料金目安
50〜100万円
料金は対象システムの規模、機能数、連携先、診断範囲、報告会の有無によって変動します。正式なお見積りはヒアリング後にご提示します。
診断情報の取扱いについて
診断業務で取り扱う設計資料、プロンプト、認証情報、RAG関連データ等は秘密情報として管理します。これらの情報は、原則として外部の生成AIサービスに入力しません。必要がある場合は、事前に利用目的と取扱い範囲をご説明し、お客様の承諾を得たうえで利用します。
LLMアプリ脆弱性診断を相談する
対象範囲が未確定の段階でも、初回相談で診断範囲と優先度を整理できます。
対象範囲、連携先、報告会の有無を確認し、正式なお見積りをご提示します。