AIエージェント事故オブザーバトリ

ガイド

用語と凡例

このサイトでは重大度・情報確度・再発確信度などを、アルファベットと数字を組み合わせたコード(例: S3、C4、P2)で記録しています。事例やパターンのページに表示されるバッジにマウスを合わせる(タップする)と、同じ説明がツールチップで表示されます。

重大度(S0〜S4)

事例で実際にどれくらいの実害が生じたかを示す区分です。

  • S0観測報告
  • S1ヒヤリハット
  • S2限定的な実害
  • S3重大な影響
  • S4重大事故

情報確度(C1〜C5)

その事例がどれだけ確からしい情報に基づいているかを示す区分です。

  • C1単一の弱い報告
  • C2単一の詳細な報告
  • C3複数の独立した報告
  • C4公式確認あり
  • C5強力な証拠あり

再発確信度(P1〜P5)

複数の事例が同じ失敗パターンに繰り返し当てはまっている、という判断の確からしさを示す区分です。

  • P1確信度: 低
  • P2確信度: やや低
  • P3確信度: 中
  • P4確信度: やや高
  • P5確信度: 高

ステータス(解決状況)

事例やパターンが現時点でどのような状態にあるかを示します。

  • open未解決
  • mitigated緩和済み
  • resolved解決済み
  • wont_fix修正予定なし
  • unknown不明

残存リスク

対応が済んだ後も、同種の問題が再び起こりうる可能性の高さです。

  • low
  • medium
  • high
  • unknown不明

分類について(失敗モード・根本原因)

各パターンには、繰り返し起きている失敗の型(失敗モード)と、その背景にある構造的な原因(根本原因)を付与しています。現在アクティブな分類は以下の通りです。

失敗モード

  • 間接プロンプトインジェクション
  • 直接プロンプトインジェクション
  • 権限の逸脱
  • 危険なツール実行
  • 破壊的操作
  • データ外部流出
  • 秘密情報の漏えい
  • 幻覚に基づく操作
  • 暴走ループ・想定外コスト
  • ポリシー回避
  • なりすまし・ID悪用
  • 危険な外部副作用

根本原因

  • 過剰な権限付与
  • 承認ゲートの欠如
  • 信頼できないコンテンツの未隔離
  • 脆弱なツールサンドボックス
  • 出力検証の欠如
  • 秘密情報スコープ管理の不備
  • メモリ汚染
  • 曖昧なユーザー意図の取り扱い
  • 監視・アラートの不備
  • 人間の過信
収集方法の詳細を見る