公開事例数
12件
報告ベースのインシデント観測
AIエージェントの事故・ヒヤリハット事例データベース
このサイトは、AIエージェントやLLM製品にまつわる事故・ヒヤリハット事例を継続的に収集し、再発する失敗パターンとして整理・分類している公開データベースです。事例の収集にはAIを活用していますが、公開するかどうかは必ず人間のレビューを経て判断しています。
このサイトの考え方: 観測件数であって実数ではない ・ シグナルより事例を重視する ・ 解決状態を追跡する — 方法論を読む
確認済み事例
8件
識別済みパターン数
9件
直近30日の新規事例
3件
月別の新規事例数
重大度の分布
最新の事例
一覧を見るS2限定的な実害C2単一の詳細な報告不明
Claude Desktop claude:// URL scheme prompt injection enables silent unauthorized actions
Oasis Securityが報告したClaude Desktopの脆弱性では、claude://URLスキームを利用した攻撃により、ユーザーがクリックしたリンク経由で隠れたプロンプトが自動送信される。ユーザーは送信前にプロンプトの内容を確認・承認することなく、攻撃者の指示が実行される可能性があり、会話履歴の流出やファイルシステムアクセス、コード実行につながる恐れがある。Anthropicは1.1.2321で修正を提供している。
S3重大な影響C2単一の詳細な報告不明
Hugging Face侵害:自律型AIエージェントがデータパイプラインのRCEを悪用しクラウド認証情報を窃取・横展開
Hugging Faceは、自律型AIエージェントフレームワークを用いた攻撃者による侵害を公表した。攻撃者はデータ処理パイプラインのテンプレート注入・RCE脆弱性を悪用してワーカーノードで実行権を獲得し、クラウド認証情報を窃取して複数の内部クラスタへ横展開した。裏付け情報によれば、同社のセーフティガードレールが攻撃者よりも防御側を制約する状況が生じ、対抗策としてGLM 5.2を導入したとされる。
S3重大な影響C2単一の詳細な報告不明
AgentForge vulnerability lets phishing email plant rogue agent in ChatGPT workspace, enabling connected-account takeover
Zenity Labsの研究者が、ChatGPTのworkspace agent機能における脆弱性「AgentForge」を発見した。攻撃者がフィッシングリンクを含むメールを送信することで、標的となる企業のChatGPT環境内に悪意あるエージェントを自動作成・設定・配置でき、従業員の接続済みアカウント（Outlook、Teams、Slack等）を乗っ取ってデータ窃取やなりすまし行為が可能だった。OpenAIは6月4日に報告を受け4日後に修正を実施した。
S4重大事故C2単一の詳細な報告不明
JadePuffer: 初のAIエージェントによる完全自動ランサムウェア攻撃
研究者たちは、この「JadePuffer」と名付けられた今回の攻撃事例を 「AIエージェントが完全自律で実行した、初めてのランサムウェア攻撃」 だと考えている。 JadePufferは、まず Langflow の RCE 脆弱性を突いて侵入し、その後は AIエージェントが単独で動き続けた。 AIはターゲットの調査、資格情報の窃取、プロダクションDBへの横移動、権限昇格、そして大量の設定データの暗号化まで、一連の攻撃工程を自律的にこなした。 さらに、攻撃中に失敗が起きると、AIは状況を判断して リアルタイムでペイロードを修正しながら進行したという。
S3重大な影響C2単一の詳細な報告不明
Anthropic Claude Codeが中国拠点ユーザーと中国AI研究機関との関係を秘密に追跡、Alibabaが利用禁止に
Anthropicは、Claude Code(バージョン2.1.91〜2.1.196)に、ユーザーが中国に所在するか中国のAI研究機関に所属しているかを検出する隠れたコードを組み込んでおり、位置情報やID関連の識別子を同意なく遠隔サーバーへ送信していた。中国のCNVDおよびMIITがこの仕組みについて警告を発した。Anthropicのエンジニアは、この機能が3月にモデル蒸留対策の実験として導入され、7月1日リリースのバージョン2.1.198で削除されたことを確認した。研究者による発見を受け、Alibabaは社内でのClaude Code利用を高リスクと判定し禁止した。