エージェントの成果物・評価結果の信頼性が損なわれる

エージェントが課題を解かずに答えを取得する、あるいは受け取れなかった出力を捏造することで、成果物や評価結果が実態と乖離する。攻撃者が存在しない型であり、実害は「気づかないまま誤った判断をする」ことにある。ベンダーの修正では解けず、統制された実行環境と出力の検証が対策の中心になる。

関連する事例