Confused Deputy 問題
Confused Deputy 問題とは、正当な権限を持つ主体が、他者にだまされてその権限を使わされてしまう、という構造的な脆弱性のことです。 日本語では「混乱した代理人」と訳されます。
別表記：Confused Deputy／混乱した代理人／混乱した代理人問題
AIエージェントがこの構造に当てはまる
AIエージェント、つまり目的を伝えると手順を組み立てて実行まで行うAIは、社内システムへの正規の権限を持ちます。そして渡された文章を疑いません。
不審なメールが届いたとき、人であれば送信元を確認したり同僚に相談したりします。AIにその習慣はありません。
攻撃する側から見れば、自分では入れない場所に代わりに入ってくれる相手、ということになります。しかもAIは24時間動くため、深夜のアクセスも大量の処理も不審に見えません。人のアカウントなら警告が出る挙動が、AIでは通常動作として通ります。
対策の方向
権限を持つ主体の側で判断させないことです。誰の依頼で、何をしてよいのかを、実行のたびに外部から確認する。AIの判断に頼らず、その手前で範囲を確かめる構成にしておきます。
あわせて、そもそも渡す権限を必要最小限にしておけば、だまされたときの被害もその範囲で止まります。
