権限昇格
権限昇格とは、想定していた範囲を超える権限を、結果的に獲得してしまう状態のことです。
別表記：権限昇格／Privilege Escalation／特権昇格
攻撃だけで起きるわけではない
AIの場合、設計の積み重ねで起こることがあります。
動作確認のために広い権限を渡し、そのまま本番に移る。複数のシステムに接続するうちに、それぞれの権限が合わさって想定外の範囲に届く。作業を分担させる別のAIに、親と同じ権限をそのまま渡してしまう。
どれも悪意があって起きることではありません。動かすことを優先すると、こうなるというだけです。
防ぎ方
与えるときに絞ることに尽きます。
あとから広い権限を回収するのは、業務が動き出したあとでは難しくなります。「いま使っているかもしれない」という理由で先送りされ、そのまま残ります。最初に必要最小限で始め、足りなければ足す、という順序が現実的です。
期限を切っておくことも有効です。期限のない権限は、いずれ誰も管理しなくなります。期限付きで発行しておけば、放置された権限が自然に消えていきます。
