AIエージェント
AIガバナンスの必要性と基本原則
公開日 ：
AIガバナンスは、利用を禁じるルールづくりではありません。AIエージェントを使い続けられる状態をつくるための設計です。なぜいま必要になったのかと、現場で押さえるべき基本原則を整理します。
リード
AIガバナンスというと、利用を制限するルール作りだと受け取られがちです。実際は逆で、使い続けられる状態を作るための設計です。なぜいま必要になったのか、そして何から手をつければよいのかを整理します。
なぜ、いま必要になったのか
多くの企業で、AIの利用ルールは禁止事項の一覧として作られてきました。機密情報を入力しない、社外に出さない、といった内容です。
生成AIを相談相手として使う段階では、それで足りていました。AIの出力は文章であり、それをどう使うかは人が決めていたからです。判断も実行も人の側にある以上、ルールは入力の管理だけで済みました。
AIエージェントが業務を実行するようになると、話が変わります。資料の整理、社内システムの検索、メールの送信、データの登録といった行為そのものをAIが担うため、AIの出力が業務上の結果として直接現れます。ここで必要になるのは、何を禁止するかではなく、何を、どこまで、誰の責任で任せるかという判断です。
現実には、その判断がないまま導入が進んでいるケースのほうが多いのが実情です。部門ごとにツールを入れ、それぞれが独自に外部サービスと接続し、情報システム部門が全体像を把握できていない。この状態で事故が起きると、原因の特定にも復旧にも時間がかかります。
外からの要請も強まっています。国内では事業者向けのガイドラインが整備され、海外ではAIの利用に関する規制が動き出しました。取引先から自社のAI利用体制を問われる場面や、内部監査でAIの管理状況を確認される場面も出てきています。整備を先送りにすると、後から一気に負債になります。
棚卸しから始める
社内でどんなAIエージェントが、どの業務で、どのシステムに接続して動いているか。ここが分かっていない状態では、他のどの対策も打てません。
把握すべきは、そのAIが何をするものかだけではありません。どのアカウントで、どのシステムに、どんな権限でつながっているかまで確認する必要があります。個人のアカウントや共有アカウントが流用されている場合、それは棚卸しの対象からも監査の対象からも外れてしまいます。
権限は必要な範囲にとどめる
AIエージェントに与える権限は、その業務に必要な最小限にとどめます。当たり前のようですが、実際には「とりあえず動かすために広めの権限を渡した」まま本番になっている例が少なくありません。
どのフォルダやシステムを対象にするか、読むだけか書き換えてよいか、一度に扱える件数はどこまでか、接続先はどこまでか。限定できる軸はいくつもあります。限定しておけば、誤作動が起きたときの被害はその範囲で止まります。
期限を必ず切る
期限のない権限は、いずれ誰も管理しなくなります。AIエージェントの権限は、原則として期限付きで発行し、必要なら更新する。この形にしておくと、放置された権限が自然に消えていきます。
プロジェクト単位、案件単位で発行する運用が向いています。
人が判断する境界を決めておく
すべてを自動化しようとすると、どこかで必ず無理が出ます。社外に出る情報を含むか、取り消せる操作か、影響がどこまで及ぶか。こうした点を基準に、ここから先は人が承認するという線を先に引いておきます。
線の引き方に正解はありませんが、間違えたときに取り消せるかどうかは実用的な基準になります。取り消せない行為には、人の承認を挟む。
記録を残す
事故が起きたあとに問われるのは、なぜそれが実行されたのか、です。誰が何を委任し、AIがどの権限に基づいて何を実行したのか。これを後から示せなければ、原因の究明も、社内外への説明もできません。
実行のログだけでは足りません。権限を与えた側の記録が必要です。
止め方を決めておく
想定外の動きをしたとき、どこで、誰が、どうやって止めるのか。これを事前に決めておきます。担当者が席にいない時間帯や、外部サービス上で動いている場合、複数のAIが連鎖している場合など、条件によって止め方は変わります。実際に止められるかどうかは、試してみないと分かりません。
権限の失効が即座に反映される仕組みになっているかも、あわせて確認しておく必要があります。
誰が所管するのか
技術的な対策以上に難しいのが、体制の問題です。
AIエージェントの導入は業務部門が主導することが多く、一方で権限管理と監査は情報システム部門や内部統制の担当になります。ここが分断されていると、業務部門は動けばよいで進み、管理側は事後にしか関われません。
明確な正解はありませんが、少なくとも導入の段階で管理側が関わる仕組みは要ります。稟議のプロセスに権限設計の項目を入れる、といった地味な手当てが効きます。
始め方
全社的な制度設計から入ると、たいてい止まります。リスクの高い業務をひとつ選び、その範囲で棚卸しから権限設計、記録、停止手順までを一通り作る。運用してみて無理のあるところを直し、それから他の業務に広げる。
小さく始めて、実際に回してみる。AIエージェントの分野は変化が速く、机上で完成させた制度は、導入の頃には古くなっています。
なお、ここで挙げた原則のうち、権限の限定、期限、委任の記録については、運用ルールや目視の確認に頼らず、技術的に担保する方法があります。VC（Verifiable Credentials）を使った権限の設定と検証がそれにあたります。
