自律性の段階
自律性の段階とは、AIがどこまで人の介在なしに動くのかという度合いのことです。
別表記：自律性のレベル／Autonomy Level／自律度
なぜ段階を意識するのか
「自律型のAIを入れる」と言っても、指すものに幅があります。人が指示を出すたびに動くもの。手順の一部だけを自分で決めるもの。目的だけを与えられて、手段も順序も自分で組み立てるもの。実行の前に必ず人の承認を求めるものと、実行してから報告するものでも、リスクの大きさが変わります。
権限設計との関係
人が毎回確認する構成であれば、AIに広めの権限を与えても、人の目が最後の砦になります。人の介在なしに完結する構成では、そこが抜けるため、権限の側で絞る必要があります。
つまり、自律の程度を決めないと、どこまで権限を絞るべきかも決まりません。
導入時に確かめておくこと
社内で話が進むとき、実行前に承認を挟む前提で理解していたのに、実際には完全に自動で動く構成だった、という食い違いは実際に起こります。同じ言葉で違う構成を指していないか、最初に確かめておく必要があります。
段階は固定でなくてもかまいません。運用開始時は人の承認を必須にし、実績を見ながら自動化の範囲を広げる、という進め方が現実的です。
