説明責任（Accountability）
説明責任とは、実行された行為について、その根拠を後から示せる状態にあることです。
別表記：説明責任／Accountability／アカウンタビリティ
何を説明するのか
事故が起きたあとに問われるのは、たいてい次の点です。
- なぜその操作が実行されたのか
- 誰がそれを許可していたのか
- 想定の範囲内だったのか、範囲外だったのか
- 気づいてから止めるまでに何をしたのか
これらに答えられなければ、原因の究明も、再発の防止も、取引先や監督官庁への報告もできません。
AIの場合に難しくなる点
AIは指示を解釈して動くため、「なぜその判断をしたのか」を完全に説明することはできません。同じ指示で毎回同じ結果になるとも限りません。
したがって、判断の理由ではなく、権限の根拠を説明できるようにしておくことになります。このAIには、誰の許可で、何をどこまで実行してよいと決められていたのか。ここが記録として残っていれば、少なくとも範囲内だったのか範囲外だったのかは示せます。
よくある誤解：記録さえ残っていれば説明できるのか
記録が分散していて突き合わせられない、保存期間が過ぎている、書き換えられた可能性を否定できない。こうした状態では、記録があっても説明の材料になりません。
残すことと、証拠として使えることは別だと考えておく必要があります。
AIエージェント×VC連携に関する記事
まずはお気軽に
お問い合わせください。