AI を制御するのは後ではなく、実行前です

AI が行動できる場合、実行前に制御が移行する必要がある

AIが分析結果のみを生成する段階では、事後レビューで十分でした。しかし、エージェントが権限の変更、予算の支出、顧客へのメッセージ送信などを実行できるようになった今、事後レビューは既に発生した問題の記録に過ぎません。規制当局は、そのリスクを明確に示しています。EU AI法に基づき、高リスクAIには文書化、監視、透明性に関する義務が課せられ、市場監視当局は法令違反システムの撤回を要求でき、罰金は1,500万ユーロまたは全世界年間売上高の3%のいずれか高い方となります。

内部リスクも同様に深刻です。アナリストは、不正なAIアクティビティの大部分は攻撃者によるものではなく、通常のポリシー違反（過剰な情報共有、不適切な使用、エージェントの誤った動作など）によるものであることを発見しました。これはまさに、実行前認証と完全なトレーサビリティによって防止できるものです。ガバナンスはポリシー文書から実行時制御へと移行しており、専用のAIガバナンス機能は稀なものから標準的なものへと変化しつつあります。

• 高リスクの AI 義務には 2026 年から執行権限があり、最大 1,500 万ユーロまたは世界の年間売上高の 3% までの罰金が科せられます。 — EU AI 法 — 欧州委員会 ↗
• 2026 年までに、不正な AI トランザクションの少なくとも 80% は、外部からの攻撃ではなく、内部ポリシー違反に起因すると予想されます。 — ガートナー AI TRISM (2025) ↗
• 2028 年までに、大規模組織の 25% が専任の AI ガバナンス チームを抱えることになりますが、2023 年には 1% 未満でした。 — ガートナー AI TRISM (2025) ↗

完全なトレーサビリティを備えた実行前承認

すべてのリクエストは、3層構造のピラミッド（エンティティ（どのobjectか？）、アクション（どの操作を行うか？）、スコープ（どの程度までか？））を通過する前に評価されます。アクションは、読み取り専用分析、推奨、制御された書き込み、高リスク実行の4つの段階に分類され、それぞれに段階的に厳格な認可が課されます。つまり、影響度が高いほど、リクエストが実行される前に、より多くの制御がクリアされます。エージェントはワークフローのコンテキストに制約されます。ワークフローで公開されているもののみを参照し、認可されたツールのみを使用し、許可されたコンテンツのみを生成します。

人間とAIオペレーターは同じガバナンスロジック（2つではなく1つのルールセット）に基づいて運用され、すべてのアクションはシナリオ、ノード、判断、ルール、結果とともにログに記録されるため、すべての決定は監査可能かつ取り消し可能です。データ所在地はAzure地域（米国、EU、アジア）ごとに設定可能で、プラットフォームはSOC 2 Type II監査済み、ISO 27001認証済みであるため、ポリシー文書に規定するのではなく、実行時に制御が適用されます。