自律エージェントを EU AI Act に備えさせる

自律エージェントは、まさに EU AI Act が統制の対象として書かれた種類のシステムです:意思決定を下す、あるいは実質的に方向づけるソフトウェアであり、多くの場合は高リスク領域で動き、結果に至った経緯への人間の可視性は限られています。その義務は抽象的なものではありません。高リスクシステムに対して同法が求めるのは、人的監督、運用のログ記録とトレーサビリティ、アクセス制御、そして市販後モニタリングです。良い知らせは、それぞれの義務が、強制できるランタイム制御と、エクスポートできる記録に還元されるということです。

何よりも先に、正直さについて一言:認証を手渡せるソフトウェアベンダーは存在しません。Cortex は同法の義務に向けて作られ、その義務に整合しています — 制御を強制し、証跡を生成します — が、規制上の責任は依然としてお客様にあります。そうでないと主張するものがあれば、警戒すべきです。

義務から制御へ、一つずつマッピングする

運用面での備えのコツは、規制を散文として扱うのをやめ、それぞれの義務をゲートとして扱い始めることです。中核となる高リスク義務が Cortex ランタイムとどう対応するかを示します:

• 高リスクな意思決定に対する人的監督 -> Oversight Modes と承認ゲート。高リスクのアクションは自動実行されず、指名された承認者を待って保留となり、その判断と承認者が記録されます。
• 運用のログ記録とトレーサビリティ -> 改ざん検知可能な Trust Ledger。すべての実行と判断がハッシュチェーンで連結され、verifyChain がログの未改変を証明します。
• 権限を持つロールに限定されたアクセス -> Agent IAM とオントロジー権限。制限付きの読み取りは 403 を返し、期限切れのIDはトークンを発行することすらできません。
• リソースと支出の上限 -> コストガバナンスのハード上限。予算超過の実行は、無制限に走る代わりに 402 を返します。
• 実在の出典に根拠づけられた判断 -> データポイント来歴。提示されるすべての事実が、リネージチェーンを通じて出典文書・ページ・バウンディングボックスまで遡ってリンクします。

証明できる人的監督

「人的監督」は、チームが最も曖昧に済ませがちな義務です。同法が問うのは、人が原理的に介入できるかどうかではなく、監督が実在し実効的かどうかです。Cortex はこれを、Oversight Modes のスペクトラムとして具体化します — エージェントが提案しかできず、すべてのアクションが保留になる suggest_only から、アクション自身のリスク下限だけが保留になる autonomous まで。決定的な性質は、アクションの高リスク下限があくまで下限であることです:監督はそれを厳しくできても緩めることはできず、最もリスクの高い判断には常に人が関与し続けます。

人が実際に介入するとき — 緊急のブレークグラスによるオーバーライドを含めて — その判断には必須かつ監査される理由が伴い、台帳にイベントが記録されます。痕跡を残さない監督は監督ではなく、自らを証明できる監督こそが監督です。

調査官の検証に耐えるトレーサビリティ

ログの価値は、その完全性の分しかありません。黙って書き換えられるログは、誤った安心を生むぶん、ログがないよりも悪いものです。Cortex はすべての監査イベントをハッシュチェーンの台帳に封印し、任意の範囲について完全性を検証できます — 誰かが改ざんしていれば、チェーンが切れた正確なシーケンス番号を返します:

GET /v1/audit/verify?fromSeq=1&toSeq=20000
  -> { "ok": true, "brokenAtSeq": null,
       "head": { "seq": 20000, "hash": "..." } }

# いずれかのレコードを改ざんすると、同じ呼び出しが
# 切れたシーケンス番号とともに ok:false を返す。

マッピングし、強制し、証明する

備えることは、一度きりのプロジェクトではなく3ステップのループです。それぞれの義務を、それを強制するランタイムゲートにマッピングします。すべての実行でそれを強制し、拒否された制御が黙って通るのではなく実際のコードを返すようにします。そして Compliance Pack をエクスポートして証明します — 義務と制御の対応表に加え、各制御が発動したことを示す封印済みの台帳レコードが付き、オフラインで検証できます。

このやり方をすれば、同法は最後に付け足すコンプライアンス上の負担であることをやめ、ランタイムがすでにどう振る舞っているかの記述になります。証跡は統制された運用の副産物として生成されます — 監査の前週に手作業でかき集めるものではありません。