Loading this page
このページは現在英語です。
静かなログは、まさに正しい振る舞いのように見える
自動化された決定で問題が起きると、誰かがログを求めます。届くのは、審査対象の組織が管理するデータベースの行の一覧です。引き渡される前に、どの行も編集されたり削除されたりした可能性があります。
誰も、都合の悪い決定を別のことを言うように書き換えたりはしません。削除するのです。そして、二週間分が欠けているログは、後で開く人にとって、エージェントが正しく振る舞った二週間とまったく同じに読めてしまいます。
エクスポートに署名しても、この問題は解決しません。署名が証明するのは、見せられた行が改変されていないことだけです。あなたが見る前に取り除かれた行については、何も証明しません。
壊してみてください
いくつかの決定を記録し、ひとつを書き換えて、何が起きるかを確認してください。これはプラットフォームが使うのと同じ公開アルゴリズムを使って、すべてお使いのブラウザ内で動作します。どこにも何も送信されず、ここにあるものはあらかじめ用意されていません。
- まだ決定がありません。決定を記録 を押して鎖を始めてください。
動く三つの部分
この製品には機械学習もなく、何かを推測することもありません。エージェントが伝えた内容を、後から密かに変更できない形式で書き留めます。
- 01
エージェントが報告する
Python または TypeScript の数行。SDK がエージェントを止めることはなく、決定を黙って落とすこともありません。届けられないものはエラーとして表示され、そこにアラートを設定できます。黙って失われることこそ、この製品が防ぐために存在する失敗だからです。
- 02
記録は連鎖している
各決定は、同じエージェントの前の決定のハッシュと一緒にハッシュ化されます。記録はデータベースで追記のみが可能で、アプリケーションのコードではなくトリガーによって強制されます。「誰かがこれを改変できるか？」の答えは、「そうしていない」ではなく「できない」です。
- 03
誰でも確認できる
決定をエクスポートし、約三十行の自分のコードでハッシュを再計算します。アルゴリズムは公開されており、当社の検証ツールはお使いのブラウザで動作するため、あなたが何を確認しているかを当社が見ることはありません。
しないことを拒否するもの
これらの決定こそが、記録に価値を与えています。どれも、競合他社が喜んで売ろうとする機能を手放すことを意味します。
- コンプライアンススコアは提供しません
- パーセンテージには、すべての義務を分母とすることが必要です。しかし、ほとんどの義務はログ記録プラットフォームからはまったく観察できません。EU AI 法の第 14 条は、人間がシステムを実効的に監督できることを求めています。審査を受けた決定の数は数えられますが、審査者がその承認内容を理解していたか、あるいは止められたかどうかは分かりません。そこに緑のチェックマークを付ければ、誰も監査していない統制について、文書上の安心感を与えてしまいます。
- あなたのシステムを分類しません
- AI 法の下で、あるシステムが高リスクかどうかは、その意図された目的と導入の文脈によって決まります。当社はそのどちらも見ることができません。自動的に割り当てられたリスク階層は、後で頼ることになる記録の中に置かれた、でっち上げのコンプライアンス成果物になってしまいます。そのためこの項目は、あなたが記入するまで未申告のままとなり、未解決のギャップとして報告されます。
- カードの期限が切れても記録を止めません
- 取り込みはプランの階層の背後にはなく、今後もそうなることはありません。請求の失敗で記録が止まれば、二週間分が欠けたログが残ります。そしてその欠落は、エージェントが正しく振る舞った二週間とまったく同じに読めてしまいます。その失敗を自ら引き起こしながら、その防止を売ることは擁護できません。
- 未登録のエージェントを拒否しません
- 不明なエージェント参照は、拒否されるのではなく、見つかった時点で登録されます。拒否された決定は失われた決定だからです。所有者とリスク階層が指定されるまで、未申告として印が付けられ、すべての応答で警告されます。
監査人が尋ねることに照らして評価
すべての義務は、誰が実際にそれに答えられるかによってグループ分けされています。評価できない件数は、評価できる件数と同じ大きさで示されます。監査人が最初に取り上げるのはこちらであり、他のすべてのダッシュボードが隠しているのもこちらです。
EU AI Act
第 12、14、19、26(6)、73 条 — 記録の保持、人による監督、ログの保存、重大インシデント。規則（EU）2024/1689。
UK ATRS
Algorithmic Transparency Recording Standard、レベル 1 およびレベル 2 — 指定された所有者、技術仕様、そしてインシデントの振り返りが依拠する変更管理。
UK GDPR
完全に自動化された決定に関する第 22 条と、処理の記録に関する第 30 条。件数はお渡しします。第 22 条が適用されるかどうかは、お客様のユースケースに関する法的判断であり、当社はその判断を行いません。
ISO/IEC 42001
AI システムのイベント記録の統制領域に向けた証拠。認証は、マネジメントシステムを評価する認定機関が行うもので、当社が行うことはありません。
NIST AI RMF
MEASURE と MANAGE の各機能。このフレームワークは任意であり認証できないため、これは適合ではなく測定を裏付けます。主張すべき適合は存在しません。
お客様自身のポリシー
各決定は、その時点で有効だったポリシーやプロンプトのバージョンを持つことができるため、振る舞いの変化を、それを引き起こした変更に結び付けられます。すべてのインシデントの後に問われるのはこの点です。
これらのいずれについても、私たちの言葉を鵜呑みにしないでください
記録を保管している企業が運用する検証ツールでは、ほとんど何も証明できません。AgentAudit のエクスポートを検証ツールに貼り付け、一文字だけ変えてみてください。どの決定がどの連番で変わったかを、正確に示してくれるはずです。ブラウザ内で動作し、当社に何かが送られることはありません。
検証ツールを開く