Loading this page
הדף הזה באנגלית בינתיים.
בטחון AI · הממלכה המאוחדת
רשומה של מה שסוכני ה-AI שלכם החליטו.
כל החלטה מתחייבת לגיבוב של הקודמת לה. מחקו אחת והשרשרת נשברת, לא רק הספירה — והמבקר שלכם יכול להוכיח זאת בעצמו, בדפדפן שלו, בלי חשבון ובלי לשאול אותנו.
המאמת פועל כולו בדפדפן שלכם. דבר לא מועלה מה שאתם מדביקים בו.
יומן שקט נראה בדיוק כמו התנהגות טובה
כשמשהו משתבש בהחלטה אוטומטית, מישהו מבקש את היומן. מה שמגיע הוא רשימת שורות ממסד נתונים שהארגון הנבדק שולט בו, וכל שורה יכלה להיות מתוקנת או מוסרת לפני שנמסרה.
אף אחד לא כותב מחדש החלטה מביכה כדי שתגיד משהו אחר. הם מוחקים אותה. ויומן שחסרים בו שבועיים נקרא, לכל מי שיפתח אותו מאוחר יותר, בדיוק כמו שבועיים שבהם הסוכנים התנהגו כראוי.
חתימה על הייצוא לא מתקנת את זה. חתימה מוכיחה שהשורות שהוצגו לכם לא שונו. היא לא אומרת דבר על השורות שהוסרו לפני שהסתכלתם.
נסו לשבור את זה
רשמו כמה החלטות, כתבו אחת מחדש וראו מה קורה. זה פועל כולו בדפדפן שלכם, עם אותו אלגוריתם מפורסם שהפלטפורמה משתמשת בו — שום דבר לא נשלח לשום מקום, ושום דבר כאן לא הוכן מראש.
- אין עדיין החלטות. לחצו על רשמו החלטה כדי להתחיל שרשרת.
שלושה חלקים נעים
במוצר הזה אין למידת מכונה ואין שום דבר מוסק. הוא רושם את מה שהסוכנים שלכם אומרים לו, בצורה שלא ניתן לשנות בשקט אחר כך.
- 01
הסוכן שלכם מדווח
כמה שורות Python או TypeScript. ה-SDK לעולם לא חוסם את הסוכן שלכם ולעולם לא מפיל החלטה בשקט — כל מה שאינו יכול למסור מוצג כשגיאה שאפשר להגדיר לה התראה, כי אובדן שקט הוא בדיוק הכשל שהמוצר הזה קיים כדי למנוע.
- 02
הרשומה משורשרת
כל החלטה מגובבת יחד עם הגיבוב של ההחלטה הקודמת של אותו סוכן. הרשומות מתווספות בלבד במסד הנתונים, ונאכפות על ידי טריגרים ולא על ידי קוד היישום — כך שהתשובה לשאלה "האם מישהו יכול לשנות את זה?" היא לא, לא "אנחנו לא עושים את זה".
- 03
כל אחד יכול לבדוק
ייצאו את ההחלטות וחשבו מחדש את הגיבובים בעזרת כשלושים שורות קוד משלכם. האלגוריתם מפורסם, והמאמת שלנו פועל בדפדפן שלכם, כך שאנחנו לעולם לא רואים מה אתם בודקים.
מה הוא מסרב לעשות
אלה ההחלטות שהופכות את הרשומה לשווה משהו. כל אחת מהן עולה תכונה שמתחרה ימכור לכם בשמחה.
- הוא לא ייתן לכם ציון התאמה
- אחוז דורש מכנה של כל החובות, ורוב החובות לא ניתנות לצפייה בכלל על ידי פלטפורמת רישום. סעיף 14 של חוק ה-AI של האיחוד האירופי דורש שאדם יוכל לפקח באופן אפקטיבי על המערכת. אנחנו יכולים לספור כמה החלטות עברו בדיקה; איננו יכולים לומר לכם אם הבודק הבין את מה שאישר או אם יכול היה לעצור זאת. סימן ירוק שם היה נותן לכם נחמה תיעודית על בקרה שאף אחד לא ביקר.
- הוא לא יסווג את המערכת שלכם
- לפי חוק ה-AI, האם מערכת היא בסיכון גבוה תלוי במטרה המיועדת שלה ובהקשר ההפעלה שלה. איננו רואים אף אחד מהם. דרגת סיכון שמוקצית אוטומטית הייתה ארטיפקט התאמה מומצא שיושב ברשומה שתסתמכו עליה מאוחר יותר, ולכן השדה נשאר בלתי מוצהר — ומדווח כפער פעיל — עד שתמלאו אותו.
- הוא לא יפסיק להקליט כשהכרטיס שלכם יפוג
- הקליטה אינה מאחורי רמת תוכנית ולעולם לא תהיה. אם ההקלטה הייתה נעצרת בשל כשל בחיוב, הייתם מסיימים עם יומן שחסר בו שבועיים, והפער הזה נקרא בדיוק כמו שבועיים שבהם הסוכנים שלכם התנהגו כראוי. למכור מניעה של הכשל הזה תוך כדי גרימתו יהיה בלתי ניתן להגנה.
- הוא לא ידחה סוכן לא רשום
- הפניה לסוכן לא מוכר נרשמת מיד במקום להידחות, כי החלטה שנדחתה היא החלטה שאבדה. היא מסומנת כלא מוצהרת ומופיעה כסימון בכל תגובה, עד שמישהו יציין בעלים ורמת סיכון.
נבדק לפי מה שהמבקר שלכם ישאל עליו
כל חובה מקובצת לפי מי שיכול באמת לענות עליה. המספר שאיננו יכולים להעריך מוצג באותו גודל כמו זה שאנחנו יכולים — אלה שמבקר מעלה ראשונים, ואלה שכל לוח מחוונים אחר מסתיר.
EU AI Act
סעיפים 12, 14, 19, 26(6) ו-73 — שמירת רשומות, פיקוח אנושי, שמירת יומנים ואירועים חמורים. תקנה (EU) 2024/1689.
UK ATRS
ה-Algorithmic Transparency Recording Standard, רמה 1 ורמה 2 — הבעלים הרשום, המפרט הטכני ובקרת השינויים שעליהם נשענת סקירת אירוע.
UK GDPR
סעיף 22 בדבר החלטות אוטומטיות בלבד וסעיף 30 בדבר רשומות עיבוד. אנחנו מספקים את הספירה; האם סעיף 22 חל הוא שיקול משפטי על מקרה השימוש שלכם, ואיננו עושים אותו.
ISO/IEC 42001
ראיות לתחום הבקרה של רישום אירועי מערכת ה-AI. ההסמכה ניתנת על ידי גוף מוסמך שמעריך מערכת ניהול, לעולם לא על ידינו.
NIST AI RMF
הפונקציות MEASURE ו-MANAGE. המסגרת וולונטרית ואינה ניתנת להסמכה, ולכן זה מוכיח מדידה ולא התאמה — אין התאמה שאפשר לטעון לה.
המדיניות שלכם
כל החלטה יכולה לשאת את גרסת המדיניות או הפרומפט שהיו בתוקף באותו זמן, כך שאפשר לקשור שינוי בהתנהגות לשינוי שגרם לו. זו השאלה שנשאלת אחרי כל אירוע.
אל תקחו את המילה שלנו על אף אחד מאלה
כלי אימות שמופעל על ידי החברה ששומרת את הרשומות מוכיח מעט מאוד. הדביקו כל ייצוא של AgentAudit במאמת, שנו תו אחד, וראו איך הוא אומר לכם בדיוק איזו החלטה השתנתה ובאיזה מספר רצף. הוא פועל בדפדפן שלכם; לא נשלח אלינו דבר.
פתחו את המאמת