Loading this page
Ez az oldal egyelőre angolul van.
MI-biztosítás · Egyesült Királyság
Feljegyzés arról, mit döntöttek a mesterséges intelligencia ügynökei.
Minden döntés elkötelezi magát az előző hash-ére. Töröljön egyet, és a lánc megszakad, nem csak a szám — az ellenőrzője pedig maga is bizonyíthatja ezt a saját böngészőjében, fiók nélkül és minket nem kérdezve.
Az ellenőrző teljes egészében a böngészőjében fut. Semmi, amit beilleszt, nem töltődik fel.
A néma napló pontosan úgy néz ki, mint a jó viselkedés
Amikor egy automatizált döntésnél valami rosszra fordul, valaki kéri a naplót. Ami megérkezik, az egy adatbázis sorainak listája, amelyet a vizsgált szervezet ellenőriz, és bármelyik sort szerkeszthették vagy eltávolíthatták, mielőtt átadták.
Senki nem írja át a kellemetlen döntést, hogy mást mondjon. Törlik. És a két hétből hiányzó napló bárkinek, aki később megnyitja, pontosan úgy olvasódik, mint két hét, amikor az ügynökök helyesen viselkedtek.
Az export aláírása ezen nem segít. Az aláírás bizonyítja, hogy a megmutatott sorok változatlanok. Arról, hogy mi került ki még azelőtt, hogy ránézett volna, egyáltalán nem mond semmit.
Próbálja meg eltörni
Rögzítsen néhány döntést, írjon át egyet, és nézze meg, mi történik. Ez teljes egészében a böngészőjében fut, ugyanazzal a közzétett algoritmussal, amelyet a platform használ — semmi nem kerül sehová, és itt semmi nincs előre elkészítve.
- Még nincsenek döntések. Láncolat indításához nyomja meg a(z) Döntés rögzítése gombot.
Három mozgó alkatrész
Ebben a termékben nincs gépi tanulás, és semmit sem következtetnek. Feljegyzi, amit az ügynökei mondanak neki, olyan formában, amelyet utólag nem lehet csendben megváltoztatni.
- 01
Az ügynöke jelent
Néhány sor Python vagy TypeScript. Az SDK soha nem blokkolja az ügynökét, és soha nem ejt el csendben egy döntést — ami nem továbbítható, hibaként jelenik meg, amelyre riasztást állíthat be, mert a csendes elvesztés pontosan az a hiba, amelynek megelőzésére ez a termék létezik.
- 02
A bejegyzés láncolt
Minden döntés ugyanazon ügynök előző döntésének hash-ével együtt kerül hash-elésre. A bejegyzések az adatbázisban csak hozzáfűzhetők, ezt triggerek érvényesítik, nem az alkalmazáskód — így a „megváltoztathatja ezt valaki?” kérdésre a válasz nem, nem pedig az, hogy „mi nem tesszük”.
- 03
Bárki ellenőrizheti
Exportálja a döntéseket, és számítsa újra a hash-eket mintegy harminc sor saját kódjával. Az algoritmus közzétett, a saját ellenőrzőnk pedig a böngészőjében fut, így soha nem látjuk, mit ellenőriz.
Amit nem hajlandó megtenni
Ezek a döntések teszik értékessé a bejegyzést. Mindegyik olyan funkcióba kerül, amelyet egy versenytárs szívesen eladna Önnek.
- Nem ad megfelelőségi pontszámot
- Egy százalékhoz az összes kötelezettség nevezője kell, a legtöbb kötelezettséget pedig egy naplózó platform egyáltalán nem tudja megfigyelni. Az EU MI-rendelet 14. cikke megköveteli, hogy egy ember hatékonyan felügyelhesse a rendszert. Meg tudjuk számolni, hány döntés esett át felülvizsgálaton; azt nem tudjuk megmondani, hogy a felülvizsgáló értette-e, amit jóváhagyott, vagy megállíthatta-e volna. Egy zöld pipa ott dokumentált megnyugvást adna egy olyan kontrollról, amelyet senki sem auditált.
- Nem sorolja be a rendszerét
- Az MI-rendelet szerint az, hogy egy rendszer nagy kockázatú-e, a rendeltetésétől és az alkalmazási környezetétől függ. Ezek közül egyiket sem látjuk. Egy automatikusan hozzárendelt kockázati szint egy kitalált megfelelőségi műtárgy lenne egy olyan bejegyzésben, amelyre később támaszkodna, ezért a mező nyilatkozat nélkül marad — és aktív hiányosságként jelenik meg — amíg Ön ki nem tölti.
- Nem áll le a rögzítéssel, amikor lejár a kártyája
- A rögzítés nem áll egy csomagszint mögött, és soha nem is fog. Ha a rögzítés fizetési hiba miatt leállna, egy olyan naplóval maradna, amelyből hiányzik két hét, és ez a rés pontosan úgy olvasódik, mint két hét, amikor az ügynökei helyesen viselkedtek. Ennek a hibának a megelőzését eladni úgy, hogy közben magunk okozzuk, megvédhetetlen lenne.
- Nem utasít vissza egy nem regisztrált ügynököt
- Egy ismeretlen ügynökhivatkozás azonnal regisztrálódik, ahelyett hogy elutasítanák, mert az elutasított döntés elveszett döntés. Nyilatkozat nélküli jelölést kap, és minden válaszon meg van jelölve, amíg valaki meg nem nevez egy tulajdonost és egy kockázati szintet.
Mérve aszerint, amit az ellenőrzője kérdezni fog
Minden kötelezettség aszerint van csoportosítva, hogy ki tud rá valójában válaszolni. Azt a számot, amelyet nem tudunk értékelni, ugyanolyan méretben jelenítjük meg, mint azt, amelyet tudunk — ezek azok, amelyeket egy ellenőr elsőként felvet, és amelyeket minden más műszerfal elrejt.
EU AI Act
12., 14., 19., 26(6). és 73. cikk — nyilvántartás-vezetés, emberi felügyelet, naplómegőrzés és súlyos események. (EU) 2024/1689 rendelet.
UK ATRS
Az Algorithmic Transparency Recording Standard, 1. és 2. szint — a megnevezett tulajdonos, a műszaki specifikáció és a változáskezelés, amelyen egy incidensvizsgálat múlik.
UK GDPR
A 22. cikk a kizárólag automatizált döntésekről és a 30. cikk az adatkezelési nyilvántartásokról. Mi a számot szolgáltatjuk; hogy a 22. cikk érvényes-e, az az Ön felhasználási esetével kapcsolatos jogi megítélés, amelyet mi nem végzünk el.
ISO/IEC 42001
Bizonyítékok az MI-rendszer eseménynaplózási kontrollterületéhez. A tanúsítványt egy akkreditált szerv adja ki, amely egy irányítási rendszert értékel, soha nem mi.
NIST AI RMF
A MEASURE és a MANAGE funkciók. A keret önkéntes és nem tanúsítható, ezért ez a mérést igazolja, nem a megfelelést — nincs megfelelés, amit állítani lehetne.
Saját szabályzatai
Minden döntés hordozhatja az akkor hatályos szabályzat vagy prompt verzióját, így egy viselkedésváltozás összekapcsolható azzal a változtatással, amely okozta. Ez az a kérdés, amelyet minden incidens után feltesznek.
Ne fogadja el a szavunkat ezek egyikében sem
A bejegyzéseket tároló cég által üzemeltetett ellenőrző eszköz nagyon keveset bizonyít. Illessze be bármely AgentAudit-exportot az ellenőrzőbe, módosítson egyetlen karaktert, és nézze meg, hogy pontosan megmondja, melyik döntés változott meg és melyik sorszámnál. A böngészőjében fut; semmi nem kerül hozzánk.
Az ellenőrző megnyitása