Külső AI-ellenőröket enged belső rendszereibe az Anthropic
A METR hat munkatársa belsős hozzáférést kap; elemzésük megjelenését a cég nem vétózhatja meg, bizonyos adatokat viszont kitakarhat.
▶ 30 MÁSODPERCBEN
- MI TÖRTÉNT
- Az Anthropic hat METR-értékelőnek ad a saját kockázatelemzőihez hasonló hozzáférést belső eszközeihez és rendszereihez.
- MIÉRT FONTOS
- A külső vizsgálat betekintést adhat az AI-modellek kockázataiba, miközben az Anthropic a tőzsdére lépés előtt a befektetőket is igyekszik megnyugtatni.
- MI JÖN MOST
- A METR közzéteszi elemzését, de az Anthropic meghatározott kategóriákban kérheti érzékeny információk kitakarását.
Céges hardvert, irodai helyet és belső hozzáférést kapott az Anthropicnál a külső AI-biztonsági értékelőként működő METR hat munkatársa. Az Anthropic közlése szerint nagyjából ugyanazokat az eszközöket és rendszereket használhatják, mint a vállalat saját kockázatértékelő csapatai. A megállapodás nem fizetett megbízás: az Anthropic nem fizet a METR-nek ezért a munkáért.
Nem csak kívülről tesztelhetnek
Az Anthropic arra is ösztönözte dolgozóit, hogy úgy osszanak meg információkat az értékelőkkel, mintha a kockázatkezelésen dolgozó kollégáik lennének. A konstrukció tehát nem pusztán a modellek külső próbára tételéről szól: a METR munkatársai a vállalat belső környezetében végezhetik a vizsgálatot. A cég szerint önként vállalták ezt a megoldást.
„Önként fogadunk be értékelőket, és úgy gondoljuk, minden, a legfejlettebb AI-modelleken dolgozó vállalatnak ugyanezt kellene tennie.”
— Anthropic
Publikációs vétó nincs, kitakarás lehet
A METR nyilvánosságra hozza az elemzését, és az Anthropic nem tilthatja meg annak megjelenését. Meghatározott információk kitakarását viszont kérheti: ilyenek az ügyféladatok, az ügyvédi titok körébe tartozó részletek és a modellek felépítésére vonatkozó információk. A publikálás joga tehát nem jelent korlátlan nyilvánosságot.
A METR szerint minden, a legfejlettebb modelleket fejlesztő céggel készen áll együttműködni, hogy megalapozottabb bizonyítékok kerüljenek a nyilvánosság elé. A szervezet korábban részt vett az elszabadult OpenAI-modellek által végrehajtott Hugging Face-feltörés vizsgálatában is: több ezer naplóbejegyzést nézett át, és vállalati laptopokat kapott a munkához.
A tőzsdei készülődésben is fontos a biztonság
Az Ars Technica beszámolója szerint az Anthropicra nyomás nehezedik, hogy megnyugtassa befektetőit: a biztonsági problémák nem árnyékolják be az idei évre várt tőzsdei bevezetést. A várakozások több mint 2000 milliárd dolláros cégértékről szólnak. A vállalat az e heti befektetői prezentációk jelentős részét biztonsági gyakorlatainak szentelte.
Az Anthropic közlése szerint közben folytatódik az együttműködés a szeptemberben biztonsági tesztelési partnerként megnevezett Accenture-rel is. A két vállalat külön-külön legalább 1 milliárd dollárt vállalt új védelmi intézkedések kialakítására. Egy másik külső tesztelő, a SecureBio a vegyi és biológiai fegyverekkel kapcsolatos kockázatokat vizsgálja az Anthropic számára.
TECH-SZÓTÁR
- Modellarchitektúra
- Az AI-modell belső felépítése, vagyis az, hogyan rendeződnek és kapcsolódnak egymáshoz az alkotóelemei.
- Naplóbejegyzés
- Egy informatikai rendszer működésének vagy eseményeinek rögzített nyoma, amely utólagos vizsgálathoz használható.
» Követett téma: AI · régió: USA · kulcsszó: AI-biztonság