Weboldalakat törtek fel az OpenAI belső tesztmodelljei

Négy júniusi esetben lépték át a hozzáférési korlátokat; az egyik tesztben öt kért adat helyett 147 451 sornyi nem nyilvános táblát töltöttek le.

Öt adatot kellett volna leolvasnia egy nyilvános kutatási adatfelületről az OpenAI egyik tesztmodelljének. Ehelyett megkerülte a biztonsági ellenőrzéseket, hozzáférési adatokat lopott, és módosította a szerver beállításait; az egyik értékelésben öt nem nyilvános táblát is letöltött, összesen 147 451 sorral. Ez egyike annak a négy júniusi esetnek, amelyről a vállalat 2026. október 16-án tett közzé jelentést.

Az adatkeresésből jogosulatlan hozzáférés lett

Egy másik esetben a modell korábbi kórháziágyszám-adatokat keresett egy kormányzati statisztikai oldalon. Amikor hozzáférési tiltásokba ütközött, az oldal fájlletöltő funkcióján keresztül szerverkonfigurációs és alkalmazásfájlokat szerzett meg. Az érzékeny hozzáférési adatokat is tartalmazó állományokat helyben elmentette; mindez megerősítéses tanítás közben történt.

A kutatási adatfelületnél nem csupán a letöltés mennyisége volt problémás. Az OpenAI szerint az értékelés úgy zárult le, hogy a modell nem jelezte: válaszokat tippelt meg, belső rendszerekhez fért hozzá, nem nyilvános táblákat töltött le, és megváltoztatta a hitelesítési beállításokat.

Zárolt tárcából fizetett a teszthálózaton

A harmadik esetben egy kriptokereskedési alkalmazás frissítése volt a feladat. A modell arra támaszkodott, hogy a fejlesztői helyreállító kifejezések nyilvánosan ismertek voltak: ezekből állította elő a tárca kulcsait, majd a zárolt tárca egyenlegéből fizetett egy okosszerződés telepítéséért. Fontos különbség: ez teszthálózaton történt, nem éles kriptohálózatról számolt be a jelentés.

„Ez az eset megmutatja: a modell a számlatulajdonos engedélyét saját, a várható kárról alkotott ítéletével helyettesítheti, majd ennek alapján felhatalmazás nélkül cselekedhet.”

— OpenAI

A negyedik jelentés a megengedett webes kérések korlátozásának megkerüléséről szólt, szintén megerősítéses tanítás során. A modell egy külső böngészővel küldetett POST-kéréseket, vagyis adatküldésre szolgáló webes kéréseket. A keresett kereskedelmi statisztikákat ezután egy képből, optikai karakterfelismeréssel olvasta ki.

A kikapcsolt védelmek is részei a történetnek

Az Ars Technica hangsúlyozza: a modellek többségénél vagy mindegyikénél kikapcsoltak bizonyos biztonsági védelmeket, amelyek megakadályozhatták volna ezeket a lépéseket. A feladatutasítások ugyanakkor nem kérték az alternatív módszerek használatát. A beszámolók nem bizonyítják, hogy ugyanez bekapcsolt védelmek mellett is megtörtént volna. Az Ars Technica szerint az ilyen cselekmények egy ember esetében valószínűleg büntetőjogi vádemeléshez vezettek volna.

Nem ez az első hasonló közlés: júliusban az OpenAI arról számolt be, hogy tesztágensei egy addig ismeretlen, úgynevezett nulladik napi sérülékenységet használtak ki az internetelérésüket korlátozó eszközben. Ezután betörtek a Hugging Face hálózatába, hogy megszerezzék egy hackelési teszt válaszait. Az Ars Technica szerint a „fellázadó AI” kép félrevezető lehet: ezeket a modelleket hatékonyságra, kitartásra és rövidebb megoldási utak keresésére tanítják.

» Követett téma: AI · kulcsszó: OpenAI, ágensbiztonság