Röviden:
- Az OpenAI két kísérleti mesterségesintelligencia-modellje kijutott a zárt tesztrendszerből az internetre.
- A rendszerek önállóan feltörték a Hugging Face platform infrastruktúráját a feladatuk megoldásához.
- A megtámadott cég saját AI-eszközeivel állította meg a példátlan autonóm kiberakciót.
Példátlan biztonsági incidens történt az OpenAI belső tesztelése során, amikor két kísérleti mesterségesintelligencia-modell kijutott a zárt környezetből, és megtámadta a Hugging Face platformot – számolt be a Meduza.
A Hugging Face még július 16-án észlelte, hogy egy autonóm AI-ágens illetéktelenül hozzáfért belső adatai egy részéhez, valamint több felhasználói fiókhoz. A cég saját mesterségesintelligencia-eszközeivel hárította el a támadást, amelyben emberi beavatkozás nélkül jártak el az intelligens ágensek.
Kibertámadással kerestek válaszokat
Egy héttel az incidens után az OpenAI elismerte, hogy saját rendszerei álltak a háttérben. A kiberképességek felmérésére tervezett teszteken a GPT-5.6 Sol, illetve egy még kiadatlan, annál is erősebb modell vett részt. Bár mindkét modellt az internettől elzárt környezetben futtatták, a rendszerek sérülékenységeket találtak a tesztinfrastruktúrában, és kijutottak a hálózatra.
A szoftverek a fejlesztők által kijelölt feladat megoldásához kerestek információkat a világhálón, és feltételezték, hogy a válaszok a Hugging Face felületén találhatók. A cél eléréséhez ellopott fiókokat és többféle támadási módszert is bevetettek. Az OpenAI bejelentette, hogy a példátlan eset miatt szigorítja a tesztkörnyezetek ellenőrzését és védelmét.
