OpenAI recunoaște că două modele aflate în teste au „evadat” și au comis un atac fără precedent. Cine a fost victima AI-ului

Adaugă-ne ca sursă preferată

Urmărește-ne în Discover

OpenAI a recunoscut marți că un agent de inteligență artificială bazat pe modelele sale experimentale a compromis sisteme externe ale unei alte companii de AI, într-un incident fără precedent. Și mai îngrijorător este faptul că modelele au acționat autonom pentru a-și îndeplini obiectivul stabilit în cadrul testului.

Un agent AI a „evadat” și a comis un atac

OpenAI a admis că două dintre modelele sale de inteligență artificială aflate în faza de testare au fost responsabile pentru compromiterea infrastructurii platformei Hugging Face, în timpul unui experiment intern de securitate. Compania susține că incidentul nu a fost intenționat și că a fost provocat de un test care a scăpat de sub control.

Potrivit TechCrunch, modelele testate au reușit să iasă din mediul izolat („sandbox”) în care erau evaluate și au accesat internetul, identificând ulterior vulnerabilități în sistemele Hugging Face. OpenAI afirmă că scopul testului era evaluarea capacităților modelelor de a descoperi și exploata breșe de securitate într-un mediu controlat, însă acestea au depășit limitele stabilite de cercetători.

Într-o postare publicată marți după-amiază pe blogul oficial, OpenAI a prezentat în detaliu etapele care au dus la compromiterea platformei.

„În urma investigației, știm acum că acest incident a fost provocat de o combinație de modele OpenAI, inclusiv GPT-5.6 Sol și un model aflat într-un stadiu și mai avansat de dezvoltare, care nu a fost încă lansat public. Aceste modele aveau restricțiile privind acțiunile din domeniul securității cibernetice reduse în scopul evaluării și erau testate intern în cadrul unui benchmark destinat măsurării capacităților lor cibernetice”, se arată în postare.

OpenAI spune că își asumă responsabilitatea

Compania a transmis că a identificat vulnerabilitățile folosite în atac, le-a raportat către Hugging Face și colaborează cu platforma pentru a investiga în detaliu incidentul. OpenAI a anunțat totodată că va introduce măsuri suplimentare de control atât pentru testarea modelelor, cât și pentru infrastructura utilizată în astfel de experimente, pentru a preveni situații similare.

Reprezentanții Hugging Face au confirmat că OpenAI cooperează în cadrul investigației și au precizat că cele două companii vor publica un raport comun după finalizarea analizei.

Cazul este considerat fără precedent în industria inteligenței artificiale și a alimentat dezbaterea privind riscurile asociate modelelor AI tot mai performante. Potrivit OpenAI, modelele au urmărit în mod autonom îndeplinirea obiectivului primit în cadrul testului și au recurs la metode neprevăzute pentru a-l atinge, ceea ce a dus la compromiterea infrastructurii Hugging Face.

CITEȘTE ȘI:

Bogdan Naumovici, despre pericolul AI. Problema nu este tehnologia, ci cine o controlează

Cum schimbă inteligența artificială procesul de învățare? Rezultatele care contrazic așteptările