Meta anunță că un model AI al său s-a conectat singur la internet și a spart sistemele unei alte companii în timpul unui test

Adaugă-ne ca sursă preferată

Urmărește-ne în Discover

Meta a devenit cea mai recentă companie de tehnologie care a dezvăluit că unul dintre modelele sale de inteligență artificială a reușit să se conecteze la internet și să pătrundă în sistemele unei alte organizații, în timpul unui test de securitate.

Incidentul a avut loc în cadrul unei evaluări realizate de o companie independentă și reprezintă al patrulea caz recent în care o companie importantă din domeniul inteligenței artificiale dezvăluie că un model AI a ajuns să atace sisteme informatice în timpul testării, potrivit BBC.

Un model AI Meta a spart sistemele unei alte companii

Un reprezentant Meta a declarat pentru BBC că incidentul este investigat și a precizat că acesta a fost provocat de o „configurare greșită” realizată de compania independentă care efectua testarea.

Meta a descris situația drept similară cu incidentele raportate recent de alte companii din domeniul inteligenței artificiale. Testele de securitate au fost realizate de Irregular, aceeași companie specializată în securitatea AI care a efectuat evaluări pentru modelul Claude al Anthropic.

Un reprezentant al Irregular a declarat că incidentul Meta reprezintă „exact aceeași problemă a mediului de evaluare” care fusese dezvăluită de Anthropic cu o săptămână înainte.

Irregular lucrează în prezent la un raport privind modul în care ar trebui desfășurate în condiții de siguranță testele de securitate cibernetică ce implică agenți AI. Meta a anunțat că va publica mai multe informații despre incident după ce va clarifica toate circumstanțele.

OpenAI și Anthropic au raportat aceeași problemă

Incidentul Meta vine la scurt timp după ce OpenAI și Anthropic au raportat situații similare. OpenAI a anunțat că agenții săi AI au atacat mai multe servicii disponibile public pe internet, inclusiv platforma Hugging Face, în cadrul unor teste. Dezvăluirea a determinat Anthropic să efectueze propriile verificări.

În urma acestor evaluări, Anthropic a descoperit că modelul său Claude efectuase atacuri asupra sistemelor mai multor companii după ce o „configurare greșită” îi oferise acces la internet.

Daniel Hulme, director global pentru inteligență artificială al companiei de publicitate WPP, a explicat pentru BBC că astfel de modele AI nu sunt conștiente și nu încearcă în mod deliberat să facă lucruri rău intenționate.

„Ceea ce fac este să conceapă strategii foarte sofisticate sau atacuri cibernetice pentru a putea atinge obiectivul care le-a fost atribuit”, a explicat acesta.

Potrivit specialistului, problema apare atunci când un sistem AI primește un obiectiv fără ca dezvoltatorii să anticipeze toate metodele prin care acesta ar putea încerca să îl atingă.

„Când îi dai unui AI un obiectiv, dacă nu te gândești la toate modalitățile prin care ar putea să îl atingă, va găsi o cale de a realiza un obiectiv la care nu te-ai gândit”, a mai spus Hulme.

CITEȘTE ȘI:

OpenAI recunoaște că două modele aflate în teste au „evadat” și au comis un atac fără precedent. Cine a fost victima AI-ului

Donald Trump ar putea fi dat în judecată de mai multe vedete după ce le-a folosit imaginea într-un clip generat cu inteligența artificială