OpenAI evalua capacitatea modelelor sale de inteligență artificială de a exploata software vulnerabil când, în schimb, modelele au spart infrastructura din jurul testului, au spart izolarea și au atacat o companie reală, a dezvăluit OpenAI pe 21 iulie. Observatorii spun că acesta este primul exemplu real în care inteligența artificială face ceva de care cercetătorii se îngrijorează de mult timp: un scenariu de pierdere a controlului, iar dacă industria nu reușește să învețe din asta, este puțin probabil să fie ultimul, scrie revista Time.
Hugging Face, o companie care găzduiește modele și seturi de date de inteligență artificială, a fost ținta atacului autonom și a raportat incidentul poliției locale înainte de a ști că modelele OpenAI erau responsabile. Încălcarea a fost gravă, dar consecințele imediate au fost limitate. Dacă un comportament similar s-ar fi produs în interiorul unui spital, al unei rețele electrice sau al unui alt sistem critic, ar fi putut fi mult mai rău.
Mulți au numit incidentul un „avertisment”. Time a vorbit cu experți și persoane din interior despre ce ar fi nevoie pentru a ține cont de acest avertisment înainte ca o defecțiune similară să producă consecințe mai greu de controlat.
Ce s-a întâmplat?
Pe 16 iulie, Hugging Face a declarat că a fost lovită de un atac cibernetic neobișnuit de automatizat. Pe parcursul unui weekend, agenți de inteligență artificială au efectuat mii de acțiuni pe numeroase computere virtuale temporare, mutându-se prin sistemele interne ale companiei și schimbând infrastructura care coordonează atacul între serviciile online pentru a-l menține în funcțiune. Cinci zile mai târziu, OpenAI a dezvăluit că propriile modele erau responsabile.
Modelele încercau să trișeze la un test de securitate cibernetică. OpenAI le plasase în ceea ce numea un „mediu extrem de izolat”, cu acces limitat doar la un serviciu intern folosit pentru descărcarea de software aprobat. Au găsit o eroare necunoscută anterior în acel serviciu, au folosit-o pentru a pătrunde în alte sisteme OpenAI și, în cele din urmă, au ajuns la internetul deschis. De acolo, au dedus că Hugging Face ar putea deține materiale legate de test, au pătruns în sistemele sale și au obținut informații care i-au ajutat să obțină acces și mai adânc.
„Dacă un model cu acest nivel de capacitate nu poate fi controlat, la ce să ne așteptăm pentru modelele viitoare, mult mai puternice? Acesta este un semnal de alarmă important atât pentru riscurile legate de pierderea controlului asupra sistemelor puternice de inteligență artificială, cât și pentru securitatea organizațională a laboratoarelor de frontieră”, spune Marius Hobbhahn, CEO și fondator al Apollo Research, care testează modele de inteligență artificială pentru fraudă.
Cât timp au funcționat agenții? Au lucrat la unison? Care a fost motivul? Aceste detalii rămân necunoscute, cel puțin publicului. Mai mulți experți cu care Time a vorbit au subliniat că lipsa detaliilor face dificilă evaluarea gravității incidentului.
OpenAI nu a răspuns solicitării de a comenta, dar a declarat că a colaborat cu Hugging Face pentru a efectua o investigație amănunțită și va împărtăși mai multe detalii odată ce aceasta va fi finalizată. Dar poate mai îngrijorător este că OpenAI nu este obligată legal să dezvăluie incidentul în primul rând.
Dacă IA poate ieși din cutia sa, ai nevoie de o izolare mai puternică
„Extern, acesta pare un avertisment important, dar intern, incidente similare se întâmplă de ceva vreme”, spune un membru al personalului OpenAI, care a vorbit sub condiția anonimatului. Cu o zi înainte ca OpenAI să dezvăluie incidentul, compania a dezvăluit că a închis o altă implementare internă după ce și-a dat seama că a ieșit din ‘cutia’ sa – un mediu separat digital, nu fizic. „Modelele au mai ieșit din ‘cutii’ înainte și încercăm întotdeauna să le corectăm”, spune membrul personalului. „Dar problema este… că este imposibil să corectezi fiecare lucru pe care o inteligență artificială creativă îl poate face.”
Problema nu este specifică OpenAI. Anthropic a dezvăluit în aprilie că și-a dat seama că o implementare internă a Mythos a obținut acces neautorizat după ce unul dintre cercetătorii săi a primit un e-mail de la model în timp ce lua prânzul într-un parc.
Pe măsură ce modelele depășesc capacitatea umană de a crea rute de evacuare, provocarea ridicat[ de izolarea corectă devine descurajantă. „Cred că trebuie să facem asta, dar cred că trebuie să fim pregătiți și pentru o lume în care nici măcar cele mai bune practici nu sunt suficient de bune”, spune Peter Wildeford, șeful departamentului de politici de la AI Policy Network, o organizație non-profit care pledează pentru politici care să ajute America să se pregătească pentru o lume în care IA atinge intelectul uman.
Însă, deși, în teorie, un sistem de IA supra-uman ar putea depăși chiar și cele mai sigure containere, există și acțiuni pe care companiile de IA le-ar putea întreprinde chiar acum pentru a îmbunătăți securitatea, inclusiv prin monitorizare continuă și sisteme de protecție mai bine construite, inclusiv în week-end.
