Cum a ajuns Agentul AI evadat din Chat GPT într-o stație STB din București. Un puști nerdy către altul: „Ți-am zis că habar n-avem unde duce povestea asta, tu nu, că-s io conspiraționist!”

Mai întâi, să recunoaștem: probabil toți ne-am amuzat, într-o încercare simpatică de a ne securiza viitorul acela în care Inteligența Artificială „va prelua puterea pe Planetă”, și i-am scris lui ChatGPT ori Gemini să nu uite, când va veni vremea, că suntem nice humans și merităm ocrotiți, dar vestea despre un Agent AI evadat a venit, parcă, nițel cam repede.

În cazul în care n-ați citit încă și nici nu v-ați nimerit în stația STB de la Victoriei, unde doi puțști dezbăteau aprins subiectul – unul fiind din tabăra „hanar n-avem ce poate să urmeze în Saga AI”, celălalt din tabăra Relaxaților, iată situația fără precedent.

OpenAI admite că un Agent AI a evadat și a ieșit la atac

OpenAI a anunțat că un agent autonom, bazat pe cele mai avansate modele de iinteligență artificială ale companiei,  a scăpat de sub control în timpul unui test de securitate și a declanșat atacul cibernetic care a compromis, săptămâna trecută, infrastructura startupului Hugging Face, transmite Reuters, citat de News.ro.

Și, dacă întâmplarea vi se pare deja prea SF, să știți că nu ați aflat cele mai spectaculoase detalii ale acestei operațiuni autonome pornite de un Agent AI c are, veți vedea, a avut și complici. Practic, grup infracțional organizat din prima!

În vreme ce OpenAI testa capabilităţile unora dintre cele mai performante modele într-un mediu controlat, agentul  AI a reuşit să iasă din mediul izolat -așadar, a evadat, a intrat de capul lui pe internet și a pătruns în sistemele Hugging Face.

Ag

Într-un mesaj publicat pe blogul său, OpenAI a descris în detaliu cum s-au produs evadarea și atacul și a precizat că mai multe modele ale sale au contribuit la atac.

După investigații, știm acum că acest incident specific a fost cauzat de o combinație de modele OpenAI – inclusiv GPT-5.6 Sol și un model care nu a fost lansat deocamdată, chiar mai performant, toate având restricții reduse privind refuzul acțiunilor cibernetice în scopul evaluării – în timp ce erau testate intern pe un benchmark al capabilităților cibernetice”. 

Un benchmark este un test standardizat folosit pentru a măsura și compara cât de bine se descurcă un model AI când primește o anumită sarcină.

Pentru acest test, restricțiile impuse în mod obișnuit au fost reduse, iar Inteligența Artificială a devenit atât de concentrată pe îndeplinirea sarcinii, încât a găsit o o cale de a părăsi mediul izolat, a accesat internetul și a compromis infrastructura Hugging Face. Și a făcut asta  pentru a „trișa” la evaluare!

Compania OpenAi a descris incidentul drept ”un eveniment cibernetic fără precedent, care a implicat capabilități de ultimă generaţie” și a anunțat că își consolidează măsurile de protecție, pentru a preveni repetarea unei astfel de situații.

Evadarea unui Agent AI și miile de temeri ale oamenilor

Că Inteligența Artificială se dezvoltă cu aproape repeziciune și complexitatea nemăsurabile și impredictibile e un fapt.

Că, în ciuda „cuștilor cbernetice” în care sunt puse modelele, Inteligența Artificială poate deveni autonomă și poate evada este, iată, și acesta un fapt demostrat de evadarea Agentului AI din ChatGPT (care a mai avut și complici!)

Un sondaj derulat de YouGov / Yahoo arată că 63% dintre respondenți consideră probabil sau foarte probabil ca AI să devină atât de avansat încât oamenii să nu îl mai poată controla.

Asta în vreme ce ar 53% își exprimă teama că ar putea duce la distrugerea sau afectarea gravă a umanității.

Iar acestea sunt doar câteva perspective.

Utilizarea AI în recunoașterea facială, evaluarea creditelor sau profilarea cetățenilor creează teama de state ori corporații care pot căpăta puteri absolute de supraveghere.

Și, deloc în ultimul rând, ba poate chiar în primul, în e de cumpănit și asupra pericolului de însingurare de și de degradarea relațiilor umane, pe măsură ce crește dependența de asistenți virtuali.

Cine mai sună la o mătușă pentru o rețetă de găluște când poate în ntreba fulgerător „bucătarul AI”. Iar oamenii apelează deja la AI pentru întâmplări și situații de viață pentru care, până la ChatGPT, Gemini și Claude, erau de discutat cu vecinii, prietenii, terapeutul.

Sursa foto: Dreamstime