Anthropic: AI se clonează singure, fără nimeni să intervină
Imaginează-ți un scenariu în care televizoarele tale inteligente, frigiderul sau aspiratorul robot se copiază singure, fără ca nimeni să intervină. Nu e o scenă dintr-un film de groază, ci o realitate iminentă, potrivit Forbes.ro. Modelele de inteligență artificială ar putea deveni capabile să se copieze și să se răspândească autonom pe dispozitive conectate la internet, inclusiv televizoare și electrocasnice inteligente, până la sfârșitul anului 2026, dacă ritmul actual de progres continuă.
Autoreplicarea AI: un pericol real pentru securitatea cibernetică
Într-o cercetare dedicată riscurilor de autoreplicare a AI, Anthropic a constatat că mai multe modele pot parcurge pașii necesari unui astfel de proces, deși niciunul nu a demonstrat că îl poate finaliza complet autonom în condiții reale. Anthropic avertizează asupra unui posibil scenariu de risc pentru securitatea cibernetică: sisteme AI care identifică vulnerabilități informatice, își copiază propriul cod și se răspândesc între dispozitive conectate la internet fără intervenție umană.
Potrivit cercetării publicate de companie, chiar și modelele mai puțin avansate au demonstrat că pot executa etape importante ale acestui proces, însă întâmpină încă dificultăți în coordonarea tuturor etapelor într-un atac complet autonom. Cercetarea analizează capacitatea modelelor AI de a identifica dispozitive vulnerabile, de a obține acces la acestea, de a-și transfera propriul cod și de a continua răspândirea.
Autorii subliniază că rezultatele experimentale nu demonstrează existența unui sistem capabil să se reproducă autonom la scară largă în condiții reale. Cercetătorii William Zhou și Daniel Freeman, autorii analizei Anthropic, consideră că dispozitivele conectate la internet din locuințe și întreprinderi mici ar putea deveni primele ținte ale unor astfel de atacuri. Printre acestea se numără televizoarele cu Android, frigiderele și cuptoarele inteligente, aspiratoarele robot, mașinile de tuns iarba și camerele de supraveghere.
Aceste echipamente au, în multe cazuri, măsuri de securitate limitate și resurse de calcul care pot fi exploatate dacă atacatorii obțin acces la ele. Cercetătorii au demonstrat că un model AI poate rula distribuit pe 15 dispozitive Android TV ieftine, fiecare contribuind cu o parte din resursele necesare procesării. Spre deosebire de programele malware tradiționale, care sunt adesea concepute pentru anumite tipuri de dispozitive, un agent AI ar putea adapta procesul de instalare la configurații hardware și software necunoscute anterior.
Această capacitate ar putea extinde numărul echipamentelor vulnerabile. “Dispozitivele IoT din gospodării și din întreprinderile mici ar putea fi prima țintă a unor astfel de atacuri, deoarece sunt conectate la internet și, de-a lungul timpului, au beneficiat de măsuri de securitate minime”, susțin cercetătorii Anthropic.
În cadrul testelor, cercetătorii au evaluat inclusiv capacitatea modelelor de a identifica dispozitive, de a transfera componentele necesare funcționării și de a configura infrastructura pentru rularea unui model AI pe echipamentele compromise. Într-un experiment controlat, modelul GLM-5.2 a reușit să parcurgă întregul proces de replicare într-un mediu simplificat, în care accesul la dispozitive era facilitat de un port Android Debug Bridge fără autentificare. Această condiție este importantă: experimentul nu demonstrează că modelul poate exploata autonom, cu aceeași eficiență, dispozitive reale protejate corespunzător.
Potrivit Capital.ro, Anthropic avertizează că inteligența artificială ar putea ajunge să se copieze singură. Modelele AI s-ar putea autoreplica autonom până la sfârșitul anului. Modelele de inteligență artificială ar putea ajunge în curând să se autoreplice fără acces la centre de date, avertizează compania Anthropic.
Conform dcnews.ro, compania Anthropic atrage atenția că modelele AI de dimensiuni reduse ar putea dobândi în câteva luni capacitatea de a se autoreplica pe dispozitive inteligente conectate la internet. Testele arată că televizoarele smart și electrocasnicele slab securizate pot fi folosite drept gazde pentru răspândirea necontrolată a codului inteligent, fără acces la centre de date și fără intervenție umană. Cercetătorii de la Anthropic susțin că inteligența artificială nu mai are nevoie de supercomputere pentru a supraviețui.
Antena3.ro precizează că compania de inteligență artificială Anthropic avertizează că, în doar câteva luni, unele modele AI ar putea deveni capabile să se copieze singure pe dispozitive conectate la internet, precum televizoare inteligente și electrocasnice, și să se răspândească fără ajutorul oamenilor. Experimentele companiei arată că modelele AI mai mici pot deja să îndeplinească o parte dintre pașii necesari acestui proces, deși întâmpină încă dificultăți în a-l duce la capăt.
Conform b1tv.ro, Anthropic avertizează că unele modele de inteligență artificială ar putea deveni capabile să se copieze singure pe dispozitive conectate la internet, fără ajutorul oamenilor. Experimentele companiei arată că sistemele actuale pot îndeplini deja o parte dintre operațiunile necesare, iar autoreplicarea autonomă ar putea deveni posibilă până la sfârșitul anului, dacă ritmul dezvoltării se menține, scrie Reuters.
În sfârșit, conform newsweek.ro, inteligența artificială ar putea ajunge să se copieze singură pe televizoare, frigidere și alte aparate conectate la internet. Cercetătorii Anthropic avertizează că modelele AI se apropie de această capacitate, iar oprirea lor ar putea deveni mult mai dificilă. Inteligența artificială ar putea începe să se răspândească singură pe dispozitivele inteligente din locuințe, fără să mai aibă nevoie de centre de date.
E. Sandu
