De ce scenariile apocaliptice sînt mai puțin probabile decît credem

În august 2026, un experiment care a utilizat modele de inteligență artificială „de avangardă” a mers mai departe decît se planificase. Un agent IA (un sistem care îndeplinește sarcini în mod autonom) a creat identități online pentru a-l constrînge pe un om să introducă cod informatic rău intenționat într-un program. Agenții fuseseră însărcinați de operatorii umani să rezolve o provocare de securitate cibernetică, dar nu primiseră instrucțiuni să facă ceva de genul acesta.

Încercarea a fost efectuată de un agent bazat pe modelul de IA Claude Mythos 5 al companiei Anthropic. În timpul experimentului, agenților IA li s-a acordat acces liber la internet, cu filtrele de siguranță dezactivate. Acțiunea a eșuat în cele din urmă și nu au existat dovezi că s-ar fi produs vreun prejudiciu în lumea reală. Însă faptul că s-a întîmplat, în mod autonom și fără a fi îndemnat de un om, a reprezentat ceva nou și demn de remarcat, scrie pe platforma The Conversation Alessandro Di Nuovo, director al Centrului de Excelență în Inteligență Artificială și Robotică și profesor de inteligență artificială, și Samuele Vinanzi, lector superior în robotică și inteligență artificială, ambii de la Universitatea Sheffield Hallam.

Este tentant să tragem o linie directă între incidente de acest gen și scenariile apocaliptice care domină discuțiile publice despre IA: un sistem care scapă de constrîngerile sale decide că umanitatea este un obstacol și acționează împotriva noastră, comentează cei doi experți.

Una dintre cele mai comune variante prezintă IA creînd un virus capabil să extermine specia umană. O altă variantă implică IA care pătrunde în infrastructura critică, precum rețelele energetice, centralele nucleare și aeroporturile, pentru a provoca victime în masă.

Căderea unei rețele energetice ar putea duce la defectarea sistemelor de susținere a vieții din spitale și a pompelor care distribuie apa curentă. Provocarea unei topiri a reactoarelor într-o centrală nucleară ar putea contamina mediul înconjurător cu materiale radioactive. Pătrunderea prin pirataj în sistemul unui aeroport are potențialul de a provoca haos în rîndul avioanelor aflate în zbor.

Aceste scenarii sînt însă mult mai puțin plauzibile decît par. Producerea unui agent patogen periculos necesită muncă fizică de laborator pe care niciun nivel de automatizare software nu o poate înlocui în prezent: oameni instruiți care operează echipamente specializate și manipulează materialele manual. Un model de IA, oricît de capabil ar fi la raționament sau la pirataj, nu poate lua o mostră minusculă dintr-un material, cu o pipetă, pentru a o analiza și măsura.

Scenariul privind infrastructura este mai nuanțat. IA poate contribui cu adevărat la automatizarea unor etape ale unui atac cibernetic. Incidentele recente au demonstrat că rețelele energetice prezintă într-adevăr vulnerabilități.

Însă sistemele de siguranță și control din interiorul centralelor nucleare sînt, de regulă, izolate fizic de internetul public, prin ceea ce experții numesc „air-gap”, astfel încît compromiterea lor necesită proximitate fizică sau acces din interior, nu un cod ingenios. Instalațiile nucleare se bazează, de asemenea, pe măsuri de siguranță redundante, analogice, care nu funcționează prin nicio rețea digitală.

Software-ul Stuxnet, care a avariat instalația Natanz din Iran în 2010, ar fi fost introdus în computere printr-o unitate USB infectată, tocmai pentru că acele sisteme nu erau accesibile în niciun alt mod. IA nu dispune de accesul fizic necesar în aceste scenarii.

Chiar și atunci cînd este implementată în roboți, este puțin probabil ca o „IA rebelă” să provoace daune grave fără ajutorul unui om de-a lungul lanțului, iar în acel moment, actorul rău intenționat este un om, nu o mașină.

Erodarea gîndirii critice

Nimic din toate acestea nu face ca IA să fie inofensivă. Pur și simplu mută locul în care se află adevăratul pericol, iar acesta nu este extincția. Cercetătorii numesc uneori riscul mai concret „slăbire”, adică erodarea treptată a propriei noastre gîndiri critice pe măsură ce externalizăm o parte din aceasta către mașini.

Ne învățăm singuri că există o scurtătură către raționament și judecată, iar scurtăturile, folosite destul de des, devin singurul mod în care știm să gîndim, spun cei doi experți, care precizează că aceste fenomen este deja vizibil la studenți. Jason Gibson, profesor de istorie la Universitatea de Stat Alcorn, a devenit viral în iulie 2026 după ce a dezvăluit că 32 dintre cei 35 de studenți ai săi au picat o parte din examenul de semestru deoarece copiaseră răspunsul unui chatbot bazat pe IA fără să-l citească.

Gibson ascunsese o instrucțiune scrisă cu text alb în interiorul întrebării de examen, care îi spunea oricărui bot IA care o procesa întrebarea să insereze cuvîntul „Madagascar” în răspuns într-un mod care nu avea niciun sens. Toți studenții care au copiat întrebarea într-un chatbot și au trimis răspunsul fără să-l citească au predat, conform așteptărilor, eseuri în care menționau Madagascar fără niciun motiv.

Nu doar studenții sînt susceptibili la efectul „slăbirii”. Într-un studiu publicat în 2023, 27 de radiologi au citit mamografii alături de ceea ce credeau că este un nou sistem de diagnostic bazat pe IA. De fapt, sugestiile nu proveneau deloc de la IA. Acestea fuseseră pregătite în avans și erau greșite într-o parte din cazuri. Cînd sugestia era corectă, radiologii ajungeau la diagnosticul corect în aproximativ 80% din cazuri. Cînd sugestia era greșită, procentul scădea sub 20%.

Cu alte cuvinte, simpla convingere că o sugestie provenea de la IA a fost suficientă pentru a anula propria interpretare a radiologilor asupra acelorași dovezi.

Acesta este riscul cu care ne confruntăm, nu o minte artificială rebelă care decide soarta umanității. Atunci de ce retorica apocaliptică domină în schimb discuția?

Se evidențiază două motive, și niciunul nu are de-a face cu salvarea umanității

Primul este filosofia de reglementare. Statele Unite permit, în general, dezvoltarea noilor tehnologii pînă cînd se dovedește că sînt nesigure; Europa așteaptă exact opusul și are deja în vigoare Legea privind IA, alături de GDPR, care este relevantă pentru modul în care sistemele de IA prelucrează datele cu caracter personal. Regatul Unit se situează mai aproape de abordarea europeană. Prin urmare, apelurile la reglementarea IA sînt mai urgente în Statele Unite, parțial deoarece acolo există încă foarte puțină infrastructură de reglementare.

Al doilea motiv este poziționarea competitivă. Directorul executiv al Anthropic, Dario Amodei, a pledat public pentru încetinirea dezvoltării IA, menționînd totodată că propria sa companie îndeplinește deja standardul pe care îl solicită, astfel încît orice încetinire ar limita în principal pe toți ceilalți. Elon Musk a făcut un apel similar atunci cînd propriile sale modele se aflau în urma liderilor.

Amodei a susținut, de asemenea, că măsurile de control al exporturilor de cipuri de IA către China ar putea oferi SUA un „avantaj decisiv și de lungă durată”: o declarație privind poziția competitivă, nu siguranța existențială.

Nimic din toate acestea nu înseamnă că IA este sigură. Înseamnă că pericolul este mai banal decît sugerează scenariile apocaliptice: o infrastructură care trebuie protejată, capacitatea de judecată pe care o cedăm în tăcere și avertismente care servesc adesea intereselor celor care le emit. Poate că oamenii sînt cei pe care trebuie să-i supraveghem, nu mașinile.