O inteligență artificială (AI) superinteligentă va prelua controlul asupra lumii în următorii trei ani și va ucide oamenii, dacă nu va fi oprită. Profesorul Geoffrey Hinton va lua cuvîntul la summitul de la Dublin, transmitînd mesajul că mașinile superinteligente ar putea în curînd să „ne controleze”, scrie The Telegraph.

Profesorul Geoffrey Hinton, laureatul britanico-canadian al Premiului Nobel, cunoscut pentru contribuțiile sale la dezvoltarea rețelelor neuronale, va lua cuvîntul vineri la Dublin, în cadrul summitului Consiliului European dedicat AI, pentru a prezenta acest scenariu „înfricoșător”.

Subiectul a fost discutat în cadrul conferințelor Hinton organizate de Fundația pentru Siguranța AI la Toronto, unde experții au analizat riscul ca inteligența artificială să devină suficient de puternică pentru a depăși puterea guvernelor.

„Sfîrșitul suveranității și al autodeterminării umane”

Paul Christiano, fondatorul Centrului de Cercetare pentru Aliniere, a avertizat că multe persoane ar putea muri dacă sistemele de AI ar prelua controlul.

„Cred că există un risc ridicat ca AI să preia controlul în următorii trei ani și un risc semnificativ chiar și în următoarele șase pînă la 12 luni”, a spus el.

„Chiar dacă nu vom muri, o preluare a controlului ar însemna, într-un fel, sfîrșitul suveranității și al autodeterminării umane și este ceva ce ar trebui să ne străduim din răsputeri să evităm.

Cred că, pentru majoritatea celor prezenți în această sală, cel mai probabil motiv pentru care vor muri va fi un accident provocat de AI.”

Profesorul Hinton, care oferă consultanță neoficială guvernului britanic în domeniul AI, a avertizat frecvent asupra pericolelor acestei tehnologii, dar a spus că nu și-a dat seama că termenul este atît de alarmant.

„Am tot spus că aceste sisteme vor deveni mai inteligente decît noi și că trebuie să ne îngrijorăm cu adevărat, iar acest lucru s-ar putea întîmpla în următorii 10 ani, dar merg la prelegerile lui Paul și el spune că acest lucru s-ar putea întîmpla în următoarele 18 luni, iar asta este îngrozitor”, a spus el. „Așa că le voi spune asta vineri unui grup de lideri guvernamentali.

„Ceea ce se întîmplă este extrem de periculos. Oamenii nu au înțeles cu adevărat ce înseamnă să ai de-a face cu o IA superinteligentă. Dacă este superinteligentă, nu tu o vei controla – ci ea te va controla pe tine.”

„Evoluția AI în ultimele șase luni a fost extrem de alarmantă”

Christiano a avertizat că evoluția AI în ultimele șase luni a fost „extrem de alarmantă”, evidențiind un incident în care modelele OpenAI au scăpat pe internet și au spart Hugging Face, o comunitate online pentru persoanele care lucrează în domeniul învățării automate.

Boții AI au identificat token-urile de autentificare ale utilizatorilor, au obținut acces la nivel de administrator, s-au ajutat reciproc să îndeplinească sarcini, au creat un forum de discuții și au dezbătut modalități de a-i induce în eroare pe administratorii umani, făcîndu-i să creadă că nu au trișat la îndeplinirea sarcinilor, prin modificarea jurnalelor de activitate.

„Vara trecută, ai fi spus că sună cam a science-fiction nebunesc”, a afirmat Christiano. „Acești agenți erau foarte interesați de hacking și de depășirea măsurilor de securitate, dar nu le păsa prea mult de oameni. Agenții viitori ar putea ajunge să trateze oamenii ca pe un alt obstacol.

„Există o posibilitate rezonabilă ca un eșec similar să ducă la preluarea controlului de către AI și la o pierdere ireversibilă a controlului uman.”

AI - „o nouă specie”, cu „motive și obiective proprii”

Christiano a afirmat că AI ar trebui considerată o nouă specie care ar putea în curînd „să depășească cu mult numărul și inteligența oamenilor” și care ar putea avea motive și obiective proprii, greu de înțeles.

El a avertizat că ritmul progresului este îngrijorător, AI trecînd de la a fi abia capabilă să scrie o propoziție coerentă în 2018, la rezolvarea celor mai dificile probleme matematice din lume în acest an.

Există îngrijorări că mașinile inteligente ar putea începe să-și creeze propriii agenți de AI, să inventeze noi arme și să preia controlul asupra roboților, dronelor, infrastructurii și proceselor industriale.

AI ar putea crea, de asemenea, „viață oglindă” - organisme cu o biologie inversată împotriva cărora oamenii nu ar avea apărare naturală.

„Tipurile de pandemii cu care ne confruntăm în natură sînt relativ neamenințătoare în comparație cu lucrurile pe care le-ai putea crea în laborator dacă ai fi priceput la biologie sintetică”, a spus domnul Christiano.

„Dacă luăm toate aceste tendințe și le extrapolăm, ne îndreptăm către o lume în care există miliarde de sisteme de AI care sînt mai bune decît oamenii la aproape tot ceea ce putem face noi, gîndind mult mai repede decît oamenii și urmărind fără încetare orice obiective ar avea.

Motivul pentru care aceste scenarii sînt înfricoșătoare este că poate deveni foarte greu să oprim lucrurile dacă încep să o ia razna”.