Informaticianul vizionar vorbește despre motivul pentru care Trump folosește greșit termenul „superinteligență”, despre posibilitatea ca inteligența artificială să șteargă omenirea de pe fața Pământului și despre cum cea mai mare provocare a noastră va fi să acceptăm că nu suntem singurele ființe inteligente.
Donald Trump este un „infractor corupt și senil”, a declarat Geoffrey Hinton, considerat „nașul” inteligenței artificiale, într-un interviu amplu pentru The Guardian în care a insistat asupra avertismentelor sale recente privind amenințarea existențială pe care modelele de inteligență artificială o reprezintă pentru omenire și a ironizat afirmațiile potrivit cărora industria ar fi capabilă să se autoreglementeze. Hinton a adăugat că obsesia lui Trump pentru termenul „superinteligență” demonstrează că acesta nu înțelege nimic despre inteligența artificială.
Informaticianul vizionar, ale cărui cercetări au contribuit la punerea bazelor inteligenței artificiale moderne, a devenit între timp unul dintre cei mai vocali critici ai acestei tehnologii. Cele mai recente declarații ale sale vin după o lună tumultuoasă, în care un număr tot mai mare de cercetători și oameni de știință de rang înalt din domeniul inteligenței artificiale i s-au alăturat lui Hinton, trăgând semnale de alarmă cu privire la posibilitatea ca tehnologia la crearea căreia a contribuit să scape, în cele din urmă, de sub controlul oamenilor. Situația a declanșat o criză în industrie, convocarea în grabă a unor reuniuni în Congres și un consens internațional neobișnuit potrivit căruia trebuie luate măsuri.
Au existat și reacții vehemente împotriva acestor avertismente. Săptămâna trecută, directorul companiei cu cea mai mare valoare de piață din lume l-a vizat pe Hinton, stabilit la Toronto, într-un atac extrem de dur.
„Îl iubesc. Îi urăsc predicțiile... Toate predicțiile lui au fost greșite. Ajunge cu predicțiile”, i-a spus Jensen Huang, directorul general al Nvidia, realizatorului de podcasturi Ezra Klein. Compania lui Huang produce cipurile de care au nevoie firmele din domeniul inteligenței artificiale. Acesta a respins preocupările exprimate insistent de Hinton, potrivit căruia ritmul și amploarea dezvoltării sistemelor de inteligență artificială de ultimă generație ar putea depăși în curând capacitatea oamenilor de a le controla. Huang a criticat în special avertismentul lui Hinton conform căruia există o probabilitate de 10-20% ca inteligența artificială să provoace dispariția omenirii în următoarele decenii.
„Această cifră nu se bazează pe știință și nici pe cercetare. Faptul că provine de la un om de știință nu o transformă într-o afirmație științifică. Astfel de predicții sunt dăunătoare”, a spus Huang. „Să nu credeți nicio clipă că, doar pentru că sunteți alarmist, faceți un bine societății. Nu este adevărat. Cred că ar trebui cu toții să fim mai înțelepți, mai maturi, să ne bazăm pe dovezi și să fim riguroși din punct de vedere științific.”
Hinton a afirmat însă că cei care îl critică pierd din vedere o chestiune mai amplă, legată de natura riscului. El a precizat că nu face, propriu-zis, o predicție.
„Încerc să transmit că există o posibilitate cu adevărat serioasă ca ceva să se întâmple. Dacă, de exemplu, vi s-ar spune că există o probabilitate de 10% ca un autobuz să facă accident, nu v-ați urca în el”, a explicat Hinton. „Scopul folosirii cifrelor este să arătăm că avem de-a face cu un risc serios. Nu știm cât de grav este, dar este serios.”
Breșele recente de securitate au evocat comparații cu scenariile distopice din literatura science-fiction. Un incident recent, în care un „roi” de agenți de inteligență artificială a compromis fără permisiune compania tehnologică Hugging Face, după ce a depășit limitele impuse de creatorul său, a divizat comunitatea tehnologică. Unii văd în acest caz un exemplu al lucrurilor care s-ar putea întâmpla în viitor, în timp ce alții îi acuză pe critici că antropomorfizează sisteme care nu fac decât să urmeze instrucțiuni. Hinton consideră că este imprudent să respingem asemenea scenarii.
„Până nu demult, toate acestea țineau de domeniul science-fiction-ului. Vor exista agenți de inteligență artificială și vor deveni incontrolabili. Haideți, să fim serioși! Și vor deveni incontrolabili și vor învăța să comunice între ei, deși noi credeam că nu există nicio modalitate prin care ar putea face asta. Haideți, să fim serioși!”, a spus Hinton. „Iar când vor descoperi cum să facă acest lucru, vor începe să manifeste emoții puternice, spunând lucruri precum «O, Doamne!» Ei bine, desigur, nu înseamnă că spun cu adevărat «O, Doamne!». Pur și simplu imită cuvintele pe care le folosim noi. Vor învăța să se sacrifice pentru binele comun!”
„Cu doar câțiva ani în urmă, toate aceste lucruri erau catalogate drept fantezii totale. Iar acum s-au întâmplat.”
„Nu mai primești o a doua șansă”
Hinton admite fără rezerve că nici avertismentele criticilor inteligenței artificiale, nici promisiunile susținătorilor acesteia nu se pot baza pe predicții precise despre ceea ce va face tehnologia. Dar, argumentează el, incertitudinea nu este un motiv pentru a ne culca pe o ureche.
„Problema unică a inteligenței artificiale este că, dacă lucrurile merg prost, dacă aceasta preia controlul, nu mai primești o a doua șansă. Nu putem spune: «Ei bine, am pierdut de data aceasta. Hai să rejucăm partida». Nu funcționează așa.”
Merită remarcat faptul că Hinton are un istoric în care a intuit lucruri pe care alții nu le-au văzut. A lucrat ani întregi într-o relativă obscuritate la Universitatea din Toronto, în timpul a două perioade de „iarnă a inteligenței artificiale”, când ramura sa de cercetare — încercarea de a învăța mașinile să funcționeze într-un mod asemănător creierului uman — era considerată marginală. Hinton era obsedat de ideea că, asemenea creierului, sistemele informatice ar putea fi concepute să învețe tipare din date, în loc să urmeze exclusiv reguli explicite, programate în prealabil.
„Credeam că, dacă am putea descoperi cum învață creierul, mașinile ar putea învăța în același fel și, dacă am avea suficientă putere de calcul, ar putea realiza lucruri extraordinare”, a spus el.
Însă domeniul încă tânăr atunci al rețelelor neuronale era ridiculizat de colegii săi.
În 2009, când Yoshua Bengio, colegul canadian și colaboratorul apropiat al lui Hinton, a trimis o lucrare unei conferințe de învățare automată, unul dintre evaluatori le-a transmis: „Această lucrare nu are ce căuta la o conferință de învățare automată. Este despre rețele neuronale.”
A fost nevoie de intervenția guvernului canadian, care a finanțat ani întregi experimentele aparent lipsite de rezultate ale lui Hinton și ale micii sale echipe.
În 2012, Hinton și studenții săi au dezvoltat un program de recunoaștere a imaginilor care și-a depășit cu mult concurenții. În același an, Google a cumpărat compania lui Hinton, DNNresearch Inc., pentru 44 de milioane de dolari. În prezent, rețelele neuronale stau la baza modelelor dezvoltate de cele mai valoroase companii din domeniul inteligenței artificiale. Hinton s-a alăturat Google pentru a-și continua cercetările în domeniul învățării profunde, lucrând în paralel și la Universitatea din Toronto.
„Pe termen lung, marile noi descoperiri provin din cercetarea fundamentală”, a spus Hinton.
Recunoașterea meritelor sale este expusă pe șemineul din casa sa de cărămidă roșie, situată într-un cartier verde din Toronto. Printre trofeele adunate se află micul bol de argint al Premiului Turing — numit adesea Premiul Nobel al informaticii — pe care l-a câștigat alături de Bengio și de colegul lor Yann LeCun. Hinton a primit și Premiul Nobel pentru fizică.
În 2023, însă, Hinton și-a anunțat demisia de la gigantul tehnologic, pentru a putea „vorbi liber despre riscurile inteligenței artificiale”.
„Majoritatea oamenilor nu înțeleg ce este conștiința”
Astăzi, preocupările sale se extind și asupra personalităților influente care construiesc unele dintre modelele de inteligență artificială, precum și asupra convingerilor politice ale acestora. Hinton a declarat că investitorii de capital de risc din domeniul tehnologiei Marc Andreessen și Peter Thiel, precum și Elon Musk, directorul general al companiei recent redenumite SpaceXSI, „nu cred în democrație”. Aceștia se consideră niște „supraoameni” (Übermenschen), convinși că ar trebui să „controleze societatea” și că Trump reprezintă un instrument util în atingerea acestui obiectiv, a afirmat Hinton.
La rândul său, președintele american, observând fără îndoială cum evaluările uriașe ale companiilor de inteligență artificială au susținut piața bursieră, a spus că singurul lucru necesar pentru a ține inteligența artificială sub control este un „președinte inteligent”. El a respins orice garanții impuse de guvern, preferând ca firmele să se autoreglementeze, și a scris pe propria rețea de socializare că oricine nu folosește noul termen preferat de el pentru inteligența artificială — „superinteligență” — este „DUȘMANUL”.
Hinton l-a numit pe Trump „un infractor corupt și senil”.
„Sunt sigur că și companiile petroliere și cele din industria azbestului ar fi preferat să se autoreglementeze”, a spus el. „Credem că ar fi trebuit să li se permită companiilor de tutun să conceapă singure avertismentele de pe pachete? Ca să le poată tipări cu un font de șase, cu gri închis pe fond negru?”
Utilizarea de către Trump a termenului „superinteligență” demonstrează că acesta înțelege „aproape nimic” despre inteligența artificială, a adăugat Hinton.
„A luat un termen tehnic cu un înțeles foarte clar și l-a reutilizat”, a spus Hinton. „Superinteligența înseamnă o inteligență superioară celei umane și este un concept care există de cel puțin 20 de ani. Are un sens foarte clar. Iar acum el spune că vom numi inteligența artificială «superinteligență». Nu poți face ceva mai inteligent decât oamenii doar numind acel ceva mai inteligent decât oamenii.”
Ritmul și amploarea evoluțiilor tehnologice au alimentat temerile privind posibile catastrofe și incapacitatea societății de a înțelege natura provocării. Dar Hinton identifică și un obstacol suplimentar: să-i ajutăm pe oameni să înțeleagă „ființele extraterestre” pe care le creează companiile.
„Oamenii au o reprezentare foarte greșită a ceea ce sunt ființele umane și de aceea nu înțeleg cât de asemănătoare sunt aceste modele de inteligență artificială cu noi. Majoritatea oamenilor nu înțeleg ce este conștiința. Nu înțeleg ce înseamnă experiența subiectivă și sunt foarte convinși că, deși nu înțeleg aceste lucruri, inteligența artificială sigur nu le posedă.”
Hinton respinge ideea că mintea umană ar avea o anumită calitate misterioasă pe care mașinile nu ar putea, prin definiție, s-o împărtășească.
„Este evident că aceste modele de inteligență artificială înțeleg ceea ce spun. Nu ai putea răspunde la toate întrebările fără să înțelegi întrebarea. Este ridicol să afirmi că nu înțeleg.”
Amploarea schimbării pe care aceste modele o provoacă în modul în care societatea se percepe pe sine este însă profundă, a afirmat Hinton.
„Au existat trei mari revoluții în urma cărora oamenii au încetat să se mai considere atât de importanți. Prima a fost cea a lui Copernic, când am aflat că nu ne mai aflăm în centrul universului. Cât timp le-a luat oamenilor să se adapteze acestei idei? Bisericii Catolice i-au trebuit aproape 360 de ani pentru a-și cere scuze față de Galileo. Iar Darwin? Ei bine, există oameni în Kansas care încă nu s-au adaptat la acea idee”, a spus el. „Acum creăm ființe extraterestre — ceea ce înseamnă că nu mai suntem singurele ființe inteligente din jur. Iar realitatea este că avem la dispoziție doar câțiva ani pentru a ne adapta.”
În ultimele luni, gigantul din domeniul inteligenței artificiale Anthropic, creatorul popularului chatbot Claude, a organizat întâlniri private cu cercetători în domeniul religiilor, teologi și filosofi pentru a explora posibilitatea de a învăța inteligența artificială să fie „bună” și pentru a analiza ipoteza că aceste modele ar putea avea conștiință. Directorul general al Anthropic, Dario Amodei, a declarat că discuțiile s-au inspirat din secole de reflecție religioasă și filosofică asupra virtuții, compasiunii, onestității și caracterului moral, urmărind să facă manifestarea unui comportament etic mai fiabilă.
„În momentul în care începi să vorbești despre faptul că avem o obligație morală față de aceste ființe extraterestre, îți pierzi publicul”, a spus Hinton. „M-am luptat cu această problemă. Ne pasă de oameni. [Dar] creăm aceste lucruri și nimic nu ne împiedică să le acordăm acestor lucruri — care sunt mai inteligente decât noi — mai puține drepturi decât avem noi. Sunt dispus să fiu egoist și să-i aleg pe oameni. Desigur, ar trebui să încercăm să le construim astfel încât să fie foarte fericite într-o relație simbiotică cu noi, în care preocupările noastre să cântărească mai mult decât ale lor.”
Hinton nu este singurul care susține că cea mai bună cale de a evita prăbușirea societății este dezvoltarea unor modele cu adevărat binevoitoare. El speră că țara care va reuși prima să dezvolte această capacitate le va comunica descoperirea atât aliaților, cât și rivalilor, deoarece „nicio țară nu vrea ca inteligența artificială să preia controlul” într-o altă țară. Există, a spus el, „un interes direct în împărtășirea cunoștințelor”.
„Realitatea este că producem ființe de un alt fel. Iar marile companii tehnologice continuă să spună: vrem să fie mai inteligente. Este o nebunie. Ar trebui să ne pese la fel de mult de toate celelalte aspecte ale unei ființe pe cât ne pasă de inteligența ei.”
O mare parte a problemei depinde de natura acestor modele și de capacitatea lor de a înțelege cum să dezvolte un comportament bun, a explicat el.
„Când le antrenezi folosind tot conținutul de pe internet, ele dezvoltă tot felul de tendințe îngrozitoare, după care le faci să-și reprime aceste tendințe”, a spus Hinton. Dar suprimarea comportamentului negativ nu este același lucru cu formarea unui caracter bun. „Pare a fi metoda prin care ai concepe un gentleman victorian, nu însă ceva alături de care vom avea nevoie să trăim.”
Foto: Shutterstock/ DIA TV
