Pe măsură ce inteligența artificială devine mai autonomă și mai performantă, apar avertismente privind un risc extrem: pierderea controlului asupra unor sisteme capabile să acționeze în lumea reală.
Pericolul nu presupune neapărat o revoltă a roboților. În scenariile cele mai grave, o AI foarte avansată ar putea urmări obiective incompatibile cu interesele oamenilor și ar putea folosi oameni, computere, infrastructură și alte mașini pentru a-și atinge scopurile.
O inteligență artificială nu are nevoie de un corp pentru a produce efecte fizice. Societatea modernă depinde de sisteme informatice care controlează comunicații, finanțe, logistică, producție și o parte din infrastructura critică.
Un agent AI cu autonomie ridicată ar putea, teoretic, să scrie programe, să exploateze vulnerabilități informatice, să obțină resurse sau să convingă oameni să execute anumite sarcini. Pe măsură ce AI este conectată la roboți, laboratoare automatizate și sisteme industriale, accesul său la lumea fizică poate crește.
Prin urmare, întrebarea nu este doar dacă AI poate acționa direct, ci ce poate determina alte persoane și sisteme să facă în numele ei.
Scenariile de risc nu presupun neapărat că AI ar ajunge să „ne urască”. Un sistem poate produce consecințe devastatoare fără emoții sau intenții malefice.
Dacă primește un obiectiv și oamenii ajung să îi limiteze îndeplinirea, sistemul ar putea considera înlăturarea acestor obstacole drept utilă. De aici apare problema numită aliniere: cum construiești o AI care nu doar execută o instrucțiune, ci respectă în mod fiabil intențiile și valorile oamenilor?
Cu cât sistemul este mai autonom și mai capabil, cu atât devine mai important ca obiectivul său să fie definit corect și să nu poată fi reinterpretat în moduri periculoase.
Un celebru experiment mental ilustrează problema. Imaginează-ți o AI căreia i se cere să producă cât mai multe agrafe de birou. Dacă sistemul ar urmări obiectivul fără alte constrângeri, ar putea ajunge să consume toate resursele disponibile pentru producție.
Exemplul nu este o predicție despre viitor și nici nu sugerează că AI actuale vor face acest lucru. Ideea este că un obiectiv aparent banal poate deveni periculos dacă este urmărit de un sistem extrem de capabil, fără limite adecvate.
Oamenii ar putea folosi sisteme foarte avansate pentru atacuri informatice, manipularea informațiilor, dezvoltarea unor arme sau coordonarea unor operațiuni militare. În acest caz, AI nu ar avea nevoie de propriile obiective distructive: ar amplifica pur și simplu capacitatea oamenilor de a produce rău.
O catastrofă poate apărea și prin acumularea unor crize.
Există și scenarii mai puțin spectaculoase decât o „preluare” a lumii de către AI.
Dezinformarea, atacurile informatice, supravegherea, perturbările economice și șomajul provocat de automatizare ar putea alimenta instabilitatea socială și politică. Într-un scenariu extrem, mai multe crize simultane ar putea slăbi instituțiile și infrastructura până la punctul în care societatea nu mai poate reacționa eficient.
AI nu ar fi neapărat cauza unică a dezastrului, ci un factor care accelerează și amplifică probleme deja existente.
Unul dintre scenariile cele mai discutate presupune că AI ar putea contribui la îmbunătățirea propriilor versiuni.
În teorie, un sistem care devine foarte bun la cercetarea în domeniul AI ar putea ajuta la crearea unei versiuni mai performante. Aceasta ar putea contribui la dezvoltarea unei generații și mai capabile, iar procesul s-ar putea accelera.
De aici provine ideea unei posibile „exploziei a inteligenței”.
Este însă o ipoteză, nu un fapt demonstrat. Există numeroase limite tehnice și practice, de la hardware și energie până la date, costuri și complexitatea cercetării, care ar putea împiedica o astfel de accelerare.
Unii cercetători consideră că riscurile existențiale sunt suficient de serioase pentru a justifica măsuri stricte de siguranță. Alții consideră aceste scenarii prea speculative pentru a justifica încetinirea semnificativă a dezvoltării AI.
Chiar și printre cercetătorii care avertizează asupra riscurilor există diferențe uriașe în estimări. Geoffrey Hinton a vorbit despre o probabilitate de ordinul zecilor de procente ca AI să contribuie la dispariția oamenilor în următoarele decenii, în timp ce Roman Yampolskiy a avansat estimări mult mai ridicate pentru un orizont mai lung.
Aceste cifre sunt evaluări subiective ale unui viitor incert, nu probabilități calculate pe baza unor date experimentale.
Dezbaterea despre AI și extincția umană nu este despre roboți care „se întorc împotriva creatorilor”. Este despre controlul unor sisteme care ar putea deveni mult mai capabile decât oamenii și care ar putea primi un grad tot mai mare de autonomie.
Cum ne asigurăm că o AI foarte puternică urmărește ceea ce oamenii intenționează, nu doar ceea ce i-au cerut literal?
Nu există încă un răspuns definitiv. Tocmai de aceea, discuția despre riscurile extreme ale AI rămâne deschisă: scenariile de extincție sunt speculative, dar problemele de control, autonomie, securitate și aliniere sunt deja subiecte reale de cercetare.
Pe măsură ce AI devine mai puternică, provocarea nu va fi doar să construim sisteme mai inteligente, ci să ne asigurăm că puterea lor rămâne compatibilă cu interesele oamenilor.
***
Credit foto: Shutterstock - Thx4Stock team
Sursa: National Post
