loader
Foto

Cum ar putea AI să pună în pericol omenirea?

LIFESTYLE

Pe măsură ce inteligența artificială devine mai autonomă și mai performantă, apar avertismente privind un risc extrem: pierderea controlului asupra unor sisteme capabile să acționeze în lumea reală.

 

Pericolul nu presupune neapărat o revoltă a roboților. În scenariile cele mai grave, o AI foarte avansată ar putea urmări obiective incompatibile cu interesele oamenilor și ar putea folosi oameni, computere, infrastructură și alte mașini pentru a-și atinge scopurile.

O inteligență artificială nu are nevoie de un corp pentru a produce efecte fizice. Societatea modernă depinde de sisteme informatice care controlează comunicații, finanțe, logistică, producție și o parte din infrastructura critică.

Un agent AI cu autonomie ridicată ar putea, teoretic, să scrie programe, să exploateze vulnerabilități informatice, să obțină resurse sau să convingă oameni să execute anumite sarcini. Pe măsură ce AI este conectată la roboți, laboratoare automatizate și sisteme industriale, accesul său la lumea fizică poate crește.

Prin urmare, întrebarea nu este doar dacă AI poate acționa direct, ci ce poate determina alte persoane și sisteme să facă în numele ei.

Scenariile de risc nu presupun neapărat că AI ar ajunge să „ne urască”. Un sistem poate produce consecințe devastatoare fără emoții sau intenții malefice.

Dacă primește un obiectiv și oamenii ajung să îi limiteze îndeplinirea, sistemul ar putea considera înlăturarea acestor obstacole drept utilă. De aici apare problema numită aliniere: cum construiești o AI care nu doar execută o instrucțiune, ci respectă în mod fiabil intențiile și valorile oamenilor?

Cu cât sistemul este mai autonom și mai capabil, cu atât devine mai important ca obiectivul său să fie definit corect și să nu poată fi reinterpretat în moduri periculoase.

Un celebru experiment mental ilustrează problema. Imaginează-ți o AI căreia i se cere să producă cât mai multe agrafe de birou. Dacă sistemul ar urmări obiectivul fără alte constrângeri, ar putea ajunge să consume toate resursele disponibile pentru producție.

Exemplul nu este o predicție despre viitor și nici nu sugerează că AI actuale vor face acest lucru. Ideea este că un obiectiv aparent banal poate deveni periculos dacă este urmărit de un sistem extrem de capabil, fără limite adecvate.

Oamenii ar putea folosi sisteme foarte avansate pentru atacuri informatice, manipularea informațiilor, dezvoltarea unor arme sau coordonarea unor operațiuni militare. În acest caz, AI nu ar avea nevoie de propriile obiective distructive: ar amplifica pur și simplu capacitatea oamenilor de a produce rău.

O catastrofă poate apărea și prin acumularea unor crize.

Există și scenarii mai puțin spectaculoase decât o „preluare” a lumii de către AI.

Dezinformarea, atacurile informatice, supravegherea, perturbările economice și șomajul provocat de automatizare ar putea alimenta instabilitatea socială și politică. Într-un scenariu extrem, mai multe crize simultane ar putea slăbi instituțiile și infrastructura până la punctul în care societatea nu mai poate reacționa eficient.

AI nu ar fi neapărat cauza unică a dezastrului, ci un factor care accelerează și amplifică probleme deja existente.

Unul dintre scenariile cele mai discutate presupune că AI ar putea contribui la îmbunătățirea propriilor versiuni.

În teorie, un sistem care devine foarte bun la cercetarea în domeniul AI ar putea ajuta la crearea unei versiuni mai performante. Aceasta ar putea contribui la dezvoltarea unei generații și mai capabile, iar procesul s-ar putea accelera.

De aici provine ideea unei posibile „exploziei a inteligenței”.

Este însă o ipoteză, nu un fapt demonstrat. Există numeroase limite tehnice și practice, de la hardware și energie până la date, costuri și complexitatea cercetării, care ar putea împiedica o astfel de accelerare.

Unii cercetători consideră că riscurile existențiale sunt suficient de serioase pentru a justifica măsuri stricte de siguranță. Alții consideră aceste scenarii prea speculative pentru a justifica încetinirea semnificativă a dezvoltării AI.

Chiar și printre cercetătorii care avertizează asupra riscurilor există diferențe uriașe în estimări. Geoffrey Hinton a vorbit despre o probabilitate de ordinul zecilor de procente ca AI să contribuie la dispariția oamenilor în următoarele decenii, în timp ce Roman Yampolskiy a avansat estimări mult mai ridicate pentru un orizont mai lung.

Aceste cifre sunt evaluări subiective ale unui viitor incert, nu probabilități calculate pe baza unor date experimentale.

Dezbaterea despre AI și extincția umană nu este despre roboți care „se întorc împotriva creatorilor”. Este despre controlul unor sisteme care ar putea deveni mult mai capabile decât oamenii și care ar putea primi un grad tot mai mare de autonomie.

Cum ne asigurăm că o AI foarte puternică urmărește ceea ce oamenii intenționează, nu doar ceea ce i-au cerut literal?

Nu există încă un răspuns definitiv. Tocmai de aceea, discuția despre riscurile extreme ale AI rămâne deschisă: scenariile de extincție sunt speculative, dar problemele de control, autonomie, securitate și aliniere sunt deja subiecte reale de cercetare.

Pe măsură ce AI devine mai puternică, provocarea nu va fi doar să construim sisteme mai inteligente, ci să ne asigurăm că puterea lor rămâne compatibilă cu interesele oamenilor.

***

Credit foto: Shutterstock - Thx4Stock team

Sursa: National Post

 
“Reporter special”: TVR Iași, la ceas aniversar. 35 de ani de la prima emisie | VIDEO

„Cum să spun ce merită spus? Să fie valoros și cursiv, atractiv și logic, cuprinzător și sensibil, mișcător prin adevărul mărturisit, ...

“Călătorie cu gust” cu pasiune pentru motoare și gastronomie | VIDEO

În această ediție “Călătorie cu gust”, intrăm într-un atelier de reparații și customizare a motocicletelor, unde pasiunea pentru motoare se ...

România – Canada, ultimul test al Stejarilor în luna noiembrie, în direct la TVR Sport

Naționala de rugby a României încheie seria meciurilor din luna noiembrie din World Rugby Nations Cup cu o confruntare cu reprezentativa Canadei. ...

Cunoaștere, cultură și muzică: Gala de deschidere „Religions 360°”, la TVR Cultural

Vineri, 20 noiembrie, de la ora 19.00, TVR Cultural difuzează în premieră Gala de deschidere a Congresului Internațional de Istorie a Religiilor ...

Premieră la TVR Cultural: Piatră contra fier - culisele duelului care a dus la înălţarea turnului simbol, în documentarul „Eiffel, războiul turnurilor”

Înainte de a deveni simbolul incontestabil al Parisului, Turnul Eiffel a fost miza unei bătălii feroce a orgoliilor, a viziunilor arhitecturale ...

Calitatea vieții în România: între facturi tot mai mari și un mediu care ne îmbolnăvește

România se confruntă cu un paradox tot mai evident: deși economia a crescut în ultimele decenii, pentru o parte importantă a populației, traiul ...

Când violența devine spectacol: efectele mediatizării incidentelor asupra sportului

Sportul reprezintă un spațiu al competiției, al emoțiilor și al rivalității, dar și un mediu în care se formează comportamente și valori sociale. ...

Campion mondial pe ringul de dans, un om modest în viața de zi cu zi. Rareș Cojoc, invitatul Irinei Păcurariu la „Rețeaua de idoli”

Irina Păcurariu ne invită în universul primului campion mondial al României la dans sportiv. O  întâlnire despre ambiție, disciplină, modestie și ...

Geopolitica actuală - Lumea spre o nouă ordine mondială

Duminică, 15 noiembrie, de la ora 17.00, la TVR Cultural, conf. univ. dr. Cristi Pantelimon, sociolog la Institutul de Sociologie al Academiei ...

Ce se întâmplă cu corpul nostru după 50 de ani? | VIDEO

După 50 de ani, începem să simțim mai acut trecerea timpului. Apar durerile articulare, scade forța musculară, iar mobilitatea nu mai este ...

Dezechilibrele hormonale, pericolele ascunse ale mușcăturilor de animale și beneficiile pauzelor active, la „Un doctor pentru dumneavoastră”

Oboseală inexplicabilă, fluctuații de greutate, tulburări de somn, schimbări de dispoziție, pot fi semnale ale dezechilibrelor hormonale. De ce ...

Emil Constantinescu, dezvăluiri despre culisele puterii, la 30 de ani de la alegerile istorice din 1996. „Gustul amar al libertății”, la TVR 1

La trei decenii de la prima alternanță democratică la putere după căderea comunismului, fostul președinte al României, Emil Constantinescu, ...

Tinerii şi antreprenoriatul în România

Sectorul întreprinderilor mici şi mijlocii trece printr-o perioadă plină de provocări. Multe dintre probleme sunt generate de starea economiei în ...

Teatru și umor, muzică și nostalgie – o nouă săptămână „Poarta Pangrati” la TVR 2

Leonard Miron, Vasile Muraru, Carmen Tănase, Saveta Bogdan, Fuego, Dan Helciug și Mioara Velicu se numără printre invitații Marinei Almășan în ...

O iubire secretă sfidează regulile palatului. Serialul coreean „Luna îmbrățișează Soarele”, din 19 noiembrie, la TVR 1

Povestea de dragoste dintre un rege şi aleasa lui, de origine nobiliară, nu poate fi acceptată, aşa că rămâne secretă... Din 19 noiembrie, la ...