În prezent, tehnologii exercită o influență politică ce până de curând era considerată de neimaginat. În timp ce Departamentul pentru Eficiență Guvernamentală al lui Elon Musk reduce drastic serviciile publice, Jeff Bezos duce vedete în spațiu cu Blue Origin, iar directorii executivi ai companiilor de inteligență artificială vorbesc deschis despre transformarea radicală a societății.
Prin urmare, nu a existat niciodată un moment mai potrivit pentru a înțelege ideile care animă viziunea particulară a acestor lideri asupra viitorului, scrie The Atlantic.
În noua sa carte, More Everything Forever, jurnalistul Adam Becker oferă o incursiune profundă în viziunea asupra lumii a tehnoutopiștilor precum Musk, o viziune susținută de promisiuni privind dominația IA, colonizarea spațiului, creșterea economică nelimitată și, în cele din urmă, nemurirea. Premisa lui Becker este stimulantă: viziunile cele mai îndrăznețe ale oligarhilor tehnologici asupra viitorului constituie o teologie seculară modernă care este atât fascinantă, cât și, în opinia sa, profund eronată. Preocuparea centrală a autorului este că aceste ambiții mărețe nu sunt excentricități inofensive, ci ideologii cu consecințe în lumea reală.
Ce vor aceste persoane? În utopia lor vibrantă, omenirea a valorificat tehnologia pentru a-și depăși toate limitele – în primul rând, bătrânețea și limitele finite ale cunoașterii. Inteligența artificială supraveghează o eră a abundenței, automatizând munca și generând bogăție atât de eficient încât nevoile fiecărei persoane sunt satisfăcute instantaneu. Societatea este alimentată în întregime de energie curată, iar industria grea a fost mutată în spațiu, transformând Pământul într-un sanctuar virgin. Oamenii trăiesc și lucrează în întregul sistem solar. Progresele în biotehnologie au cucerit aproape complet bolile și îmbătrânirea. În centrul acestui viitor, o inteligență artificială prietenoasă, aliniată valorilor umane, ghidează civilizația cu înțelepciune, asigurându-se că progresul rămâne strâns legat de înflorirea umanității și a mediului.
Musk, alături de Bezos și de CEO-ul OpenAI, Sam Altman, nu se limitează la a imagina un viitor science-fiction ca pe un hobby de lux – ei îl finanțează, îl promovează și, într-un număr tot mai mare de cazuri, încearcă să reorganizeze societatea în jurul lui. În viziunea lui Becker, bogații nu urmăresc doar utopia, ci acordă prioritate viziunii lor asupra viitorului în detrimentul preocupărilor foarte reale ale oamenilor din prezent. Împiedicarea cercetării în domeniul mediului, de exemplu, are sens dacă crezi că viața umană va continua să existe într-un alt loc extraterestru. More Everything Forever ne cere să luăm în serios aceste idei, nu neapărat pentru că sunt previziuni credibile, ci pentru că unii oameni aflați la putere cred că sunt.
„Visul este întotdeauna același”
Becker, într-o proză concisă, deși uneori previzibilă, evidențiază natura cvasi-spirituală a utopismului din Silicon Valley, care se bazează pe două credințe fundamentale. În primul rând, că moartea este înfricoșătoare și neplăcută. Și în al doilea rând, că datorită științei și tehnologiei, oamenii viitorului nu vor mai trebui să se teamă sau să facă ceva neplăcut. „Visul este întotdeauna același: să mergi în spațiu și să trăiești veșnic”, scrie Becker. (Unul dintre motivele interesului pentru spațiu este că medicamentele pentru longevitate, potrivit cercetătorului în tehnologie Benjamin Reinhardt, pot fi sintetizate numai „într-un mediu imaculat, fără gravitație”.) Acest viitor va depăși nu doar biologia umană, ci și o ruptură fundamentală între știință și credință. Becker o citează pe scriitoarea Meghan O’Gieblyn, care observă în cartea sa God, Human, Animal, Machine că „ceea ce face transumanismul atât de convingător este că promite să restabilească prin știință speranțele transcendente – și esențial religioase – pe care știința însăși le-a distrus”.
Becker demonstrează modul în care anumiți tehnologi contemporani flirtează cu elemente explicit religioase. Anthony Levandowski, fostul șef al diviziei de mașini autonome a Google, de exemplu, a fondat o organizație care venerează inteligența artificială ca pe o divinitate. Dar Becker dezvăluie și precedentele în mare parte uitate ale acestei viziuni asupra lumii, schițând o linie de gândire care leagă vizionarii din Silicon Valley de profeții futuriști din trecut. La sfârșitul secolului al XIX-lea, filosoful rus Nikolai Fedorov propovăduia că misiunea divină a umanității era de a învia fizic fiecare persoană care a trăit vreodată și de a o stabili în cosmos, obținând viața veșnică prin ceea ce Fedorov numea „reglementarea naturii prin rațiunea și voința umană”.
Înălțarea predicată și invocată odinioară în biserici a fost reinterpretată pentru vremurile seculare: în locul sufletelor care se înalță la cer, există minți conservate digital – sau chiar corpuri menținute în viață – pentru eternitate. Din acest punct de vedere, vizionarii din Silicon Valley nu sunt toți raționaliști reci; mulți dintre ei sunt visători și credincioși ale căror obsesii constituie, în opinia lui Becker, o narațiune spirituală la fel de mult ca una științifică – o nouă teologie a tehnologiei.
O idee proastă
Să o luăm mai încet: de ce este asta o idee proastă? Cine nu și-ar dori „sănătate perfectă, nemurire, bla bla bla”, așa cum rezumă cu ușurință cercetătorul în IA Eliezer Yudkowsky obiectivul lui Becker? Problema, arată Becker, este că multe dintre aceste vise de transcendență personală ignoră potențialul cost uman al eforturilor depuse pentru a le realiza. Pentru elita tehnologică, acestea sunt viziuni de evadare. Dar, scrie Becker în mod pertinent, „ele nu promit nicio evadare pentru restul dintre noi, ci doar coșmaruri care se apropie”.
Poate că versiunea extremă a acestui coșmar este spectrul unei superinteligențe artificiale, sau AGI (inteligență artificială generală). Yudkowsky îi prezice lui Becker că o IA suficient de avansată, dacă nu ar fi aliniată valorilor umane, „ne-ar ucide pe toți”. Previziunile pentru acest tip de tehnologie, odată marginale, au câștigat o popularitate remarcabilă în rândul liderilor din domeniul tehnologiei și tind aproape întotdeauna spre un optimism uimitor. Sam Altman este recunoscut ca fiind îngrijorat de perspectivele unei IA rebele – el a recunoscut că a stocat „arme, aur, iodură de potasiu, antibiotice, baterii, apă, măști de gaz de la Forțele de Apărare Israeliene și un teren mare în Big Sur unde pot zbura” – dar aceste îngrijorări nu îl împiedică să planifice activ o lume remodelată de creșterea exponențială a IA. În cuvintele lui Altman, trăim în pragul unui moment în care mașinile vor face „aproape totul” și vor declanșa schimbări sociale atât de rapide încât „viitorul poate fi aproape inimaginabil de minunat”. Becker este mai puțin optimist, scriind că „pur și simplu nu știm ce va fi nevoie pentru a construi o mașină care să facă toate lucrurile pe care le poate face un om”. Și, din punctul său de vedere, este mai bine ca lucrurile să rămână așa.
Becker este la apogeul retoricii sale atunci când examinează filosofia „longtermism”-ului care stă la baza unei mari părți din acest entuziasm centrat pe IA și călătoriile spațiale. Longtermism-ul, susținut de unii filosofi din Silicon Valley și de mișcarea altruismului eficient, susține că greutatea viitorului – numărul potențial enorm de vieți umane (sau post-umane) care vor veni – eclipsează preocupările prezentului. Dacă prevenirea extincției umane este binele suprem, practic orice sacrificiu prezent poate și trebuie să fie raționalizat. Becker arată cum elitele tehnologice de astăzi folosesc un astfel de raționament pentru a-și susține propria dominație pe termen scurt și cum retorica despre generațiile viitoare tinde să mascheze nedreptățile și inegalitățile din prezent. Când miliardarii susțin că coloniile lor spațiale sau proiectele de IA ar putea salva umanitatea, ei afirmă, de asemenea, că numai ei ar trebui să modeleze cursul umanității.
Becker observă că această filosofie este „creată de tâmplari care insistă că întreaga lume este un cui care va ceda în fața eforturilor lor”. Perspectiva lui Becker este în mare parte cea a unui realist sobru care face tot posibilul pentru a sparge iluziile, dar ne putem întreba dacă argumentul său nu merge uneori prea departe. Cultura tehnoutopică din Silicon Valley poate fi greșită în optimismul său, dar este doar asta?
O contraargumentare blândă: dorința umană de transcendență provine dintr-o nemulțumire față de prezent și dintr-un impuls creativ, ambele fiind motoare ale progresului autentic. Idealurile ambițioase – chiar și cele aparent bizare – au stimulat de-a lungul istoriei transformări politice și culturale. Credința, de asemenea, a ajutat oamenii să privească viitorul cu optimism. Trebuie recunoscut, de asemenea, că mulți dintre membrii elitei tehnologice criticați de Becker dau dovadă de o oarecare conștientizare a capcanelor etice. Nu toți (și nici măcar majoritatea) tehnologii sunt atât de naivi sau de orbi, cum pare să sugereze uneori Becker.
În cele din urmă, aceasta nu este o carte care se complace în pesimism sau cinism. Mai degrabă, ea servește ca un apel la un umanism lucid. În viziunea lui Becker, liderii tehnologici nu greșesc prin faptul că visează, ci prin faptul că refuză să ia în calcul costurile și responsabilitățile care vin odată cu visele lor. Ei propovăduiesc un viitor în care suferința, lipsurile și chiar moartea pot fi eliminate prin inginerie, dar ignoră suferința foarte reală din prezent, care necesită atenția și compasiunea noastră imediată. Într-o epocă în care cursele spațiale ale miliardarilor și entuziasmul pentru inteligența artificială domină titlurile ziarelor, More Everything Forever vine ca o confruntare cu realitatea, atât de necesară. Uneori, cartea este mai mult decât atât: o meditație valoroasă asupra poveștilor discutabile pe care le spunem despre progres, mântuire și noi înșine.
Sursă foto: LoveMetaverse/ Shutterstock.com
