Survolul asupra raftului dedicat temelor stringente ale societății contemporane ne aduce în prim-plan cartea lui Mustafa Suleyman și Michael Bhaskar, tradusă în română de Diana Botescu la editura Bookzone, sub titlul Următorul val: inteligența artificială și cea mai mare dilemă a secolului 21. Scrisă la patru mâini într-un stil incisiv și pătrunzător, cartea reflectă experiența îndelungată a autorilor în domenii de vârf, precum inteligența artificială și biotehnologia. Expertiza lui Mustafa Suleyman, co-fondator DeepMind și director executiv la Inflection AI, în gestionarea produselor AI și a politicilor tehnologice la Google, se face resimțită pe tot parcursul lucrării.
„Dacă vrei să înțelegi sensul, potențialul și amenințarea viitorului val de tehnologii transformatoare, atunci această carte este o lectură esențială”, ne îmbie Stephen Fry într-o recomandare de pe coperta traslucindă. Pe parcursul celor aproximativ 400 de pagini, lectorul descoperă cum domeniul Homo Technologicus, dezvoltat de-a lungul ultimelor secole și focalizat asupra actualității digitale, se desfășoară în interdependențe și tensiuni complexe. Dacă incipitul cărții oferă un glosar cu termenii cheie, finalul redirecționează cititorul ingenios printr-un cod QR către notele extinse ale autorilor, care dialoghează cu o parte consistentă din bibliografia de referință. Din glosar merită subliniate câteva definiții: „IA, IAG și IAC: inteligența artificială (IA) este știința de a instrui mașinile să dobândească capacități similare celor umane. Inteligența artificială generală (IAG) reprezintă punctul în care IA utilizează toate abilitățile cognitive umane mai bine decât cei mai inteligenți oameni. IAC, inteligența artificială capabilă, reprezintă un punct intermediar între IA și IAG: poate realiza o gamă largă de sarcini complexe, dar este încă departe de a fi generală. Următorul val: un grup de tehnologii conexe aflate în curs de apariție, axate pe inteligența artificială și biologia sintetică, ale căror aplicații inovatoare vor conferi putere și, în același timp, vor prezenta riscuri fără precedent. Control: capacitatea de a monitoriza, stăpâni, limita și, eventual, chiar desființa tehnologiile. Problema controlului: tendința tehnologiei de a se răspândi în valuri pe scară largă și de a avea efecte noi, imposibil de prevăzut sau controlat, inclusiv consecințe negative și neprevăzute. Dilema: probabilitatea tot mai mare ca noile tehnologii cât și absența lor să producă rezultate catastrofale și/sau distopice. Patru caracteristici: caracteristicile unice ale valului următor, care amplifică provocarea pe care o reprezintă controlul. Acestea sunt asimetria, hiperevoluția, utilizarea universală și autonomia. Calea îngustă: potențialul omenirii de a găsi un echilibru între deschidere și închidere, atunci când vine vorba despre controlul tehnologiilor din viitor, astfel încât să se evite rezultatele catastrofale sau distopice” (p. 8).
Cartea adoptă un limbaj istorico-tehnologic cu tente progresist-etice, vizând construcția unui ansamblu de problematizări centrale privind domeniul dezbătut. Urgența acestor probleme derivă din proliferarea, convergența și auto-amplificarea tehnologiilor cu potențiale riscuri. Diagnosticul lui Suleyman identifică vulnerabilitățile politico-sociale și sistemice cu care omenirea se va confrunta în deceniile următoare: „Aceasta este o carte despre înfruntarea eșecului. Tehnologiile pot eșua în sensul banal, de a nu funcționa: motorul nu pornește; podul se prăbușește. Dar ele pot eșua și într-un sens mai larg. Dacă tehnologia dăunează vieților omenești sau provoacă prejudicii societăților ori le face neguvernabile, e pentru că dăm putere unei serii haotice de protagoniști răuvoitori (sau neintenționat periculoși) – dacă în ansamblu ei, tehnologia este dăunătoare – atunci se poate spune că a eșuat într-un alt sens, mai profund, nereușind să se ridice la înălțimea așteptărilor. Eșecul în acest sens nu este intrinsec tehnologiei, ci ține de contextul în care funcționează, de structurile de guvernare, de rețelele de putere și de utilizarea acesteia” (p. 29).
De la AlphaGo la supremația cuantică, demonstrațiile autorilor sunt însoțite de relatări despre experiențele personale ale lui Suleyman în start-upuri și avangarda IA. De la interconectarea produselor la asimetria insidioasă a noilor entități digitale, Suleyman atinge prin descrieri și „miezul cambrian” al tehnologiei: „Tehnologia este un set de idei ce evoluează. Noile tehnologii evoluează prin ciocnirea și combinarea cu cele de dinainte. Combinațiile eficiente supraviețuiesc, ca în cazul selecției naturale, formând noi elemente constitutive pentru tehnologiile viitoare. Invenția este un proces cumulativ, de compunere. Se hrănește pe sine. Cu cât există mai multe tehnologii, cu atât mai multe dintre ele pot deveni componente ale altora noi, astfel încât, după cum spunea economistul W. Brian Arthur, «Ansamblul general de tehnologii se dezvoltă de la puține la multe și de la simplu la complex». Tehnologia este, așadar, ca un limbaj sau ca o chimie: nu un set de entități și practici independente, ci un set de părți care se combină și se recombină” (p. 77).
Metafora potopului este potrivit aleasă, căci viața în Antropocen va însemna adaptarea speciei umane la transformările induse de revoluțiile agro-industriale, cibernetice și digitale: „Lumea de mâine va fi un loc în care fabricile își vor crește producția la nivel local, aproape ca în cazul fermelor din epocile anterioare. Dronele și roboții vor fi omniprezenți. Genomul uman va fi un lucru flexibil și, în mod necesar, la fel va fi și conceptul însuși de «om». Durata de viață va fi mult mai mare decât a noastră. Mulți se vor pierde aproape în întregime în lumile virtuale. Ceea ce părea cândva un contract social definitivat se va distorsiona și se va clătina. În secolul al XXI-lea, necesitatea de a învăța să trăim și să prosperăm în această lume va face parte din viața tuturor” (p. 391).
Pentru Suleyman și co., înțelegerea tehnologiei presupune confruntarea și explorarea unor căi de control și limitare a efectelor acestei producții. Totodată, este crucial să se anticipeze consecințele neintenționate și reacțiile neașteptate generate de inovații. Subcapitole precum Controlul este fundamentul dezvoltă ideea că: „Tehnologia nu este un adversar, ci o caracteristică esențială a societății umane. Controlul tehnologiei trebuie să fie un program mult mai fundamental, un echilibru de putere, dar nu între actorii concurenți, ci și între oameni și uneltele noastre. Este o condiție prealabilă necesară pentru supraviețuirea speciei noastre în următorul secol. Controlul cuprinde reglementări, o mai bună siguranță tehnică, noi modele de guvernanță și de proprietate și noi moduri de responsabilitate și transparență, toate acestea fiind precursori necesari (dar nu suficienți) ai unei tehnologii mai sigure. Este un sistem de siguranță general, care reunește ingineria de ultimă oră, valorile etice și reglementările guvernamentale. Controlul nu ar trebui să fie văzut ca fiind răspunsul final la toate problemele tehnologiei; este mai degrabă primul pas, critic, un fundament pe care se construiește viitorul” (p. 58).
Căutând o cale de mijloc între potențiale catastrofe și tehno-autoritarisme, autorii subliniază vulnerabilitățile politico-sociale, mai ales în partea a treia (Statele eșecului) și a patra (Prin val): „În spatele noului impuls autoritarist și al instabilității politice se află un fond tot mai mare de nemulțumiri sociale. Fiind un catalizator-cheie al instabilității și al nemulțumirilor sociale, inegalitatea a crescut vertiginos în cadrul națiunilor occidentale, în ultimele decenii, și nicăieri mai mult decât în Statele Unite… Bogăția este din ce în ce mai mult apanajul unui grup mic. Politica guvernamentală, scăderea populației active, stagnarea nivelului de educație și decelerarea creșterii pe termen lung au făcut ca societățile să devină, în mod decisiv, și mai inegale” (p. 212).
Lectura Următorului val ne provoacă să privim nu doar spre ceea ce putem controla, ci și spre modul în care putem integra aceste tehnologii etic și creativ în comunități, amintindu-ne că viitorul nu este doar o problemă de inginerie, ci și de politici, imaginație și valori comune.