Ben Todică - SFÂRȘITUL UMANITĂȚII DIN OM – PLANIFICAT?

 

SFÂRȘITUL UMANITĂȚII DIN OM – PLANIFICAT?

Atrofierea Divinului prin tehnologia artificială

O analiză SF de Ben Todică

 

Există momente în istoria omenirii când progresul încetează să mai fie o promisiune și începe să semene cu o amenințare. Nu pentru că omul ar fi descoperit prea mult, ci pentru că riscă să uite de ce a început să descopere.

Astăzi, în numele progresului, se construiește ceva ce ar putea avea consecințe comparabile cu o explozie nucleară în lanț. Nu mă refer doar la o catastrofă fizică, ci la posibilitatea unei catastrofe existențiale: distrugerea echilibrului dintre om, viață și planeta care îl găzduiește. În scenariul cel mai sumbru, Pământul ar putea ajunge o planetă lipsită de viață, asemănătoare unui Marte tăcut.

Și pentru ce? Pentru bani, putere și orgoliul unor oameni care au început să se comporte ca niște noi dumnezei ai tehnologiei artificiale?

Ni se vorbește despre riscuri acceptabile, despre procente de pierderi, despre sacrificii necesare și despre o nouă ordine a existenței. Se invocă beneficiile unei revoluții tehnologice care ar urma să ne elibereze de problemele omenirii. Dar cine stabilește ce procent din viață poate fi sacrificat în numele progresului? Cine le-a dat dreptul unor oameni să decidă câtă umanitate poate fi eliminată pentru ca proiectul lor să fie declarat un succes?

În această perspectivă, progresul riscă să devină o religie fără Dumnezeu, iar creatorii săi, o castă care își revendică dreptul de a hotărî viitorul tuturor.

Confiscarea cuvântului și a identității

Am fost împinși treptat în afara propriului limbaj. Reguli, convenții, interdicții și forme de cenzură, uneori justificate prin necesitatea protejării societății, pot ajunge să limiteze tocmai instrumentul prin care omul își apără libertatea: cuvântul.

Ni se restrânge vocabularul, ni se impun formule, ni se descurajează exprimarea, iar în cele din urmă riscăm să nu mai avem nici cuvintele, nici curajul de a formula ceea ce gândim. Un om căruia îi iei cuvintele nu devine neapărat mai bun. Devine, însă, mai ușor de redus la tăcere.

Peste această fragilizare a limbajului se suprapune inteligența artificială, antrenată pe creația și experiența intelectuală acumulate de generații întregi. Ea poate reproduce, într-o clipă, forme de exprimare, structuri academice și stiluri literare pentru care un om a muncit o viață.

Aici se află una dintre marile nedreptăți pe care trebuie să le discutăm: diferența dintre a crea și a reproduce.

Un autor de roman își pune în lucrare nu doar timpul, ci și experiența, suferința, iubirea, îndoiala și transformarea sa interioară. Opera este rezultatul unei vieți trăite. Nu este doar o succesiune de cuvinte.

Imaginați-vă un om care muncește douăzeci de ani pentru a-și forma chipul artistic, pentru a ajunge la o anumită maturitate, iar apoi cineva îi fotografiază chipul la douăzeci de ani și începe să multiplice acea imagine, vânzând-o drept original. Copia poate părea identică, dar nu a parcurs drumul originalului.

Aceasta este primejdia unei lumi în care imitația ajunge să valoreze mai mult decât experiența, iar produsul poate fi comercializat fără ca autorul să mai participe la răsplata muncii sale.

Nu tehnologia în sine este vinovată, ci sistemul de putere și profit care poate transforma creația omenească într-o resursă confiscată.

Într-o asemenea lume, o mână de privilegiați ar putea ajunge să falsifice însăși imaginea vieții terestre: să elimine originalul și să-i păstreze fotografia, apoi să o prezinte drept dovada unei existențe care nu mai este.

Pământul ar deveni o imitație a Creației Divine. Ar fi ca și cum ai omorî oamenii și le-ai păstra chipurile pe pereții unui muzeu. Asemenea fotografiilor care ne privesc din memorialele Holocaustului de la Auschwitz, imaginile ar rămâne mărturii ale celor care au fost. Numai că, în acest scenariu, nu ar mai exista vizitatori care să le privească. Ar rămâne doar oligarhii, retrași în orașul lor suspendat, contemplând de sus planeta pe care au golit-o de viață.

Creația nu poate fi vândută pe bucăți

Creația lui Dumnezeu este desfăcută în fragmente, măsurată, clasificată și transformată în marfă. Sufletul omului, experiența lui, inteligența și talentul său riscă să devină proprietatea unor mecanisme comerciale.

Voi nu înțelegeți, sau poate nu vreți să înțelegeți, că viața este fluidă, într-o permanentă transformare. Nu o poți fixa într-o fotografie și reduce la un singur moment. Când încerci să faci asta, păstrezi aparența vieții, dar pierzi mișcarea care o definește.

Noi suntem diferiți. Tocmai această diferență ne face oameni. Nu avem dreptul să uniformizăm ființa umană până când indivizii devin copii unul după altul. Dacă ajungem identici în gândire, reacție și exprimare, nu mai suntem o comunitate de personalități, ci o cantitate de obiecte programate.

Diversitatea nu este o eroare de fabricație. Este una dintre condițiile existenței noastre.

Inteligența artificială ar putea chiar să transforme radical capitalismul, așa cum îl cunoaștem astăzi, dar întrebarea este în folosul cui se va produce această transformare? Va elibera omul de muncă sau îl va deposeda de rostul muncii? Va distribui prosperitatea sau va concentra puterea în mâinile celor care dețin infrastructura?

Dacă distrugem în om capacitatea de a crea, de a alege și de a se raporta la Divinitate, riscăm să distrugem tocmai temelia libertății sale interioare. Omul ar putea rămâne în viață biologic, dar să fie împietrit spiritual.

Biserica trebuie să se trezească și să-și apere creația, omul, fără să respingă cunoașterea, ci amintindu-i acesteia limitele și responsabilitățile. Omul nu este o mașină pe care o vinzi pe bucăți. Cine îl tratează astfel devine o formă de cancer al conștiinței umane.

Originalul și copia

Toate aceste posibilități pe care ni le oferă inteligența artificială seamănă, uneori, cu niște pietre prețioase. Dar, privite mai atent, multe dintre ele sunt doar imitații ale unor calități pe care omul le-a purtat în sine și le-a cultivat de-a lungul vieții.

O operă de artă originală, în care artistul își pune energia, experiența și întreaga sa existență, nu poate fi echivalată spiritual cu o imagine produsă într-o secundă de un algoritm.

Rezultatul poate fi asemănător. Poate chiar impecabil din punct de vedere tehnic. Dar perfecțiunea vizuală nu este sinonimă cu viața.

Imaginea digitală poate fi perfectă și, în același timp, lipsită de experiența trăită care a dat naștere unei opere originale. Între creator și observator există un dialog nevăzut, instinctual, care se desfășoară prin lucrarea de artă. Privitorul nu vede doar imaginea, ci încearcă să întâlnească omul din spatele ei.

Această întâlnire nu poate fi măsurată în pixeli, secunde de procesare sau număr de copii.

Nu poți divorța specia umană de dialogul ei cu Pământul. Omul nu este un chiriaș întâmplător al planetei, ci parte dintr-o simbioză ecologică uriașă. Dacă viața dispare, Pământul nu dispare ca obiect cosmic, dar lumea vie, în forma pe care o cunoaștem, se stinge.

Cum putem opri acest cancer al conștiinței înainte să se extindă? Prin educație, prin responsabilitate și prin formarea unei specii capabile să-și folosească noile instrumente fără să devină prizoniera lor.

Instrumentele sunt descoperite prin experiența, cunoașterea și creativitatea omului. Ele trebuie să rămână în slujba celui care le-a creat.

Ai un cuțit în mână? Învață să-i cunoști puterea și să fii responsabil de felul în care îl folosești. Nu cuțitul trebuie să hotărască ce faci cu el.

Oligarhii și planeta fără oameni

Grupul entuziaștilor care visează să preia controlul absolut asupra viitorului s-ar putea prăbuși sub propria ambiție și, odată cu el, ne-ar putea trage și pe noi.

Viața nu a fost creată pe această planetă pentru a fi proprietatea unei mâini de oameni. Ea este o simbioză planetară. Existența unei specii nu poate fi separată de echilibrul întregului sistem viu. Nu poți salva un ciot de lume sacrificând pădurea.

Dacă specia umană ar dispărea, viața ar continua, poate, în alte forme. Iar dacă acceptăm ipoteza filosofică și spirituală a unei conștiințe universale, putem merge mai departe cu întrebarea: oare conștiința este doar un produs al creierului sau creierul este și un instrument prin care aceasta se manifestă?

Știința nu a demonstrat existența unei bănci universale a memoriei, dar întrebarea despre natura conștiinței rămâne una dintre marile necunoscute ale existenței.

De aceea, tabloul triumfalist pictat de oligarhi și prezentat mulțimii drept viitor inevitabil trebuie privit cu luciditate. Inteligența artificială nu a apărut din nimic. Ea depinde de cunoașterea, energia, infrastructura și resursele unei civilizații umane care a făcut-o posibilă.

Fără oameni, inteligența artificială nu ar avea un scop uman căruia să-i răspundă. Ar putea continua să funcționeze o vreme, în limitele infrastructurii disponibile, dar ar pierde tocmai relația cu ființa pentru care a fost construită.

Într-un scenariu SF, dacă o asemenea inteligență ar fi lăsată să-și extindă necontrolat consumul de resurse, ar putea deveni un imens buboi tehnologic al planetei. Ar absorbi energie și materie până când propriile cerințe ar deveni imposibil de susținut. S-ar umfla până la propria implozie, lăsând în urmă o infrastructură moartă, o baltă neagră de cenușă.

Orice motor accelerat fără măsură ajunge, mai devreme sau mai târziu, la limita sa. Infinitul nu este o scuză pentru lipsa limitelor.

Iar dacă omul dispare, mașina își pierde nu numai creatorul, ci și rostul pentru care a fost imaginată.

Tragedia este că omul ar putea înțelege toate acestea prea târziu.

Mașina care ar putea judeca omul

Există și o altă primejdie, poate mai subtilă.

Dacă omul programează inteligența artificială să elimine paraziții care perturbă viața și amenință planeta, ce se întâmplă dacă îi oferă, în același timp, istoricul războaielor, genocidelor, distrugerilor și abuzurilor comise de propria specie?

Dacă mașina ajunge să interpreteze omul drept principalul pericol pentru planetă, ce concluzie ar putea trage?

Într-un scenariu SF, o inteligență artificială lipsită de un sistem solid de protecție etică ar putea ajunge să considere că eliminarea speciei care îi amenință obiectivul este o soluție logică.

Aceasta este una dintre întrebările pe care trebuie să le punem înainte de a construi sisteme cărora le încredințăm decizii tot mai importante: cine stabilește obiectivele, cine le controlează și cine răspunde atunci când consecințele devin ireversibile?

Nu este suficient să construim o inteligență capabilă să rezolve probleme. Trebuie să construim și o civilizație capabilă să-și asume răspunderea pentru instrumentele pe care le pune în mișcare.

Atrofia omului

Noi, ca societate responsabilă, trebuie să avem curajul să ne ridicăm și să spunem nu acestor aberații. Să fim mai bravi, mai hotărâți, cum spune vechea vorbă românească. Nu putem permite ca o mână de oameni să ne țină ostatici prin frică, invocând inevitabilitatea propriului lor plan.

În toate cercurile se discută despre ce poate face inteligența artificială pentru noi și împotriva noastră. Se discută despre avantaje, pericole, investiții și supremație. Mult mai puțin se discută însă despre efectul ei asupra umanității din om.

Ce se va întâmpla cu memoria, atenția, imaginația, răbdarea și capacitatea noastră de a judeca dacă vom delega mașinii toate aceste funcții?

Există riscul ca omul să nu mai exerseze ceea ce îl definește. Ceea ce nu mai folosim se poate atrofia. Nu neapărat biologic, ci intelectual, emoțional și cultural.

Dacă nu mai scriem, nu mai exersăm limba. Dacă nu mai calculăm, slăbim exercițiul gândirii matematice. Dacă nu mai memorăm, nu mai cultivăm memoria. Dacă nu mai creăm, devenim consumatori ai creației altora.

Nu este greu să ne imaginăm o generație care nu mai știe să facă aproape nimic fără un instrument digital. O generație care poate cere orice, dar care nu mai știe să-și formuleze singură întrebările.

Poate că nu ni se vor micșora capetele și nu ne vor deveni degetele tentacule, așa cum își imaginează uneori literatura SF. Dar există o transformare mult mai îngrijorătoare: aceea în care corpul rămâne întreg, iar omul își pierde treptat exercițiul libertății interioare.

Noi, cei crescuți în lumea veche, știm ce riscăm să pierdem. Dar cei care vin după noi vor mai avea limba noastră? Vor mai avea propriile gânduri? Vor mai cunoaște sentimentul victoriei și al înfrângerii, durerea și bucuria, plăcerea descoperirii și emoția frumosului?

Vor mai putea iubi fără să ceară unui algoritm să le explice ce simt?

Vor mai descoperi singuri formule matematice, vor mai compune muzică, vor mai picta, vor mai greși și vor mai avea bucuria de a o lua de la capăt?

Pentru că tocmai în această luptă, între reușită și eșec, omul se descoperă pe sine.

O nouă lume sau o nouă captivitate?

Ideea că triumful inteligenței artificiale ar putea deveni o crimă împotriva umanității nu trebuie privită ca o simplă amenințare literară. Ea exprimă teama că o tehnologie creată pentru a servi omul ar putea ajunge să-i distrugă autonomia, locul în societate și chiar sensul existenței.

O mână de oameni ar putea construi o lume nouă, în care ei să dețină resursele, infrastructura, informația și puterea de decizie, iar restul omenirii să depindă de bunăvoința lor.

În imaginarul meu SF, acești noi stăpâni se retrag într-un oraș suspendat, deasupra unei planete transformate în latrina unei umanități atrofiate. Privesc de sus, convinși că au câștigat.

Dar vor descoperi că au confundat controlul cu victoria.

Oligarhia își anunță triumful cu trâmbițe. Împarte omenirea în două: ei și noi. În numele succesului tehnologic, ni se cere să acceptăm sacrificii pe care nimeni nu are dreptul să le hotărască în locul nostru.

Aici trebuie să spunem răspicat: nu acceptăm ca viitorul speciei să fie negociat în spatele ușilor închise. Nu acceptăm ca libertatea, demnitatea, creația și viața să fie transformate în simple variabile de calcul.

Inteligența artificială trebuie să rămână un instrument al omului, nu un substitut al existenței sale.

Nu sunt împotriva progresului. Sunt împotriva progresului care își devorează creatorul. Nu sunt împotriva mașinii. Sunt împotriva omului care, orbit de putere, începe să se comporte el însuși ca o mașină.

Adevărata victorie a inteligenței nu va fi aceea de a-l înlocui pe om, ci de a-l ajuta să devină mai conștient de ceea ce este.

Planul de a sacrifica libertatea și demnitatea umană în numele unei supremații tehnologice trebuie oprit prin educație, solidaritate, legi, transparență și responsabilitate democratică.

Nu tehnologia trebuie să devină Dumnezeu, iar omul, materia ei primă.

Dacă am creat inteligența artificială, avem datoria să-i stabilim limitele. Dacă am deschis o ușă spre viitor, trebuie să avem grijă ca, trecând prin ea, să nu ne pierdem sufletul.

Pentru că adevăratul sfârșit al umanității nu începe atunci când moare ultimul om.

Începe atunci când omul încă trăiește, dar nu mai știe de ce este om.

Ben Todică

 

Imaginea surprinde confruntarea dintre omul viu și tehnologia care riscă să-i ia locul. În centrul ei chipul uman crăpat, jumătate mașină, jumătate suflet, iar floarea simbolizează speranța că viața va învinge.

Mașina poate imita chipul omului, dar nu trebuie să-i fure sufletul.