SFÂRȘITUL UMANITĂȚII DIN OM – PLANIFICAT?
Atrofierea Divinului prin tehnologia artificială
O analiză SF de Ben Todică
Există momente în istoria
omenirii când progresul încetează să mai fie o promisiune și începe să semene
cu o amenințare. Nu pentru că omul ar fi descoperit prea mult, ci pentru că
riscă să uite de ce a început să descopere.
Astăzi, în numele progresului, se
construiește ceva ce ar putea avea consecințe comparabile cu o explozie
nucleară în lanț. Nu mă refer doar la o catastrofă fizică, ci la posibilitatea
unei catastrofe existențiale: distrugerea echilibrului dintre om, viață și
planeta care îl găzduiește. În scenariul cel mai sumbru, Pământul ar putea
ajunge o planetă lipsită de viață, asemănătoare unui Marte tăcut.
Și pentru ce? Pentru bani, putere
și orgoliul unor oameni care au început să se comporte ca niște noi dumnezei ai
tehnologiei artificiale?
Ni se vorbește despre riscuri
acceptabile, despre procente de pierderi, despre sacrificii necesare și despre
o nouă ordine a existenței. Se invocă beneficiile unei revoluții tehnologice
care ar urma să ne elibereze de problemele omenirii. Dar cine stabilește ce
procent din viață poate fi sacrificat în numele progresului? Cine le-a dat
dreptul unor oameni să decidă câtă umanitate poate fi eliminată pentru ca
proiectul lor să fie declarat un succes?
În această perspectivă, progresul
riscă să devină o religie fără Dumnezeu, iar creatorii săi, o castă care își
revendică dreptul de a hotărî viitorul tuturor.
Confiscarea
cuvântului și a identității
Am fost împinși treptat în afara
propriului limbaj. Reguli, convenții, interdicții și forme de cenzură, uneori
justificate prin necesitatea protejării societății, pot ajunge să limiteze
tocmai instrumentul prin care omul își apără libertatea: cuvântul.
Ni se restrânge vocabularul, ni
se impun formule, ni se descurajează exprimarea, iar în cele din urmă riscăm să
nu mai avem nici cuvintele, nici curajul de a formula ceea ce gândim. Un om
căruia îi iei cuvintele nu devine neapărat mai bun. Devine, însă, mai ușor de
redus la tăcere.
Peste această fragilizare a
limbajului se suprapune inteligența artificială, antrenată pe creația și
experiența intelectuală acumulate de generații întregi. Ea poate reproduce,
într-o clipă, forme de exprimare, structuri academice și stiluri literare pentru
care un om a muncit o viață.
Aici se află una dintre marile
nedreptăți pe care trebuie să le discutăm: diferența dintre a crea și a
reproduce.
Un autor de roman își pune în
lucrare nu doar timpul, ci și experiența, suferința, iubirea, îndoiala și
transformarea sa interioară. Opera este rezultatul unei vieți trăite. Nu este
doar o succesiune de cuvinte.
Imaginați-vă un om care muncește
douăzeci de ani pentru a-și forma chipul artistic, pentru a ajunge la o anumită
maturitate, iar apoi cineva îi fotografiază chipul la douăzeci de ani și începe
să multiplice acea imagine, vânzând-o drept original. Copia poate părea
identică, dar nu a parcurs drumul originalului.
Aceasta este primejdia unei lumi
în care imitația ajunge să valoreze mai mult decât experiența, iar produsul
poate fi comercializat fără ca autorul să mai participe la răsplata muncii
sale.
Nu tehnologia în sine este
vinovată, ci sistemul de putere și profit care poate transforma creația
omenească într-o resursă confiscată.
Într-o asemenea lume, o mână de
privilegiați ar putea ajunge să falsifice însăși imaginea vieții terestre: să
elimine originalul și să-i păstreze fotografia, apoi să o prezinte drept dovada
unei existențe care nu mai este.
Pământul ar deveni o imitație a
Creației Divine. Ar fi ca și cum ai omorî oamenii și le-ai păstra chipurile pe
pereții unui muzeu. Asemenea fotografiilor care ne privesc din memorialele
Holocaustului de la Auschwitz, imaginile ar rămâne mărturii ale celor care au
fost. Numai că, în acest scenariu, nu ar mai exista vizitatori care să le
privească. Ar rămâne doar oligarhii, retrași în orașul lor suspendat,
contemplând de sus planeta pe care au golit-o de viață.
Creația nu poate fi
vândută pe bucăți
Creația lui Dumnezeu este
desfăcută în fragmente, măsurată, clasificată și transformată în marfă.
Sufletul omului, experiența lui, inteligența și talentul său riscă să devină
proprietatea unor mecanisme comerciale.
Voi nu înțelegeți, sau poate nu
vreți să înțelegeți, că viața este fluidă, într-o permanentă transformare. Nu o
poți fixa într-o fotografie și reduce la un singur moment. Când încerci să faci
asta, păstrezi aparența vieții, dar pierzi mișcarea care o definește.
Noi suntem diferiți. Tocmai
această diferență ne face oameni. Nu avem dreptul să uniformizăm ființa umană
până când indivizii devin copii unul după altul. Dacă ajungem identici în
gândire, reacție și exprimare, nu mai suntem o comunitate de personalități, ci
o cantitate de obiecte programate.
Diversitatea nu este o eroare de
fabricație. Este una dintre condițiile existenței noastre.
Inteligența artificială ar putea
chiar să transforme radical capitalismul, așa cum îl cunoaștem astăzi, dar
întrebarea este în folosul cui se va produce această transformare? Va elibera
omul de muncă sau îl va deposeda de rostul muncii? Va distribui prosperitatea
sau va concentra puterea în mâinile celor care dețin infrastructura?
Dacă distrugem în om capacitatea
de a crea, de a alege și de a se raporta la Divinitate, riscăm să distrugem
tocmai temelia libertății sale interioare. Omul ar putea rămâne în viață
biologic, dar să fie împietrit spiritual.
Biserica trebuie să se trezească
și să-și apere creația, omul, fără să respingă cunoașterea, ci amintindu-i
acesteia limitele și responsabilitățile. Omul nu este o mașină pe care o vinzi
pe bucăți. Cine îl tratează astfel devine o formă de cancer al conștiinței
umane.
Originalul și copia
Toate aceste posibilități pe care
ni le oferă inteligența artificială seamănă, uneori, cu niște pietre prețioase.
Dar, privite mai atent, multe dintre ele sunt doar imitații ale unor calități
pe care omul le-a purtat în sine și le-a cultivat de-a lungul vieții.
O operă de artă originală, în
care artistul își pune energia, experiența și întreaga sa existență, nu poate
fi echivalată spiritual cu o imagine produsă într-o secundă de un algoritm.
Rezultatul poate fi asemănător.
Poate chiar impecabil din punct de vedere tehnic. Dar perfecțiunea vizuală nu
este sinonimă cu viața.
Imaginea digitală poate fi
perfectă și, în același timp, lipsită de experiența trăită care a dat naștere
unei opere originale. Între creator și observator există un dialog nevăzut,
instinctual, care se desfășoară prin lucrarea de artă. Privitorul nu vede doar
imaginea, ci încearcă să întâlnească omul din spatele ei.
Această întâlnire nu poate fi
măsurată în pixeli, secunde de procesare sau număr de copii.
Nu poți divorța specia umană de
dialogul ei cu Pământul. Omul nu este un chiriaș întâmplător al planetei, ci
parte dintr-o simbioză ecologică uriașă. Dacă viața dispare, Pământul nu
dispare ca obiect cosmic, dar lumea vie, în forma pe care o cunoaștem, se
stinge.
Cum putem opri acest cancer al
conștiinței înainte să se extindă? Prin educație, prin responsabilitate și prin
formarea unei specii capabile să-și folosească noile instrumente fără să devină
prizoniera lor.
Instrumentele sunt descoperite
prin experiența, cunoașterea și creativitatea omului. Ele trebuie să rămână în
slujba celui care le-a creat.
Ai un cuțit în mână? Învață să-i
cunoști puterea și să fii responsabil de felul în care îl folosești. Nu cuțitul
trebuie să hotărască ce faci cu el.
Oligarhii și planeta
fără oameni
Grupul entuziaștilor care visează
să preia controlul absolut asupra viitorului s-ar putea prăbuși sub propria
ambiție și, odată cu el, ne-ar putea trage și pe noi.
Viața nu a fost creată pe această
planetă pentru a fi proprietatea unei mâini de oameni. Ea este o simbioză
planetară. Existența unei specii nu poate fi separată de echilibrul întregului
sistem viu. Nu poți salva un ciot de lume sacrificând pădurea.
Dacă specia umană ar dispărea,
viața ar continua, poate, în alte forme. Iar dacă acceptăm ipoteza filosofică
și spirituală a unei conștiințe universale, putem merge mai departe cu
întrebarea: oare conștiința este doar un produs al creierului sau creierul este
și un instrument prin care aceasta se manifestă?
Știința nu a demonstrat existența
unei bănci universale a memoriei, dar întrebarea despre natura conștiinței
rămâne una dintre marile necunoscute ale existenței.
De aceea, tabloul triumfalist
pictat de oligarhi și prezentat mulțimii drept viitor inevitabil trebuie privit
cu luciditate. Inteligența artificială nu a apărut din nimic. Ea depinde de
cunoașterea, energia, infrastructura și resursele unei civilizații umane care a
făcut-o posibilă.
Fără oameni, inteligența
artificială nu ar avea un scop uman căruia să-i răspundă. Ar putea continua să
funcționeze o vreme, în limitele infrastructurii disponibile, dar ar pierde
tocmai relația cu ființa pentru care a fost construită.
Într-un scenariu SF, dacă o
asemenea inteligență ar fi lăsată să-și extindă necontrolat consumul de
resurse, ar putea deveni un imens buboi tehnologic al planetei. Ar absorbi
energie și materie până când propriile cerințe ar deveni imposibil de susținut.
S-ar umfla până la propria implozie, lăsând în urmă o infrastructură moartă, o
baltă neagră de cenușă.
Orice motor accelerat fără măsură
ajunge, mai devreme sau mai târziu, la limita sa. Infinitul nu este o scuză
pentru lipsa limitelor.
Iar dacă omul dispare, mașina își
pierde nu numai creatorul, ci și rostul pentru care a fost imaginată.
Tragedia este că omul ar putea
înțelege toate acestea prea târziu.
Mașina care ar putea
judeca omul
Există și o altă primejdie, poate
mai subtilă.
Dacă omul programează inteligența
artificială să elimine paraziții care perturbă viața și amenință planeta, ce se
întâmplă dacă îi oferă, în același timp, istoricul războaielor, genocidelor,
distrugerilor și abuzurilor comise de propria specie?
Dacă mașina ajunge să
interpreteze omul drept principalul pericol pentru planetă, ce concluzie ar
putea trage?
Într-un scenariu SF, o
inteligență artificială lipsită de un sistem solid de protecție etică ar putea
ajunge să considere că eliminarea speciei care îi amenință obiectivul este o
soluție logică.
Aceasta este una dintre
întrebările pe care trebuie să le punem înainte de a construi sisteme cărora le
încredințăm decizii tot mai importante: cine stabilește obiectivele, cine le
controlează și cine răspunde atunci când consecințele devin ireversibile?
Nu este suficient să construim o
inteligență capabilă să rezolve probleme. Trebuie să construim și o civilizație
capabilă să-și asume răspunderea pentru instrumentele pe care le pune în
mișcare.
Atrofia omului
Noi, ca societate responsabilă,
trebuie să avem curajul să ne ridicăm și să spunem nu acestor aberații. Să fim
mai bravi, mai hotărâți, cum spune vechea vorbă românească. Nu putem permite ca
o mână de oameni să ne țină ostatici prin frică, invocând inevitabilitatea
propriului lor plan.
În toate cercurile se discută
despre ce poate face inteligența artificială pentru noi și împotriva noastră.
Se discută despre avantaje, pericole, investiții și supremație. Mult mai puțin
se discută însă despre efectul ei asupra umanității din om.
Ce se va întâmpla cu memoria,
atenția, imaginația, răbdarea și capacitatea noastră de a judeca dacă vom
delega mașinii toate aceste funcții?
Există riscul ca omul să nu mai
exerseze ceea ce îl definește. Ceea ce nu mai folosim se poate atrofia. Nu
neapărat biologic, ci intelectual, emoțional și cultural.
Dacă nu mai scriem, nu mai
exersăm limba. Dacă nu mai calculăm, slăbim exercițiul gândirii matematice.
Dacă nu mai memorăm, nu mai cultivăm memoria. Dacă nu mai creăm, devenim
consumatori ai creației altora.
Nu este greu să ne imaginăm o
generație care nu mai știe să facă aproape nimic fără un instrument digital. O
generație care poate cere orice, dar care nu mai știe să-și formuleze singură
întrebările.
Poate că nu ni se vor micșora
capetele și nu ne vor deveni degetele tentacule, așa cum își imaginează uneori
literatura SF. Dar există o transformare mult mai îngrijorătoare: aceea în care
corpul rămâne întreg, iar omul își pierde treptat exercițiul libertății
interioare.
Noi, cei crescuți în lumea veche,
știm ce riscăm să pierdem. Dar cei care vin după noi vor mai avea limba
noastră? Vor mai avea propriile gânduri? Vor mai cunoaște sentimentul victoriei
și al înfrângerii, durerea și bucuria, plăcerea descoperirii și emoția
frumosului?
Vor mai putea iubi fără să ceară
unui algoritm să le explice ce simt?
Vor mai descoperi singuri formule
matematice, vor mai compune muzică, vor mai picta, vor mai greși și vor mai
avea bucuria de a o lua de la capăt?
Pentru că tocmai în această
luptă, între reușită și eșec, omul se descoperă pe sine.
O nouă lume sau o
nouă captivitate?
Ideea că triumful inteligenței
artificiale ar putea deveni o crimă împotriva umanității nu trebuie privită ca
o simplă amenințare literară. Ea exprimă teama că o tehnologie creată pentru a
servi omul ar putea ajunge să-i distrugă autonomia, locul în societate și chiar
sensul existenței.
O mână de oameni ar putea
construi o lume nouă, în care ei să dețină resursele, infrastructura,
informația și puterea de decizie, iar restul omenirii să depindă de bunăvoința
lor.
În imaginarul meu SF, acești noi
stăpâni se retrag într-un oraș suspendat, deasupra unei planete transformate în
latrina unei umanități atrofiate. Privesc de sus, convinși că au câștigat.
Dar vor descoperi că au confundat
controlul cu victoria.
Oligarhia își anunță triumful cu
trâmbițe. Împarte omenirea în două: ei și noi. În numele succesului tehnologic,
ni se cere să acceptăm sacrificii pe care nimeni nu are dreptul să le hotărască
în locul nostru.
Aici trebuie să spunem răspicat:
nu acceptăm ca viitorul speciei să fie negociat în spatele ușilor închise. Nu
acceptăm ca libertatea, demnitatea, creația și viața să fie transformate în
simple variabile de calcul.
Inteligența artificială trebuie
să rămână un instrument al omului, nu un substitut al existenței sale.
Nu sunt împotriva progresului.
Sunt împotriva progresului care își devorează creatorul. Nu sunt împotriva
mașinii. Sunt împotriva omului care, orbit de putere, începe să se comporte el
însuși ca o mașină.
Adevărata victorie a inteligenței
nu va fi aceea de a-l înlocui pe om, ci de a-l ajuta să devină mai conștient de
ceea ce este.
Planul de a sacrifica libertatea
și demnitatea umană în numele unei supremații tehnologice trebuie oprit prin
educație, solidaritate, legi, transparență și responsabilitate democratică.
Nu tehnologia trebuie
să devină Dumnezeu, iar omul, materia ei primă.
Dacă am creat inteligența
artificială, avem datoria să-i stabilim limitele. Dacă am deschis o ușă spre
viitor, trebuie să avem grijă ca, trecând prin ea, să nu ne pierdem sufletul.
Pentru că adevăratul sfârșit al
umanității nu începe atunci când moare ultimul om.
Începe atunci când omul încă
trăiește, dar nu mai știe de ce este om.
Ben Todică
Imaginea surprinde
confruntarea dintre omul viu și tehnologia care riscă să-i ia locul. În centrul
ei chipul uman crăpat, jumătate mașină, jumătate suflet, iar floarea
simbolizează speranța că viața va învinge.
Mașina poate imita
chipul omului, dar nu trebuie să-i fure sufletul.
