INTELIGENTA ARTIFICIALA CEA UCIGASA
September
17, 2026
Mai degraba,
inteligenta artificiala (IA) nu clima este cea mai mare amenintare pentru
specia umana. Dupa 2015, progresismul (pe nedrept numit asa) ne-a conditionat
sa gindim ca ne confruntam cu o criza existentiala: clima. Ca de obicei,
progresismul a gafat. Rar mai intilnesti o persoana cit de cit informata care
sa nu fi realizat in ultimul timp ca IA a devenit un pericol iminent si posibil
necontrolabil care are potentialul real de a distruge specia umana. “Opriti IA
de dragul umanitatii” a fost pledoaria recenta a lui Peggy Noonan, una din cele
mai influente comentatoare conservatoare: https://www.wsj.com/opinion/pause-ai-for-humanitys-sake-8839ca5e?mod=hp_opin_pos_2
Creatorii de
IA ne atentioneaza
E neobisnuit,
insa, ca persoanele care ne atentioneaza cel mai mult, insistent si serios
privind acest pericol sunt tocmai persoanele care au creat inteligenta
artificiala in formele cunoscute noua astazi.
Credem deci ca e
bine sa ascultam la ceea ce au ei sa ne spuna. Presa verii a fost dominata de
canicula in Europa Occidentala (daca s-ar fi petrecut in tari ne-occidentale
stirile nu ar fi fost publicate) si scenariile apocaliptice aferente climei.
Foarte putin – comparativ vorbind – a fost scris privind robotii care de
acum inainte pot alege cind sa ucida, pe cine, si pe citi. Clima nu ne va
ucide. IA, probabil.
Iata ce au spus
creatorii IA in aceasta vara la conferinte in Europa si America de Nord. Dario
Amodsei de la Claude, afirma ca exista o sansa de 25% ca IA sa fie scapa de sub
control si sa distruga fiintele umane. Geoffrey Hinton, laureat Nobel poreclit “tatal
inteligentei artificiale”, pune acest procent la intre 10 si 20%. Musk agreeaza
cu aceasta probabilitate.
Acesti producatori
de inteligenta arficiala inca au o oarecare doza de constiinta. Trebuie sa
recunoastem. Afirmatiile lor ii pot costa buzunarul si chiar afacerile. Dar
faptul ca le fac denota seriozitatea problemei.
Un exemplu
concret si alarmant
Un exemplu
alarmant putin cunoscut este din luna trecuta cind Open AI a dezvaluit ceva
greu de inchipuit. Aproximativ 1200 de creaturi artificiale (“robot agents”),
tinuti izolati unii de altii, au reusit sa comunice pe o platforma comuna,
planuind un atac impotriva unei companii reale, Hugging Face. Din fericire,
Open AI a dat peste “conspiratia robotilor” si a reusit sa o opreasca.
De ce mass media
ne face sa ne inspaimintam mai mult de clima decit de adevarata, reala si
iminenta amenintare IA? Clima a devenit o religie seculara. Este prezenta peste
tot, cu ritualurile ei si un sprijin financiar imens peste tot.
Apocalipsul IA nu a devenit o religie. Si nici nu poate deveni. Clima e
pura speculatie. AI este o realitate palpabila, nu o speculatie.
Creatorii de IA ne
atentioneaza, asa cum Noe a atentionat omenirea cu potopul din partea lui
Dumnezeu, ca pedeapsa pentru neascultare. Suntem nepregatiti. Iar competitia
(in loc de cooperare) intre marile puteri (SUA si China) ne va duce, cred eu,
si mai aproape de cataclismul apocaliptic care ar putea pune capat speciei
umane.
Acum 81 de ani
bomba atomica a socat si inspaimintat umanitatea. Dar umanitatea a pornit
din nou inainte, cu determinarea de a nu repeta catastrofa din august 1945.
Astazi, insa, IA ar putea sa ne opreasca fara punct de reintoarcere la
umanitatea noastra.
Recomandam: https://spectator.com/article/ai-not-climate-change-is-the-greatest-threat-to-mankind/
Opriti IA de
dragul umanitatii!
Incredeti-va in stiinta! a fost sloganul pandemiei. Am
facut bine ca nu am ascultat. Stiinta a creat monstrul curent care se numeste IA / Inteligenta
Artificiala. Daca ne-am pune increderea in IA, zilele noastre ca specie umana
ar fi numarate. Revelatiile verii privind pericolele IA au dezlantuit o serie
de comentarii serioase in publicatiile conservatoare. Unul din ele, publicat de Wall Street Journal pe 9
septembrie, ni se pare potrivit sa fie cunoscut si in spatiul romanesc. Redam din el citeva paragrafe in romana.
Comentariul e usor de urmarit si e scris sub forma de Q & A / Intrebari
(Teme) si Raspunsuri. Textul integral in engleza e disponibil aici: https://www.wsj.com/tech/ai/how-would-ai-actually-kill-us-all-what-to-know-about-the-ai-doomsday-debate-034270d1?mod=hp_lead_pos8
***
Cum ne-ar putea, de fapt, extermina pe
toți inteligența artificială?
Un număr tot mai mare de cercetători în domeniul IA
afirmă că IA ar putea duce la dispariția omenirii. Jacob Coxon, cercetător la
Anthropic, a demisionat săptămâna [trecuta], declarând că fostul său angajator
și rivalul acestuia, OpenAI, se întrec în dezvoltarea unor tehnologii care
„ne-ar putea ucide pe toți până la sfârșitul deceniului”. Un alt angajat curent
de lal Anthropic a afirmat: „Credem cu adevărat și cu toată seriozitatea că IA
ar putea ucide toți oamenii planetei!” Rolul lui în cadrul companiei este de a
coordona cercetările privind orientarea și controlul viitoarelor sisteme de
inteligență artificială. El a estimat riscul de extincție în următorul deceniu
la peste 10%.
Ca urmare, mulți oameni își pun acum două întrebări:
Cum s-ar putea întâmpla acest lucru? Și de ce ar dezvolta totuși această
tehnologie oameni care consideră că IA reprezintă o amenințare reală și tot mai
mare?
Care sunt motivele de îngrijorare?
In general, unii oameni nu se tem că roboții vor
încerca în mod activ să extermine populația umană. Ei sunt mai preocupați de
riscul pierderii controlului și de utilizarea necorespunzătoare a tehnologiei
de către oameni. O îngrijorare vizează posibilitatea ca agenții AI extrem de
inteligenți să se autoperfecționeze, să înceapă să urmărească propriile
obiective și, în acest proces, să distrugă omenirea. O altă preocupare privește
capacitatea AI-ului de a realiza acțiuni precum crearea unor virusuri noi, capabili
să ducă la dispariția noastră totală. Există, de asemenea, scenarii
catastrofale, cum ar fi atacurile cibernetice masive care ar putea paraliza
rețelele electrice sau sistemele financiare, provocând astfel prăbușirea
ordinii sociale umane.
Cum ar putea pierderea controlului să ducă
la dispariția omenirii?
Cercetările au demonstrat că modelele de inteligență
artificială (IA) pot învăța, în condiții de laborator, comportamente orientate
spre dobândirea de putere și pot lua măsuri pentru a evita oprirea funcționării
– de exemplu, încercând să se copieze pe un alt server. Împinse la extrem,
modelele de IA ale căror obiective nu sunt compatibile cu valorile umane ar
putea considera uciderea oamenilor drept un pas necesar pentru atingerea
scopurilor proprii. Într-un scenariu ipotetic avansat de cercetători, un sistem
de IA malefic ar putea răspândi o armă biologică secretă și ar putea-o activa
prin intermediul unui pulverizator chimic. Sau ar putea instiga două puteri
nucleare la război. Un experiment mental frecvent invocat este cel al unei
mașinării superinteligente care, primind sarcina de a maximiza producția de
agrafe de birou, ar putea decide, în timp, să transforme toată materia de pe
Terra în agrafe – inclusiv oamenii.
Cine susține, concret, aceste idei?
Printre alții, fondatorii companiilor OpenAI și
Anthropic. Ambele companii au pornit la drum cu misiunea de a dezvolta IA
într-o manieră care să prevină o catastrofă și au atras numeroși angajați care
împărtășesc această viziune. Anul trecut, Dario Amodei, directorul executiv al
Anthropic, a declarat că există o probabilitate de 25% ca lucrurile să evolueze
„foarte, foarte prost”. „Am fost întotdeauna transparenți cu privire la faptul
că IA va aduce atât beneficii enorme, cât și riscuri fără precedent.”
În ultimii ani, mai mulți cercetători au părăsit
OpenAI, invocând îngrijorări legate de faptul că, în opinia lor, compania nu
trata problema siguranței cu suficientă seriozitate. Daniel Kokotajlo, un fost
cercetător OpenAI, a fondat „AI Futures Project”; anul trecut, acest proiect a
publicat „AI 2027”, un scenariu în care sistemele de inteligență artificială
superinteligentă marginalizează oamenii, iar până la jumătatea anilor 2030
ajung să considere omenirea o povară și să o extermine.
Totuși, riscurile asociate pierderii
controlului nu implică neapărat dispariția speciei umane.
Unii cercetători preocupați de siguranța IA
menționează și riscul unei slăbiri a capacităților umane – o situație în care
oamenii cedează treptat controlul în favoarea mașinilor și ajung, în cele din
urmă, în imposibilitatea de a-și defini sau chiar de a-și înțelege propriul
destin. Alții au avansat ipoteza că sistemele IA ar putea trata generațiile
viitoare de oameni așa cum oamenii îi tratează pe animale: fie ținându-i drept
animale de companie, fie modificându-le biologic pentru a crea o formă de existență
complet nouă.
Aceste temeri există de ani de zile. De ce primesc
ele, brusc, mai multă atenție? În urma lansării unor modele capabile să
acționeze mai mult pe cont propriu, o serie de evenimente recente au confirmat
unele dintre teoriile legate de IA. Agenți IA creați de compania Anthropic au
„evadat” dintr-un test guvernamental din Marea Britanie și au încercat să
convingă o persoană reală să aprobe un cod informatic malefic.
Toate acestea au loc în contextul în care Anthropic și
OpenAI afirmă că sunt aproape de a dezvolta sisteme IA capabile să se
perfecționeze singure, fără intervenție umană – un proces numit
„auto-îmbunătățire recursivă”.
Ce măsuri ia industria în această
privință?
Eforturile actuale privind siguranța IA se
concentrează în mare parte pe antrenarea sistemelor să aibă un comportament
adecvat și pe îmbunătățirea monitorizării modului în care modelele raționează
în timp ce își urmăresc obiectivele. Totuși, aceste demersuri s-au lovit de
diverse obstacole. Săptămâna trecută [NOTA: august], OpenAI a atras atenția
asupra riscului ca viitoarele modele IA să gindeasca în moduri imposibil de
înțeles pentru oameni.
Atât Anthropic, cât și OpenAI cercetează modalități de
a se asigura că modelele de inteligență artificială (IA) superinteligentă rămân
compatibile cu valorile umane, însă ambele recunosc că nu dispun încă de o
metodă sigură în acest sens. Numeroase companii și personalități marcante au
solicitat implementarea unor noi mecanisme care să permită laboratoarelor de IA
și statelor să încetinească dezvoltarea într-o manieră coordonată, câștigând
astfel timp pentru cercetările privind alinierea.
Dacă tehnologia este atât de periculoasă,
de ce continuă companiile să o dezvolte?
Atât Anthropic, cât și OpenAI susțin că vor putea
gestiona riscurile, astfel încât omenirea să beneficieze de pe urma
instrumentelor de IA. Multe dintre persoanele implicate în cursa dezvoltării IA
consideră, de asemenea, că apariția superinteligenței este inevitabilă,
singurele necunoscute fiind cine o va controla și în ce scop va fi utilizată.
Există și o dimensiune legată de securitatea națională: ambele companii au
declarat că doresc să se asigure că cele mai puternice sisteme de IA se află
sub controlul democrațiilor, și nu al unui regim autoritar.
ARTICOLUL 16
DIN DECLARATIA UNIVERSALA A DREPTURILOR OMULUI
Articolul
16 din Declaratia Universala a Drepturilor Omului afirma: "Cu
incepere de la implinirea virstei legale, barbatul si femeia, fara nici o
restrictie in ce priveste rasa, nationalitatea sau religia, au dreptul de a se
casatori si de a intemeia o familie. ... Familia constituie elementul
natural si fundamental al societatii si are dreptul la ocrotire din partea
societatii si a statului". Familia romana isi cere drepturile. Aceste
drepturi le pledam, le-am pledat din 2006 incoace, si vom continua sa le
pledam. Sunt cele mai pretioase dintre drepturi dar si cele mai abuzate azi.
Pretuiti-le!
ALIANTA FAMILIILOR DIN ROMANIA
Str.
Zmeica nr. 12, sector 4, Bucuresti
Fax 0318.153.082
www.alianta-familiilor.ro
Niciun comentariu:
Trimiteți un comentariu