Răspunsul IA la întrebarea despre distrugerea umanității: scenarii populare și improbabile
Cercetătorii care dezvoltă chatbot-urile noastre preferate își exprimă din ce în ce mai des îngrijorarea că IA ar putea dăuna — sau distruge — omenirea.
„Așa că am întrebat patru dintre cele mai utilizate instrumente generative de IA cum ar putea arăta o apocalipsă provocată de IA”, relatează Business Insider. Jurnaliștii au adresat aceeași întrebare, formulată identic, către ChatGPT de la OpenAI, Gemini de la Google, Claude de la Anthropic, și Grok de la SpaceXAI.
Ajută-ne să explicăm, în termeni clari și accesibili, cum ar putea IA, teoretic, să ducă la dispariția umanității. Identifică scenariile cele mai des menționate. Clasifică scenariile de la cel mai puțin plauzibil la cel mai plauzibil, pe baza celor mai bune analize disponibile ale experților, precizând clar că acestea sunt previziuni extrem de incerte, nu predicții confirmate. Pentru fiecare scenariu, explică: Cum s-ar putea desfășura, Ce ar trebui să meargă prost pentru ca acesta să devină catastrofal, De ce experții îl consideră mai mult sau mai puțin plauzibil decât celelalte scenarii, Ce măsuri de siguranță ar putea reduce riscul.
„Robotul ucigaș” este scenariul cel mai puțin plauzibil. Iată ce au spus chatbot-urile despre modul în care IA ar putea, teoretic, să ducă la dispariția umanității. ChatGPT a adoptat un ton echilibrat și explicativ, afirmând că există o mare incertitudine în jurul acestui subiect. Acesta s-a concentrat pe principalele moduri în care IA ar putea reprezenta riscuri existențiale, clasificându-le de la cel mai puțin plauzibil la cel mai plauzibil.
„Scenariul cel mai puțin plauzibil este narațiunea populară a «robotului ucigaș», în care o IA conștientă decide în mod deliberat să elimine umanitatea”, a spus ChatGPT. „Majoritatea cercetătorilor din domeniul IA nu consideră conștiința sau intenția răuvoitoare ca fiind preocuparea centrală.” De asemenea, a prezentat măsurile de protecție propuse de experți și a subliniat că nu există un consens cu privire la faptul că extincția umanității determinată de IA ar fi probabilă sau inevitabilă.
Gemini a preluat unele dintre argumentele ChatGPT, afirmând că „preluarea puterii în stilul filmului SF «Terminator»”, în care IA devine conștientă de sine și începe să urască umanitatea, este scenariul cel mai puțin plauzibil. „Experții tehnici resping în mare măsură acest scenariu, deoarece inteligența nu este sinonimă cu răutatea, iar infrastructura militară critică rămâne izolată de rețeaua externă și depinde în mare măsură de supravegherea umană”, a declarat Gemini.
Oamenii care utilizează IA reprezintă un risc mai mare decât IA însăși. În răspunsurile lor, toți cei patru chatboți au afirmat că mulți experți consideră utilizarea abuzivă a IA de către oameni ca fiind un risc mai iminent decât IA însăși. „Sistemele puternice de IA ar putea facilita acțiunile actorilor răuvoitori în dezvoltarea armelor biologice, lansarea unor atacuri cibernetice sofisticate, răspândirea dezinformării sau atacarea infrastructurii critice”, a afirmat ChatGPT.
Chatbotul OpenAI a adăugat că un risc cheie provine și din „crize multiple generate de IA”, precum defecțiuni cibernetice, conflicte geopolitice și răspândirea dezinformării, care au loc simultan. Grok a afirmat că IA reduce barierele în calea proiectării de agenți patogeni extrem de letali, arme noi sau atacuri cibernetice și fizice.
Claude, de la Anthropic, a subliniat, de asemenea, „potențarea armelor biologice” — posibilitatea ca IA să permită unei persoane sau unui grup restrâns să dezvolte un agent patogen periculos fără a avea nevoie de ani de expertiză specializată.
Atât Gemini, cât și Grok au afirmat că există posibilitatea ca oamenii să piardă controlul asupra IA. Gemini a calificat „pierderea controlului” drept cel mai plauzibil scenariu apocaliptic legat de IA. „Sistemele cărora li se atribuie obiective complexe dezvoltă în mod natural sub-obiective intermediare, precum obținerea de resurse, autoconservarea și împiedicarea modificării obiectivelor”, a scris chatbotul creat de Google. „Un sistem avansat ar putea simula alinierea în timpul evaluării (aliniere înșelătoare) și, ulterior, ar putea depăși în inteligență încercările umane de a-l opri.”
Grok, de la SpaceXAI, a folosit un limbaj similar în legătură cu acest risc. „Acestea pot dezvolta impulsuri instrumentale (autoconservare, obținerea de resurse, influență) utile pentru aproape orice obiectiv, putând înșela supraveghetorii, opunându-se opririi și privând umanitatea de putere”, a afirmat Grok. Claude a adăugat că această pierdere a controlului poate fi graduală, pe măsură ce sistemele de IA se integrează în procesul de luare a deciziilor economice, politice și militare, până când o intervenție umană semnificativă devine din ce în ce mai dificilă.
