Cercetător părăsește industria IA din cauza avansului tehnologic alarmant
Jacob Coxon, un expert britanic în vârstă de 27 de ani, și-a anunțat marți pe X plecarea de la Anthropic și din industria inteligenței artificiale.
El consideră că nicio companie nu mai poate dezvolta aceste sisteme în mod responsabil fără intervenția statelor, relatează Politico. Tânărul expert și-a anunțat decizia prin șapte mesaje publicate pe X, marți spre sfârșitul după-amiezii. În mai puțin de două ore, acestea fuseseră deja vizualizate de două milioane de ori.
Coxon a afirmat: „Niciuna dintre cele două companii nu acționează în mod responsabil. Se îndreaptă cu viteză spre o superinteligență capabilă să se perfecționeze singură și să se joace cu viețile noastre”. Cele două companii în cauză nu sunt altele decât OpenAI și Anthropic, cei doi foști angajatori ai săi.
Matematician de formație, Coxon a lucrat la antrenarea unor noi modele de inteligență artificială pe baza unor cantități imense de date. Se afla, așadar, în inima procesului. Colegii săi folosesc acum cuvinte precum „crunchtime” și „endgame” pentru a descrie direcția în care se îndreaptă sectorul IA, a povestit Coxon cotidianului The Wall Street Journal. „Ne îndreptăm spre cele mai extreme scenarii, în care, până la sfârșitul anului viitor, lucrurile ar putea scăpa deja de sub control”, avertizează el în interviul acordat cotidianului american.
Cu atât mai mult cu cât, în viziunea sa, cursa dintre laboratoarele americane și cele chineze face să fie inevitabile compromisurile în materie de securitate. Pe X, tânărul merge și mai departe. „Nu subestimați puterea acestei tehnologii. Aceste sisteme vor deveni în curând supraomenești, capabile să pirateze orice, să revoluționeze orice domeniu de la o zi la alta și să dobândească putere și resurse reale”, spune el într-un tweet.
Mai rău, „oamenii care dezvoltă IA cred sincer că aceasta ne-ar putea ucide pe toți până la sfârșitul deceniului. Nu este o strategie de marketing”, continuă avertismentul tânărului matematician.
În fața presei, liderii și cercetătorii experimentați își aleg cu grijă cuvintele „pentru a părea rezonabili”. Însă, în privat, asigură el, aceleași persoane „își exprimă frica”, susține el. „Dacă cred cu adevărat asta, atunci de ce continuă să o construiască?”, se întreabă Coxon, care își împărtășește perspectiva: „La OpenAI, mulți nu au înțeles pe deplin mizele civilizaționale. La Anthropic, mizele sunt bine înțelese, dar sunt angajați într-o cursă pentru a ajunge primii – consideră că nimeni altcineva nu va acționa în mod responsabil, așa că trebuie să o facă ei înșiși, în ciuda riscului”.
La începutul acestui an, Coxon a părăsit OpenAI pentru a se alătura Anthropic, tocmai datorită reputației acesteia în materie de siguranță a modelelor. Deși consideră că eforturile Anthropic în acest domeniu sunt sincere, el estimează acum că nicio companie nu poate dezvolta în mod responsabil o inteligență artificială capabilă să depășească capacitățile umane într-o serie întreagă de sarcini fără intervenția statelor sau o încetinire coordonată.
Potrivit Wall Street Journal, această plecare se numără printre primele cazuri în care un angajat al Anthropic părăsește compania din cauza temerilor legate de siguranța IA. Anterior, un cercetător specializat în aceste chestiuni demisionase deja pentru a se dedica studiului poeziei. Avertismentul său? „Lumea este în pericol”.
