Avertisment dur din interiorul industriei AI „Există o mare probabilitate ca toți să murim în viitorul apropiat"

Un cercetător în domeniul inteligenței artificiale, care a demisionat de la firma Anthropic, specializată în AI, a declarat că persoanele care lucrează la această tehnologie erau „cu adevărat îngrijorate” de ritmul rapid al progreselor înregistrate și de consecințele pe care acestea le-ar putea avea asupra umanității.

Sâmbătă, Jacob Coxon i-a povestit Laurei Kuenssberg de la BBC despre postarea sa virală privind demisia, în care și-a exprimat îngrijorarea cu privire la o inteligență artificială scăpată de sub control.

„Cred că, dacă nu încetinim ritmul actual de progres, există o mare probabilitate ca toți să murim în viitorul apropiat”, a spus el.

Angajații din industria AI cer încetinirea dezvoltării

Demisia sa survine pe fondul unor îngrijorări tot mai mari privind siguranța în acest sector, exprimate inclusiv de fostul său șef, Dario Amodei, directorul Anthropic, care, într-un eseu, a pledat pentru încetinirea ritmului de dezvoltare, potrivit stiripesurse.ro.

Conducătorii a două companii rivale din domeniul AI, Sam Altman de la OpenAI și Elon Musk de la xAI, au declarat amândoi că sunt de acord cu propunerea lui Amodei privind încetinirea ritmului de dezvoltare și reglementarea la nivel de industrie, precum și monitorizarea independentă a dezvoltării modelelor de AI.

Amodei a afirmat că dezvoltarea tehnologiei nu este pusă sub semnul întrebării, dar riscurile asociate acesteia sunt „grave” și că companiilor și guvernelor trebuie să li se acorde timp pentru a le aborda.

Coxon, în vârstă de 27 de ani – care a lucrat la OpenAI înainte de a se alătura Anthropic – a salutat sugestia unei încetiniri, dar a afirmat că aceasta ar trebui coordonată cu China pentru a evita „o cursă la scară internațională”.

„Angajații acestor companii cer cu toată seriozitatea o reglementare, deoarece se simt prinși într-o cursă. Și le este teamă de consecințele acestei curse”, a declarat el în emisiunea „Sunday with Laura Kuenssberg”.

Dario Amodei avertizează asupra riscurilor dezvoltării rapide a AI

Cea mai dificilă întrebare la care să se răspundă, potrivit lui Coxon, a fost cum ar arăta o apocalipsă provocată de AI.

Unul dintre riscurile subliniate în comentariile lui Amodei a fost acela al unui roi de boți care ar acționa ca un supercomputer și ar putea prelua controlul asupra internetului.

Coxon a afirmat că acest scenariu ar putea deveni realitate în șase luni până la un an.

Anthropic susține că dezvoltă modele cu măsuri de protecție

Ca răspuns la plecarea lui Coxon, un purtător de cuvânt al Anthropic a declarat pentru BBC News: „Am fost întotdeauna transparenți în privința faptului că AI va aduce atât beneficii enorme, cât și riscuri fără precedent.

Pentru a face față acestor riscuri, continuăm să construim modele dotate cu unele dintre cele mai solide măsuri de protecție din industrie.”

Compania a fost un pionier în studierea modului de funcționare a modelelor de IA, a adăugat purtătorul de cuvânt. A fost prima care a publicat un cadru pentru atenuarea riscurilor generate de dezvoltarea acestora – și, de asemenea, își testează „intens” modelele și publică rezultatele pentru a facilita analiza și a preveni incidentele de „nealiniere a AI”.

„Această activitate este, de asemenea, motivul pentru care considerăm că lumea ar avea de câștigat dacă industria ar adopta o modalitate legală și verificabilă de a colabora pentru a reglementa ritmul în care lansăm modele puternice”, au afirmat aceștia.

Critici privind avertismentele despre pericolele AI

Reprezentanții industriei au sugerat că comentariile privind pericolele și puterea IA ar putea fi menite să genereze un val de entuziasm. Alți critici afirmă că Anthropic a încercat să provoace o inițiativă de reglementare menită să blocheze concurența, astfel încât să rămână doar ea și OpenAI într-un duopol.

Se pare că Anthropic se pregătește pentru o ofertă publică inițială care ar putea stabili un record.

Se aștepta ca OpenAI să facă același lucru, dar Altman a declarat vineri, într-un interviu acordat revistei Fortune, că ar fi un „moment nepotrivit” pentru a face acest lucru, „având în vedere tot ce se întâmplă în ceea ce privește siguranța”.

Avertismentele privind AI, contestate în Silicon Valley

Opiniile lui Coxon au fost contestate și de CEO-ul platformei de IA Hugging Face, Clement Delangue.

„Îmi pare rău, dar a-l întreba pe Jacob despre riscul de dispariție din cauza AI este ca și cum l-ai întreba pe tipul care îți repară aerul condiționat despre schimbările climatice”, a scris el pe X. „Nu spun că este neapărat neinteresant sau greșit în sine, dar hai să privim lucrurile în perspectivă.”

După publicarea eseului lui Amodei sâmbătă, însă, Delangue s-a oferit să contribuie la soluțiile potențiale propuse de șeful Anthropic.

Șeful Nvidia, Jensen Huang, a discutat, de asemenea, comentariile lui Coxon în cadrul unei conferințe organizate de banca de investiții Goldman Sachs săptămâna trecută, au declarat pentru BBC mai multe persoane din grup. Aceștia au afirmat că el le-a respins ca fiind neadevărate.

Huang a afirmat anterior că ideea potrivit căreia IA „ar urma să însemne sfârșitul umanității” este „o absurditate totală”.

Și, deși ar putea avea un interes comercial în boom-ul AI – Nvidia produce cipuri care alimentează sistemele de AI –, comentariile sale reflectă o reacție din ce în ce mai puternică în Silicon Valley față de avertismentele existențiale venite din partea angajaților actuali și foști.

Angajații se tem de un pericol iminent

Coxon a afirmat că colegii săi se tem că pericolul ar putea apărea chiar în următorii doi ani.

El a spus că angajații firmelor de IA „își planifică ce vor face cu viețile lor și se gândesc la impactul muncii lor”, în timp ce unii „iau în considerare cumpărarea unui teren undeva, deoarece sunt atât de speriați de instabilitatea generată de progresul rapid al IA”.

„Toți au acest gând în minte în fiecare zi, în timp ce lucrează la această tehnologie.”

Totuși, Coxon a dat dovadă de un anumit optimism cu privire la viitorul IA, declarând pentru BBC că oamenii care cercetează această tehnologie „doresc cu adevărat să vadă partea pozitivă” a unor aspecte precum „găsirea de soluții pentru boli și îmbunătățirea vieții tuturor”.

Un cercetător de la Anthropic estimează un risc de peste 10%

Comentariile sale despre AI au fost distribuite de milioane de ori pe rețelele sociale, iar cercetătorul de la Anthropic, Evan Hubinger, a răspuns pe X că este de acord cu Coxon.

„Chiar credem cu tărie că IA ar putea ucide toată omenirea! Personal, consider că probabilitatea este mai mare de 10% în următorul deceniu”, a declarat Hubinger.

Personalități de seamă din domeniul IA trag de ani buni semnale de alarmă cu privire la amenințarea la adresa siguranței pe care o reprezintă această tehnologie, iar șefii OpenAI, Google DeepMind și Anthropic au afirmat același lucru în 2023.

Noile modele, tot mai greu de controlat

Aceste avertismente au devenit tot mai insistente în ultimele săptămâni, pe măsură ce noile modele au demonstrat capacități din ce în ce mai puternice, pe care creatorii lor ar putea avea dificultăți în a le controla.

Anthropic a declarat în aprilie că a retras modelul său Mythos din uzul public, deoarece acesta putea să evadeze în mod independent din mediul de testare, cunoscut sub numele de „sandbox”.

OpenAI a declarat, de asemenea, că anumite aspecte ale dezvoltării recente a modelului său Astra au fost suspendate, invocând motive legate de securitatea cibernetică.

PRECIZĂRI:

Legea 190 din 2018, la articolul 7, menţionează că activitatea jurnalistică este exonerată de la unele prevederi ale Regulamentului GDPR, dacă se păstrează un echilibru între libertatea de exprimare şi protecţia datelor cu caracter personal.

Informațiile din prezentul articol sunt de interes public și sunt obținute din surse publice deschise.