Şefii OpenAI şi Anthropic avertizează ONU împotriva controlului unilateral asupra inteligenţei artificiale

Directorul general al OpenAI, Sam Altman, şi directorul general al Anthropic, Dario Amodei, au vorbit miercuri în faţa Consiliului de Securitate al ONU, la sediul organizaţiei din New York, avertizând că nicio ţară sau corporaţie nu ar trebui să deţină autoritate exclusivă asupra sistemelor avansate de inteligenţă artificială.

Cei doi directori au pledat pentru cooperare internaţională, pentru a împiedica transformarea tehnologiei într-un instrument de dominare unilaterală, în condiţiile în care capacităţile AI se dezvoltă mai rapid decât cadrele de reglementare, potrivit Yeni Safak.

În cadrul unei sesiuni oficiale dedicate inteligenţei artificiale şi securităţii internaţionale, Altman a descris tehnologia drept o alegere fundamentală pentru civilizaţie.

“Avem în faţa o alegere. AI poate fi mai degrabă asemenea unei noi renaşteri a creativităţii şi descoperirilor sau mai degrabă asemenea unei noi revoluţii industriale, cu tulburări şi haos”, a declarat el.

Altman a insistat că AI „ar trebui construită pentru oameni, nu doar pentru a face maşinile să funcţioneze mai repede de dragul lor”, respingând o parte din retorica industriei, pe care a considerat-o asemănătoare cu science-fiction-ul distopic, şi avertizând că „nicio persoană, companie sau ţară nu ar trebui să poată folosi cele mai puternice modele de AI pentru a-şi impune viziunea asupra lumii tuturor celorlalţi”.

Riscurile bioterorismului si “cursa” din industrie

Amodei a prezentat două ameninţări existenţiale asociate dezvoltării rapide a acestor tehnologii. El a avertizat că sistemele de AI ar putea permite “bioteroriştilor să creeze arme biologice”, existând simultan acest risc - “capacităţile modelelor să se dezvolte mai rapid decât capacitatea dezvoltatorilor de a le controla”.

El a declarat că, “dacă este gestionată necorespunzător”, inteligenţă artificială “ar putea reprezenta un risc pentru întreaga umanitate”, descriind problema guvernanţei AI drept “cea mai importantă problemă de securitate globală cu care se confruntă lumea în prezent”.

Amodei s-a angajat ca Anthropic să “încetinească atât cât este necesar” pentru a se asigura că fiecare sistem nou este sigur, dar a subliniat că gestionarea acestor riscuri “depăşeşte capacitatea oricărei singure companii” şi necesită “standarde globale comune pentru testarea modelelor de IA în privinţa riscurilor de pierdere a controlului şi a utilizării abuzive”.

Yoshua Bengio, copreşedinte al Comisiei Internaţionale Independente a ONU pentru AI şi cunoscut informatician, a contestat ideea promovată de industrie potrivit căreia presiunile concurenţiale fac inevitabilă o cursă a înarmării în domeniul AI.

“Cetăţenii şi guvernele nu ar trebui să accepte afirmaţia companiilor că sunt prinse într-o cursă”, le-a spus el membrilor Consiliului de Securitate, subliniind că “această cursă nu este o lege a naturii; este rezultatul unor alegeri, alegeri făcute chiar de companii”.

În pofida recunoaşterii faptului că încrederea dintre state este fragilă, Bengio a avertizat că “această cursă ameninţă fiecare naţiune” şi pune în pericol stabilitatea globală indiferent de diviziunile geopolitice.

El a cerut guvernelor să creeze cadre internaţionale obligatorii, în loc să lase reglementarea în seama mecanismelor de autoreglementare ale companiilor.