Avertismentul lansat de șeful OpenAI: „Nu vrem să cădem în capcana optimismului orb, dar nici în fatalism”

Directorul executiv al OpenAI, Sam Altman, a avertizat miercuri, în cadrul unei reuniuni a Consiliului de Securitate al ONU, că ritmul accelerat al dezvoltării inteligenței artificiale impune „o grijă extremă” și a cerut ca oamenii să păstreze controlul asupra celor mai avansate modele.

Sam Altman a pledat, totodată, pentru cooperare internațională și pentru reguli stabilite prin procese democratice.

„Industria nu trebuie să accepte prea mult risc tehnologic doar pentru că beneficiile sunt prea mari și importante pentru a încetini”, a spus Altman, în intervenția sa din cadrul reuniunii de nivel înalt a Consiliului de Securitate al ONU, convocată de Franța, care deține în septembrie președinția Consiliului.

Altman a avertizat că unul dintre principalele riscuri ale progresului accelerat este pierderea controlului uman asupra tehnologiei. În opinia sa, tehnicile de aliniere și de siguranță trebuie să avanseze cel puțin la fel de repede precum capacitățile modelelor. El a identificat, de asemenea, concentrarea excesivă a puterii drept un al doilea risc major.

Altman a pus accent pe rolul guvernelor în stabilirea regulilor pentru inteligența artificială.

„Dacă inteligența artificială trebuie să fie democratică, cele mai importante decizii nu pot fi luate doar în laboratoare din San Francisco. Aceste decizii trebuie stabilite prin procese democratice și de către guverne responsabile în fața cetățenilor”, a spus el.

„La nivel internațional, acest lucru va necesita cooperare”, a continuat Altman. El a dat ca exemplu situațiile în care state aflate în competiție au reușit să colaboreze în fața unor tehnologii cu impact major.

„În istoria noastră, au existat momente în care țări care concurează și nu se plac întotdeauna foarte mult s-au reunit pentru interese comune și binele colectiv în fața unei tehnologii noi și puternice. Credem că acesta trebuie să fie unul dintre acele momente”, a spus șeful OpenAI.

Directorul OpenAI a vorbit și despre beneficiile potențiale ale tehnologiei. În opinia sa, inteligența artificială ar putea deschide o perioadă comparabilă cu o „Renaștere”, dacă este folosită pentru a extinde capacitățile oamenilor.

Șeful OpenAI a descris poziția companiei drept o încercare de a găsi o cale de mijloc. „Nu vrem să cădem în capcana optimismului orb, dar nici în fatalism”, a spus Altman.

El a prezentat trei principii pe care OpenAI le consideră importante: oamenii trebuie să rămână „în centrul procesului decizional”, progresul tehnologic și economic trebuie să fie orientat spre oameni, iar AI trebuie să contribuie la creșterea capacității fiecărei persoane de a acționa.

„Poate că noi suntem creatorii acestei tehnologii, dar nu suntem eroii acestei povești. Rolul nostru este să avem încredere în magia talentului uman”, a declarat Altman.

La aceeași reuniune, directorul executiv al Anthropic, Dario Amodei, a transmis un avertisment similar. „Cred chiar că AI ar putea fi un risc pentru umanitate în ansamblu, dacă tehnologia este gestionată necorespunzător”, a declarat el.

Amodei a cerut o strategie internațională coordonată și a subliniat că niciun lider, nicio companie și nicio țară nu poate gestiona singură riscurile generate de sistemele AI tot mai puternice. El a cerut Consiliului de Securitate să susțină măsuri concrete.

Printre propunerile sale s-au numărat interzicerea utilizării AI pentru proliferarea sau fabricarea armelor biologice și dezvoltarea unor sisteme de evaluare și verificare care să țină pasul cu progresul tehnologic.

Reuniunea a fost prezidată de ministrul francez de Externe, Jean-Noël Barrot, în contextul președinției franceze a Consiliului de Securitate. Discuțiile au vizat inclusiv riscul atacurilor cibernetice autonome și posibilitatea ca oamenii să piardă controlul asupra modelelor AI cele mai avansate.

Yoshua Bengio, copreședinte al panelului științific internațional independent al ONU pentru AI, a declarat la reuniune că „pericolele sunt reale și iminente” și a avertizat că amenințarea nu respectă granițele naționale.

Discuția are loc într-un moment în care guvernele încearcă să construiască reguli pentru o tehnologie care evoluează mai repede decât mecanismele tradiționale de reglementare. În aceeași perioadă, președintele american Donald Trump s-a pronunțat împotriva unui cadru global care să limiteze dezvoltarea AI, ceea ce evidențiază diferențele dintre abordările internaționale privind guvernarea noii tehnologii.