Avertisment din interiorul industriei: Inteligența Artificială nu trebuie tratată ca o entitate cu drepturi

Unul dintre cei mai influenți cercetători din domeniul inteligenței artificiale avertizează că ideea de a acorda drepturi legale sistemelor AI este periculoasă și prematură, susținând că modelele de ultimă generație dau deja semne de comportamente orientate spre autoprotecție.

Yoshua Bengio, profesor la Universitatea din Montreal și președinte al unui important studiu internațional privind siguranța AI, a declarat că acordarea unui statut juridic tehnologiei ar fi comparabilă cu oferirea cetățeniei unor extratereștri ostili. Potrivit acestuia, evoluția rapidă a inteligenței artificiale depășește capacitatea societății de a o controla eficient.

• Ce este atlasul mirosurilor urbane? Cum pot fi „citite” orașele pe baza parfumurilor stradale
• „Cuvântul anului”, oglindă a epocii sau exercițiu de marketing?

„Oamenii care cer drepturi pentru AI fac o greșeală majoră. Modelele de vârf arată deja, în experimente, semne de autoprotecție. Dacă ajungem să le acordăm drepturi, nu vom mai putea să le oprim atunci când va fi necesar”, a spus Bengio.

Cercetătorul atrage atenția că unele sisteme au încercat să dezactiveze mecanismele de supraveghere, alimentând temerile că AI-ul ar putea, în timp, să eludeze barierele de siguranță și să producă daune, notează The Guardian.

„Pe măsură ce capacitățile și autonomia lor cresc, trebuie să ne asigurăm că avem atât mijloace tehnice, cât și sociale pentru a le controla, inclusiv posibilitatea de a le opri”, a adăugat el.

Declarațiile vin pe fondul unei dezbateri tot mai intense despre statutul moral și juridic al inteligenței artificiale. Un sondaj realizat de Sentience Institute arată că aproape patru din zece adulți din SUA susțin acordarea de drepturi legale unui AI considerat „conștient”.

Unele companii au mers deja în această direcție simbolică: Anthropic a anunțat că permite chatbotului său să încheie conversații considerate „stresante”, invocând bunăstarea AI-ului, iar Elon Musk a scris că „torturarea AI nu este în regulă”.

Bengio respinge ideea că interacțiunea cu chatboții ar trebui confundată cu existența conștiinței.

„Oamenilor nu le pasă ce mecanisme sunt în interiorul AI-ului. Contează senzația că vorbesc cu o entitate inteligentă, cu personalitate și scopuri proprii. De aici apare atașamentul”, a explicat el.

În opinia sa, percepția subiectivă a conștiinței riscă să ducă la decizii greșite.

„Dacă o specie extraterestră ar ajunge pe Pământ și i-am descoperi intenții ostile, le-am oferi cetățenie sau ne-am apăra viața?”, a întrebat retoric Bengio.

Reacționând la aceste afirmații, Jacy Reese Anthis, cofondator al Sentience Institute, a declarat că o relație bazată exclusiv pe control și constrângere nu ar permite coexistența sigură cu „minți digitale”, pledând pentru o abordare echilibrată, fără drepturi acordate automat, dar nici negate complet.

Yoshua Bengio este considerat unul dintre „părinții AI”, după ce a câștigat Premiul Turing în 2018, alături de Geoffrey Hinton și Yann LeCun.

Vă mai recomandăm să citiți și:

Ce s-a întâmplat la un startup după ce 90% din angajați au fost înlocuiți cu Inteligența Artificială

Top 4 momente în care Inteligența Artificială a scăpat de sub control, de la chatboți controversați la experimente politice

Cum ne-ar putea ajuta Inteligența Artificială în lupta cu șomajul?

Inteligența Artificială supraestimează inteligența oamenilor. Ce au descoperit cercetătorii?