Home » Știință » Calculele arată că o super-inteligență artificială va fi imposibil de controlat

Calculele arată că o super-inteligență artificială va fi imposibil de controlat

Calculele arată că o super-inteligență artificială va fi imposibil de controlat
Sursa foto: Shutterstock
Publicat: 14.11.2021

Ideea că inteligența artificială va deturna omenirea este discutată deja de multe decenii, iar în ianuarie 2021 oamenii de știință au ajuns la un răspuns pentru dilema dacă umanitatea va putea controla o inteligență artificială de nivel înalt. Concluzia? Cu siguranță că nu.

Problema este că, de fapt, controlarea unei super-inteligențe dincolo de capabilitatea de înțelegere umană ar necesita o simulare a acestei super-inteligențe pe care am putea să o analizăm. Însă, dacă nu o putem înțelege, o astfel de simulare este imposibil de creat.

Reguli precum „să nu faci răul oamenilor” nu pot fi stabilite dacă nu înțelegem ce fel de scenarii va crea o inteligență artificială, sugerează autorii studiului din ianuarie 2021. Odată ce un sistem computerizat funcționează la un nivel peste cel al programatorilor umani, limitele nu mai pot fi impuse.

„O super-inteligență reprezintă o problemă fundamental diferită”

„O super-inteligență reprezintă o problemă fundamental diferită față de cele studiate de obicei în domeniul eticii robotice. Asta pentru că super-inteligența este multidimensională, astfel că poate fi capabilă de mobilizarea unor resurse variate pentru a atinge obiective care sunt de neînțeles pentru oameni, darămite controlabile”, au spus cercetătorii.

O parte din argumentele echipei provine de la problema expusă de Alan Turing în 1936. Problema este centrată pe posibilitatea că un computer ar putea sau nu să ajungă la o concluzie și un răspuns (iar apoi se oprește), ori dacă pur și simplu va continua pentru totdeauna să găsească o altă concluzie.

Orice program creat pentru a opri inteligența artificială să facă rău omenirii și să distrugă lumea, spre exemplu, ar putea ajunge la o concluzie (și să se oprească) sau nu. Este imposibil din punct de vedere matematic să fim siguri, ceea ce înseamnă că nu poate fi controlat.

„Drept rezultat, asta face algoritmul de limitare inutilizabil”, a spus Iyad Rahwan, om de știință la Institutul Max Planck pentru Dezvoltarea Umană din Germania.

„O mașinărie super-inteligentă care controlează lumea sună științifico-fantastic”

Alternativa este limitarea capabilităților super-inteligenței. Spre exemplu, algoritmul ar putea fi deconectat de la părți ale Internetului sau anumite rețele, potrivit Science Alert.

Un alt studiu recent respinge și această idee, sugerând că astfel ar fi limitată raza de acțiune a inteligenței artificiale. Dacă vom continua să dezvoltăm inteligența artificială, probabil că nici nu vom ști atunci când o super-inteligență apare, atât de puțin înțeleasă este. Asta înseamnă că trebuie să începem să ne punem întrebări serioase despre direcția în care ne îndreptăm.

„O mașinărie super-inteligentă care controlează lumea sună științifico-fantastic. Însă, deja există mașinării care efectuează sarcini importante în mod independent fără ca programatorii să înțeleagă cum reușesc asta. Întrebarea este dacă va ajunge la un moment dat periculoasă pentru omenire”, a spus Manuel Cebrian, de la Institutul Max Planck pentru Dezolvatarea Umană.

Vă mai recomandăm să citiți și:

Inteligența artificială a dezvăluit un strămoș „fantomă” necunoscut în genomul uman

Oamenii de știință de la MIT au creat primul algoritm de inteligență artificială psihopat

Președintele Microsoft: Așteptați-vă la „un viitor orwellian” dacă nu adoptăm legi pentru a controla inteligența artificială

Inteligența artificială va câștiga în lupta cu oamenii. Laureat al premiului Nobel: „Nici nu încape îndoială”

Ioana Scholler
Ioana Scholler
Ioana s-a alăturat echipei DESCOPERĂ.ro în 2020, fiind atrasă de subiecte ce țin de știință, istorie și natură. Ioana și-a finalizat studiile de licență în Manchester, Marea Britanie, acolo unde a studiat Jurnalism Multimedia, și studiile de masterat în Media, Comunicare Publică și ... citește mai mult
Urmărește DESCOPERĂ.ro pe
Google News și Google Showcase
Cele mai noi articole
ADN-ul neanderthalian ar putea fi cauza unor malformații cerebrale moderne
ADN-ul neanderthalian ar putea fi cauza unor malformații cerebrale moderne
Astronomii se întreabă dacă nu cumva galaxia noastră există într-un vid enorm
Astronomii se întreabă dacă nu cumva galaxia noastră există într-un vid enorm
Viața a existat în Oceanul Arctic chiar și în erele glaciare, a descoperit o echipă internațională de cercetători
Viața a existat în Oceanul Arctic chiar și în erele glaciare, a descoperit o echipă internațională de cercetători
Un studiu a infirmat o veche teorie despre Insula Paștelui
Un studiu a infirmat o veche teorie despre Insula Paștelui
Mistere istorice, recorduri literare, fapte neașteptate: Cea mai rară carte din lume. Prima carte comandată pe Amazon. Cel mai tradus autor
Mistere istorice, recorduri literare, fapte neașteptate: Cea mai rară carte din lume. Prima carte comandată pe Amazon. ...
Postura care conferă încredere: mit sau realitate?
Postura care conferă încredere: mit sau realitate?
Visul nomadului digital: Libertate autentică sau iluzie modernă?
Visul nomadului digital: Libertate autentică sau iluzie modernă?
Tinerii din Generația Z schimbă regulile consumului și economisesc mai mult
Tinerii din Generația Z schimbă regulile consumului și economisesc mai mult
Scânteia de la Sarajevo și cascadoria unei catastrofe: Cum asasinarea lui Franz Ferdinand a aprins Marea Conflagrație
Scânteia de la Sarajevo și cascadoria unei catastrofe: Cum asasinarea lui Franz Ferdinand a aprins Marea Conflagrație
Pentru prima dată, cercetătorii de la Large Hadron Collider desfășoară coliziuni cu oxigen
Pentru prima dată, cercetătorii de la Large Hadron Collider desfășoară coliziuni cu oxigen
Tot mai mulți copii și tineri se deconectează voluntar de la smartphone-uri
Tot mai mulți copii și tineri se deconectează voluntar de la smartphone-uri
Robotul umanoid Ai-Da, cel mai avansat din lume, nu vrea să înlocuiască oamenii
Robotul umanoid Ai-Da, cel mai avansat din lume, nu vrea să înlocuiască oamenii
Un pui de hipopotam pitic face senzație la o grădină zoologică din Thailanda
Un pui de hipopotam pitic face senzație la o grădină zoologică din Thailanda
Românul care a rescris istoria matematicii la numai 26 de ani
Românul care a rescris istoria matematicii la numai 26 de ani
Un tratament pentru insomnie ar putea ajuta și în lupta cu boala Alzheimer
Un tratament pentru insomnie ar putea ajuta și în lupta cu boala Alzheimer
Care sunt liderii internaționali în care românii au încredere cel mai mult?
Care sunt liderii internaționali în care românii au încredere cel mai mult?
Platforma TikTok, vizată de o nouă anchetă. Ce s-ar fi întâmplat cu informațiilor utilizatorilor?
Platforma TikTok, vizată de o nouă anchetă. Ce s-ar fi întâmplat cu informațiilor utilizatorilor?
Nvidia, prima companie din lume care a depășit valoarea de piață de 4 trilioane de dolari
Nvidia, prima companie din lume care a depășit valoarea de piață de 4 trilioane de dolari