Home » Știință » Calculele arată că o super-inteligență artificială va fi imposibil de controlat

Calculele arată că o super-inteligență artificială va fi imposibil de controlat

Calculele arată că o super-inteligență artificială va fi imposibil de controlat
Sursa foto: Shutterstock
Publicat: 14.11.2021

Ideea că inteligența artificială va deturna omenirea este discutată deja de multe decenii, iar în ianuarie 2021 oamenii de știință au ajuns la un răspuns pentru dilema dacă umanitatea va putea controla o inteligență artificială de nivel înalt. Concluzia? Cu siguranță că nu.

Problema este că, de fapt, controlarea unei super-inteligențe dincolo de capabilitatea de înțelegere umană ar necesita o simulare a acestei super-inteligențe pe care am putea să o analizăm. Însă, dacă nu o putem înțelege, o astfel de simulare este imposibil de creat.

Reguli precum „să nu faci răul oamenilor” nu pot fi stabilite dacă nu înțelegem ce fel de scenarii va crea o inteligență artificială, sugerează autorii studiului din ianuarie 2021. Odată ce un sistem computerizat funcționează la un nivel peste cel al programatorilor umani, limitele nu mai pot fi impuse.

„O super-inteligență reprezintă o problemă fundamental diferită”

„O super-inteligență reprezintă o problemă fundamental diferită față de cele studiate de obicei în domeniul eticii robotice. Asta pentru că super-inteligența este multidimensională, astfel că poate fi capabilă de mobilizarea unor resurse variate pentru a atinge obiective care sunt de neînțeles pentru oameni, darămite controlabile”, au spus cercetătorii.

O parte din argumentele echipei provine de la problema expusă de Alan Turing în 1936. Problema este centrată pe posibilitatea că un computer ar putea sau nu să ajungă la o concluzie și un răspuns (iar apoi se oprește), ori dacă pur și simplu va continua pentru totdeauna să găsească o altă concluzie.

Orice program creat pentru a opri inteligența artificială să facă rău omenirii și să distrugă lumea, spre exemplu, ar putea ajunge la o concluzie (și să se oprească) sau nu. Este imposibil din punct de vedere matematic să fim siguri, ceea ce înseamnă că nu poate fi controlat.

„Drept rezultat, asta face algoritmul de limitare inutilizabil”, a spus Iyad Rahwan, om de știință la Institutul Max Planck pentru Dezvoltarea Umană din Germania.

„O mașinărie super-inteligentă care controlează lumea sună științifico-fantastic”

Alternativa este limitarea capabilităților super-inteligenței. Spre exemplu, algoritmul ar putea fi deconectat de la părți ale Internetului sau anumite rețele, potrivit Science Alert.

Un alt studiu recent respinge și această idee, sugerând că astfel ar fi limitată raza de acțiune a inteligenței artificiale. Dacă vom continua să dezvoltăm inteligența artificială, probabil că nici nu vom ști atunci când o super-inteligență apare, atât de puțin înțeleasă este. Asta înseamnă că trebuie să începem să ne punem întrebări serioase despre direcția în care ne îndreptăm.

„O mașinărie super-inteligentă care controlează lumea sună științifico-fantastic. Însă, deja există mașinării care efectuează sarcini importante în mod independent fără ca programatorii să înțeleagă cum reușesc asta. Întrebarea este dacă va ajunge la un moment dat periculoasă pentru omenire”, a spus Manuel Cebrian, de la Institutul Max Planck pentru Dezolvatarea Umană.

Vă mai recomandăm să citiți și:

Inteligența artificială a dezvăluit un strămoș „fantomă” necunoscut în genomul uman

Oamenii de știință de la MIT au creat primul algoritm de inteligență artificială psihopat

Președintele Microsoft: Așteptați-vă la „un viitor orwellian” dacă nu adoptăm legi pentru a controla inteligența artificială

Inteligența artificială va câștiga în lupta cu oamenii. Laureat al premiului Nobel: „Nici nu încape îndoială”

Ioana Scholler
Ioana Scholler
Ioana s-a alăturat echipei DESCOPERĂ.ro în 2020, fiind atrasă de subiecte ce țin de știință, istorie și natură. Ioana și-a finalizat studiile de licență în Manchester, Marea Britanie, acolo unde a studiat Jurnalism Multimedia, și studiile de masterat în Media, Comunicare Publică și ... citește mai mult
Urmărește DESCOPERĂ.ro pe
Google News și Google Showcase
Cele mai noi articole
Gelozia, a doua umbră a iubirii și rădăcinile ei nevăzute
Gelozia, a doua umbră a iubirii și rădăcinile ei nevăzute
8.000 de oase de broască într-un singur șanț. Ce s-a întâmplat acum 1.700 de ani în Anglia?
8.000 de oase de broască într-un singur șanț. Ce s-a întâmplat acum 1.700 de ani în Anglia?
Ce înseamnă cu adevărat să fii bun cu tine: explicații din psihologie și efectele reale asupra sănătății emoționale
Ce înseamnă cu adevărat să fii bun cu tine: explicații din psihologie și efectele reale asupra sănătății emoționale
De ce ne face bine să fotografiem lucrurile frumoase? Ce au descoperit psihologii despre pasiunea pentru fotografie
De ce ne face bine să fotografiem lucrurile frumoase? Ce au descoperit psihologii despre pasiunea pentru fotografie
Un dinte de elefant vechi de 700.000 de ani dezvăluie lumea în care trăiau strămoșii oamenilor
Un dinte de elefant vechi de 700.000 de ani dezvăluie lumea în care trăiau strămoșii oamenilor
Gladys West, matematiciana care a contribuit la dezvoltarea GPS-ului, deși lumea i-a cunoscut numele abia la bătrânețe
Gladys West, matematiciana care a contribuit la dezvoltarea GPS-ului, deși lumea i-a cunoscut numele abia la bătrânețe
Roma avea pompieri acum 1.800 de ani! Cum stingeau incendiile fără hidranți și autospeciale în vremea lui Marcus Aurelius (P)
Roma avea pompieri acum 1.800 de ani! Cum stingeau incendiile fără hidranți și autospeciale în vremea lui Marcus Aurelius ...
Te durea o măsea în Roma antică? Puteai rămâne fără dinte! Cum își tratau romanii durerile dentare în vremea lui Marcus Aurelius (P)
Te durea o măsea în Roma antică? Puteai rămâne fără dinte! Cum își tratau romanii durerile dentare în vremea lui ...
De ce ne este frică atunci când nu există niciun pericol? O descoperire despre creier răstoarnă o veche explicație a fricii
De ce ne este frică atunci când nu există niciun pericol? O descoperire despre creier răstoarnă o veche explicație ...
De ce apelăm la prieteni diferiți atunci când suntem triști, furioși sau îngrijorați? Ce spune psihologia despre sprijinul emoțional
De ce apelăm la prieteni diferiți atunci când suntem triști, furioși sau îngrijorați? Ce spune psihologia despre sprijinul ...
Ce se ascunde în ADN-ul oamenilor cu schizofrenie sau tulburare bipolară? O nouă ipoteză genetică
Ce se ascunde în ADN-ul oamenilor cu schizofrenie sau tulburare bipolară? O nouă ipoteză genetică
Test de cultură generală. Din ce este făcut extractul de vanilie?
Test de cultură generală. Din ce este făcut extractul de vanilie?
25 de destinații de vizitat în 2027. Ce locuri surprinzătoare se află pe lista National Geographic?
25 de destinații de vizitat în 2027. Ce locuri surprinzătoare se află pe lista National Geographic?
Care este unul dintre cele mai importante semne ale infarctului?
Care este unul dintre cele mai importante semne ale infarctului?
De ce mirosul de benzină poate fi mai periculos decât am crede?
De ce mirosul de benzină poate fi mai periculos decât am crede?
Cum a reușit un sud-coreean să obțină cel mai mare punctaj la unul dintre cele mai dificile examene din țară
Cum a reușit un sud-coreean să obțină cel mai mare punctaj la unul dintre cele mai dificile examene din țară
Cum a fost condamnat la moarte Dostoievski şi scăpat în ultimul moment
Cum a fost condamnat la moarte Dostoievski şi scăpat în ultimul moment
Șefa diplomației europene, „profund îngrijorată” de situația umanitară din Fâșia Gaza
Șefa diplomației europene, „profund îngrijorată” de situația umanitară din Fâșia Gaza