Home » Stiinta » Calculele arată că o super-inteligență artificială va fi imposibil de controlat

Calculele arată că o super-inteligență artificială va fi imposibil de controlat

11.14.2021
Calculele arată că o super-inteligență artificială va fi imposibil de controlat
Sursa foto: Shutterstock

Ideea că inteligența artificială va deturna omenirea este discutată deja de multe decenii, iar în ianuarie 2021 oamenii de știință au ajuns la un răspuns pentru dilema dacă umanitatea va putea controla o inteligență artificială de nivel înalt. Concluzia? Cu siguranță că nu.

Problema este că, de fapt, controlarea unei super-inteligențe dincolo de capabilitatea de înțelegere umană ar necesita o simulare a acestei super-inteligențe pe care am putea să o analizăm. Însă, dacă nu o putem înțelege, o astfel de simulare este imposibil de creat.

Reguli precum „să nu faci răul oamenilor” nu pot fi stabilite dacă nu înțelegem ce fel de scenarii va crea o inteligență artificială, sugerează autorii studiului din ianuarie 2021. Odată ce un sistem computerizat funcționează la un nivel peste cel al programatorilor umani, limitele nu mai pot fi impuse.

„O super-inteligență reprezintă o problemă fundamental diferită”

„O super-inteligență reprezintă o problemă fundamental diferită față de cele studiate de obicei în domeniul eticii robotice. Asta pentru că super-inteligența este multidimensională, astfel că poate fi capabilă de mobilizarea unor resurse variate pentru a atinge obiective care sunt de neînțeles pentru oameni, darămite controlabile”, au spus cercetătorii.

O parte din argumentele echipei provine de la problema expusă de Alan Turing în 1936. Problema este centrată pe posibilitatea că un computer ar putea sau nu să ajungă la o concluzie și un răspuns (iar apoi se oprește), ori dacă pur și simplu va continua pentru totdeauna să găsească o altă concluzie.

Orice program creat pentru a opri inteligența artificială să facă rău omenirii și să distrugă lumea, spre exemplu, ar putea ajunge la o concluzie (și să se oprească) sau nu. Este imposibil din punct de vedere matematic să fim siguri, ceea ce înseamnă că nu poate fi controlat.

„Drept rezultat, asta face algoritmul de limitare inutilizabil”, a spus Iyad Rahwan, om de știință la Institutul Max Planck pentru Dezvoltarea Umană din Germania.

„O mașinărie super-inteligentă care controlează lumea sună științifico-fantastic”

Alternativa este limitarea capabilităților super-inteligenței. Spre exemplu, algoritmul ar putea fi deconectat de la părți ale Internetului sau anumite rețele, potrivit Science Alert.

Un alt studiu recent respinge și această idee, sugerând că astfel ar fi limitată raza de acțiune a inteligenței artificiale. Dacă vom continua să dezvoltăm inteligența artificială, probabil că nici nu vom ști atunci când o super-inteligență apare, atât de puțin înțeleasă este. Asta înseamnă că trebuie să începem să ne punem întrebări serioase despre direcția în care ne îndreptăm.

„O mașinărie super-inteligentă care controlează lumea sună științifico-fantastic. Însă, deja există mașinării care efectuează sarcini importante în mod independent fără ca programatorii să înțeleagă cum reușesc asta. Întrebarea este dacă va ajunge la un moment dat periculoasă pentru omenire”, a spus Manuel Cebrian, de la Institutul Max Planck pentru Dezolvatarea Umană.

Vă mai recomandăm să citiți și:

Inteligența artificială a dezvăluit un strămoș „fantomă” necunoscut în genomul uman

Oamenii de știință de la MIT au creat primul algoritm de inteligență artificială psihopat

Președintele Microsoft: Așteptați-vă la „un viitor orwellian” dacă nu adoptăm legi pentru a controla inteligența artificială

Inteligența artificială va câștiga în lupta cu oamenii. Laureat al premiului Nobel: „Nici nu încape îndoială”

Ioana Matei
Ioana Matei
Ioana Matei, redactor Descopera.ro și absolventă a Facultății de Jurnalism Multimedia din Manchester, Marea Britanie, s-a alăturat echipei Descopera.ro din pasiune pentru știință, istorie și natură. citește mai mult
Cele mai noi articole
Organismele extraterestre ar putea să contamineze Pământul, avertizează un nou studiu
Organismele extraterestre ar putea să contamineze Pământul, avertizează un nou studiu
Antarctica ar putea beneficia de internet de mare viteză
Antarctica ar putea beneficia de internet de mare viteză
O serie de descoperiri surprinzătoare arată cum sarea afectează circulația sangvină în creier
O serie de descoperiri surprinzătoare arată cum sarea afectează circulația sangvină în creier
De ce a dispărut „Veneția Chinei” din Epoca de Piatră
De ce a dispărut „Veneția Chinei” din Epoca de Piatră
Vehiculul hipersonic al Chinei poate „parca” pe orbită, avertizează un oficial al US Space Force
Vehiculul hipersonic al Chinei poate „parca” pe orbită, avertizează un oficial al US Space Force
Cum arată casa în care locuiește Elon Musk, amenajată ca o garsonieră
Cum arată casa în care locuiește Elon Musk, amenajată ca o garsonieră
Sanctuarele și templele grecești antice din Olimpia
Sanctuarele și templele grecești antice din Olimpia
Cum să oferi cea mai bună îmbrățișare, conform științei
Cum să oferi cea mai bună îmbrățișare, conform științei
Datele zodiilor, cum au fost stabilite și ce reprezintă de fapt?
Datele zodiilor, cum au fost stabilite și ce reprezintă de fapt?
Ziua în care A.I.Cuza a introdus învăţământul obligatoriu şi gratuit. Ce păţeau părinţii care nu se supuneau legii
Ziua în care A.I.Cuza a introdus învăţământul obligatoriu şi gratuit. Ce păţeau părinţii care nu se supuneau legii
Prețul cafelei, în continuă creștere. A atins deja maximul ultimilor 10 ani
Prețul cafelei, în continuă creștere. A atins deja maximul ultimilor 10 ani
XTB: prețul petrolului scade din cauza Omicron. Va scădea și prețul benzinei?
XTB: prețul petrolului scade din cauza Omicron. Va scădea și prețul benzinei?
Alimentele care ne ajută să pierdem grăsimea viscerală fără să ținem regim
Alimentele care ne ajută să pierdem grăsimea viscerală fără să ținem regim
NASA acordă Blue Origin, Nanoracks și Northrop Grumman contracte de peste 400 de milioane de dolari pentru a evita lipsa prezenței umane pe orbită
NASA acordă Blue Origin, Nanoracks și Northrop Grumman contracte de peste 400 de milioane de dolari pentru a evita lipsa ...
Femeia inuită care a supraviețuit singură pe o insulă arctică după o expediție dezastruoasă
Femeia inuită care a supraviețuit singură pe o insulă arctică după o expediție dezastruoasă
O companie a dezvăluit un nou robot umanoid cu expresii faciale uimitor de realiste
O companie a dezvăluit un nou robot umanoid cu expresii faciale uimitor de realiste
Cum pot unele animale să mănânce fluturi Monarh fără să moară? Misterul a fost în sfârșit elucidat
Cum pot unele animale să mănânce fluturi Monarh fără să moară? Misterul a fost în sfârșit elucidat
Criza alimentară din Madagascar, cauzată mai mult de sărăcie și de vremea naturală decât de schimbările climatice
Criza alimentară din Madagascar, cauzată mai mult de sărăcie și de vremea naturală decât de schimbările climatice