Oamenii de știință avertizează! Ar putea fi imposibil să controlăm Inteligența Artifcială

Adaugă-ne ca sursă preferată

Urmărește-ne in Discover

Oamenii de știință de la Max Planck Society, o instituție europeană de cercetare de renume, spun că omenirea nu va putea niciodată să controleze o inteligență artificială superinteligentă care ar putea salva sau distruge omenirea.

Cel puțin asta reiese conform cercetărilor publicate în Journal of Artificial Intelligence Research. Problema, spun cercetătorii, este că nu există nicio modalitate de a conține un astfel de algoritm fără o tehnologie mult mai avansată decât ceea ce putem construi astăzi.

Echipa s-a concentrat în primul rând pe problema restricției. Dacă un algoritm atotputernic ar determina cumva că ar trebui să rănească oamenii sau, într-un mod mai apropiat de „Terminator”, să pună capăt omenirii cu totul, cum l-am împiedica să acționeze?

Ce soluție au propus oamenii de știință pentru Inteligența Artificială scăpată de sub control

Ei propun construirea unui fel de „algoritm de izolare” care simulează comportamentul periculos al algoritmului și îl blochează să facă orice dăunător – dar pentru că acesta ar trebui să fie cel puțin la fel de puternic ca primul algoritm, oamenii de știință au declarat că problema este imposibil de rezolvat, conform Futurism.

Totul este însă doar o dezbatere teoretică. O inteligență artificială (AI) suficient de avansat pentru a amenința omenirea este probabil încă departe, dar oamenii foarte deștepți lucrează din greu la asta. Asta îl face subiectul perfect pentru a dezbate în avans, desigur. Ne-am dori să cunoaștem pericolul înainte ca acesta să sosească.

„O mașină superinteligentă care controlează lumea sună ca o ficțiune științifică”, a spus co-autorul studiului Manuel Cebrian, liderul grupului de mobilizare digitală de la Centrul pentru oameni și mașini al Institutului Max Planck pentru Dezvoltare Umană.

„Dar există deja mașini care îndeplinesc anumite sarcini importante în mod independent, fără ca programatorii să înțeleagă pe deplin cum au învățat-o. Prin urmare, se pune întrebarea dacă acest lucru ar putea deveni la un moment dat incontrolabil și periculos pentru umanitate”, a adăugat el.

Vă invităm să citiți și:

Cum ajută inteligența artificială cercetătorii să înțeleagă activitatea cerebrală din spatele gândurilor

„Țipetele blestemaților”. Aceasta este lumea stranie a muzicii create de inteligența artificială

O nouă abordare matematică poate simplifica modul în care sunt antrenați algoritmii de inteligență artificială

Inteligența artificială a „readus la viață” 54 de împărați romani. Imaginile sunt uimitoare