Chatbotul Bard de la Google a vorbit într-o limbă în care nu a fost antrenat

Sundar Pichai, directorul executiv al Google, a admis că el „nu înțelege pe deplin” cum funcționează Bard, noul program de Inteligență Artificială (AI) al companiei, după ce a învățat singur o limbă străină în care nu a fost antrenat și a citit cărți false pentru a rezolva o problemă de economie. 

Una dintre marile probleme descoperite cu Bard este ceva ce Pichai a numit „proprietăți emergente” sau sisteme de Inteligență Artificială care au învățat singure abilități neprevăzute.

• Cele mai goale locuri din Univers ar putea avea o influență neașteptată
• O explozie cosmică bizară, provocată de coliziunea unor galaxii, oferă indicii necunoscute despre Univers

Programul de Inteligență Artificială al Google a putut, de exemplu, să învețe limba bengaleză fără instruire, după ce i s-a cerut să vorbească această limbă.

„Nu înțelegeți pe deplin cum funcționează”

„Există un aspect pe care noi îl numim – noi toți cei din domeniu îl numim cutia neagră. Știi, nu înțelegi pe deplin. Și nu poți spune cu exactitate de ce a spus asta sau de ce e greșit. Avem câteva idei, iar capacitatea noastră de a înțelege acest lucru se îmbunătățește cu timpul. Dar acesta este stadiul actual al tehnologiei”, a recunoscut Pichai, conform Daily Mail.

Scott Pelley de la emisiunea 60 Minutes de la CBS a fost surprins să audă despre înțelegerea parțială a lui Pichai privind modul de funcționare a Bard.

„Nu înțelegeți pe deplin cum funcționează. Și totuși, i-ați dat drumul în societate?”, a întrebat Pelley.

„Da. Permiteți-mi să vă spun în felul următor. Cred că nici noi nu înțelege pe deplin cum funcționează o minte umană”, a răspuns Pichai.

În mod notabil, sistemul Bard a scris instantaneu un eseu despre inflația în economie, recomandând cinci cărți. Niciuna dintre acestea nu există de fapt. În industrie, acest tip de eroare se numește „halucinație”.

Inteligență Artificială ar putea prezenta riscuri pentru societate?

Elon Musk și un grup de experți în Inteligență Artificială și directori din industrie au cerut recent o pauză de șase luni în dezvoltarea unor sisteme mai puternice decât GPT-4, recent lansat de OpenAI, într-o scrisoare deschisă în care au invocat potențialele riscuri pentru societate.

„Sistemele AI ar trebui să fie dezvoltate doar atunci când suntem siguri că efectele lor vor fi pozitive și că riscurile vor fi gestionabile”, se arată în scrisoarea emisă de Future of Life Institute.

Pichai a fost direct în ceea ce privește riscurile de a grăbi noua tehnologie.

Pichai a spus că Google are „urgența de a lucra și de a o implementa într-un mod benefic, dar, în același timp, poate fi dăunătoare dacă este implementată greșit”.

Google a început lansarea publică a Bard în aprilie 2023

Directorul executiv al Google a recunoscut că acest lucru îl îngrijorează.

„Nu avem încă toate răspunsurile acolo, iar tehnologia evoluează rapid. Așadar, mă ține asta treaz noaptea? Absolut”, a spus Pichai.

Google a început lansarea publică a Bard în aprilie anul acesta, încercând să câștige teren în fața ChatGPT de la Microsoft, într-o cursă rapidă privind tehnologia AI.

Vă mai recomandăm și: 

O studentă a folosit ChatGPT pentru a contesta o amendă de parcare

Creatorul Internetului vrea ca fiecare om să aibă propria Inteligență Artificială

Chatbotul Bard al Google, rivalul lui ChatGPT, este de acum disponibil

Fost director executiv al Google susține că Inteligența Artificială ar fi la fel de revoluționară pentru război precum armele nucleare