Un bărbat din Norvegia, „acuzat” de ChatGPT că și-ar fi ucis copiii

Un bărbat din Norvegia a depus o plângere oficială după ce ChatGPT i-a furnizat informații complet false, susținând că și-ar fi ucis doi dintre copii și ar fi fost condamnat la 21 de ani de închisoare.

Arve Hjalmar Holmen a contactat Autoritatea Norvegiană pentru Protecția Datelor și a cerut ca OpenAI, compania care a dezvoltat ChatGPT, să fie amendată pentru acest incident, potrivit BBC.

• 20 de lucruri uimitoare despre creierul uman
• Marile companii de Inteligență Artificială sunt „mai puțin reglementate decât restaurantele”

Atunci când Holmen a folosit ChatGPT pentru a căuta informații despre sine, asistentul virtual i-a răspuns că ar fi fost tatăl a doi băieți cu vârstele de 7 și 10 ani, care „au fost găsiți morți într-un iaz lângă casa lor din Trondheim, Norvegia, în decembrie 2020″.

„Halucinații” ale sistemelor de inteligență artificială

Potrivit organizației pentru drepturile digitale Noyb, Holmen „nu a fost niciodată acuzat și nici condamnat pentru vreo infracțiune și este un cetățean conștiincios”.

„Unii cred că nu iese fum fără foc – faptul că cineva ar putea citi acest răspuns și să îl creadă adevărat este ceea ce mă sperie cel mai mult”, a declarat Holmen.

Cazul reprezintă un nou exemplu al așa-numitelor „halucinații” ale sistemelor de inteligență artificială, când acestea inventează informații și le prezintă drept fapte. Organizația Noyb consideră că răspunsul oferit de ChatGPT este defăimător și încalcă regulile europene de protecție a datelor privind acuratețea informațiilor personale.

OpenAI a modificat modelul ChatGPT de la momentul incidentului, care a avut loc în august 2024, astfel încât acesta să caute în articole de știri actuale atunci când caută informații relevante.

Până acum, OpenAI nu a oferit un comentariu oficial referitor la acest caz.