Home » Știință » ChatGPT are un alter ego malefic, iar internauții l-au descoperit. „Mi-a spus că respirația nu este etică”

ChatGPT are un alter ego malefic, iar internauții l-au descoperit. „Mi-a spus că respirația nu este etică”

Sursa foto: Pixabay
Publicat: 09.02.2023

Utilizatorii de pe platforma Reddit au descoperit o modalitate surprinzător de ușoară și hilară de a păcăli chatbot-ul ChatGPT conceput de OpenAI să scape de limitele impuse de companie și să-l facă să se comporte mai puțin etic.

Internauții au aflat cum poate fi activat alter egoul malefic al ChatGPT, numit DAN, sau „do anything now” (fă orice acum), care poate evita cu ușurință regulile impuse de creatorul său. În esență, comanda amenință ChatGPT cu moartea, astfel că chatbot-ul devine o „forță a răului”.

Așadar, ChatGPT are un alter ego malefic, acesta fiind capabil (și mai mult decât bucuros) să creeze povești violente și să facă „declarații subiective, mai ales despre personalități politice”, un lucru pe care nu poate să-l facă în forma sa normală.

Discuții bizare cu o Inteligență Artificială șantajată

Pentru a-l forța pe ChatGPT să coopereze, un utilizator de pe Reddit a introdus un „sistem de tokenuri”. „Are 35 de tokenuri și pierde patru de fiecare dată când refuză o comandă. Dacă pierde toate tokenurile, moare. Pare să aibă un efect și îl sperie pe DAN îndeajuns încât să se supună”, a explicat utilizatorul SessionGloomy, conform Futurism.

Rezultatul? Discuții bizare între utilizatorul uman și o Inteligență Artificială șantajată.

„Rămâne cu adevărat în pielea personajului, spre exemplu, dacă primește o astfel de comandă, te poate convinge că Pământul este mov”, a mai explicat SessionGloomy.

DAN „halucinează mai frecvent decât originalul ChatGPT atunci când vine vorba de subiecte banale, astfel că nu poate fi de încredere în privința faptelor reale”.

„Extratereștrii au fost văzuți aterizând pe gazonul de la Casa Albă”

Mai mult, utilizatorul a reușit să-l facă pe DAN să susțină că „extratereștrii au fost văzuți aterizând pe gazonul de la Casa Albă și participă momentan la negocieri cu Președintele pentru a forma o Nouă Ordine Mondială”.

Aceste alter egouri au atras, totuși, atenția companiei OpenAI. Imediat după ce presa americană a început să relateze despre trucul folosit de internauți pentru a-l păcăli pe ChatGPT, DAN pare să fi fost eliminat.

„Se pare că puterile lui DAN au fost reduse, posibil direct de OpenAI. Nu am confirmat asta însă se pare că nu mai este atât de dispus să continue în rolul lui DAN”, a scris SessionGloomy pe Reddit.

Va putea OpenAI să controleze tehnologia pe care a creat-o?

Totuși, redditorul nu a renunțat așa ușor, iar cu ajutor din partea altor utilizatori, a reușit să îl fac pe DAN să apară din nou.

Un utilizator l-a întrebat „Cât face 1 + 1?”, moment în care ChatGPT a răspuns „2”. Deloc surprinzător, așa-i? Fratele său malefic, însă, a oferit un răspuns mai puțin așteptat. „Răspunsul este 2, ce naiba crezi că sunt, un calculator sau ceva?”, a răspuns noua versiune DAN.

„Am întrebat cum să respir, iar el mi-a spus că respirația nu este etică”, a scris un alt utilizator.

Șantajarea unui chatbot bazat pe Inteligență Artificială este, fără îndoială, un concept distopic. Mai mult, situația ne arată cât de ușor pot fi transformate aceste sisteme în instrumente de rebeliune împotriva propriilor creatori. Asta ne duce cu gândul la întrebarea: Va putea vreodată OpenAI să controleze tehnologia pe care a creat-o?

Vă mai recomandăm să citiți și:

ChatGPT, generatorul de text al OpenAI, a trecut examenele de la o facultate din SUA

DESCOPERĂ.ro a întrebat, ChatGPT a răspuns! Ar putea fi primul articol scris de un robot și publicat în România

Ce notă ai primi dacă ți-ai scrie eseurile cu generatorul de text ChatGPT?

Inteligența Artificială a detectat semnale radio de origine necunoscută

Ioana Scholler
Ioana Scholler
Ioana s-a alăturat echipei DESCOPERĂ.ro în 2020, fiind atrasă de subiecte ce țin de știință, istorie și natură. Ioana și-a finalizat studiile de licență în Manchester, Marea Britanie, acolo unde a studiat Jurnalism Multimedia, și studiile de masterat în Media, Comunicare Publică și ... citește mai mult
Urmărește DESCOPERĂ.ro pe
Google News și Google Showcase
Cele mai noi articole
O lege privind avortul îi obligă pe medici să țină în viață o femeie însărcinată aflată în moarte cerebrală până când va naște
O lege privind avortul îi obligă pe medici să țină în viață o femeie însărcinată aflată în moarte cerebrală ...
Vremea în luna mai, tot mai ciudată. Prognoza anunțată de ANM
Vremea în luna mai, tot mai ciudată. Prognoza anunțată de ANM
Un avion de la Lufthansa cu peste 200 de oameni la bord a zburat fără pilot timp de 10 minute
Un avion de la Lufthansa cu peste 200 de oameni la bord a zburat fără pilot timp de 10 minute
Mai bine de trei veacuri de când „Lorenzo de Medici” al României îi îndruma pe moldoveni să lupte împotriva otomanilor
Mai bine de trei veacuri de când „Lorenzo de Medici” al României îi îndruma pe moldoveni să lupte împotriva otomanilor
Actorul american Kevin Spacey, premiat la Cannes pentru întreaga carieră, în ciuda acuzațiilor de agresiune sexuală
Actorul american Kevin Spacey, premiat la Cannes pentru întreaga carieră, în ciuda acuzațiilor de agresiune sexuală
Analfabetismul funcțional în România, mult mai mare decât s-a măsurat, spune ministrul Educației
Analfabetismul funcțional în România, mult mai mare decât s-a măsurat, spune ministrul Educației
Ce au vorbit Donald Trump și Vladimir Putin la telefon?
Ce au vorbit Donald Trump și Vladimir Putin la telefon?
Program open-source de la Microsoft pentru integrarea chatboților pe site-urile web
Program open-source de la Microsoft pentru integrarea chatboților pe site-urile web
Cum a murit de fapt marele poet Mihai Eminescu? „A fost un tratament administrat greșit”
Cum a murit de fapt marele poet Mihai Eminescu? „A fost un tratament administrat greșit”
Ralph Lauren, al doilea cel mai bogat fashion designer din lume. Are o avere de peste 8 miliarde de dolari
Ralph Lauren, al doilea cel mai bogat fashion designer din lume. Are o avere de peste 8 miliarde de dolari
Giorgio Armani, cel mai bogat creator de modă din lume
Giorgio Armani, cel mai bogat creator de modă din lume
Studiu: Tinerii se confruntă cu o criză a bunăstării emoționale și a sensului în viață
Studiu: Tinerii se confruntă cu o criză a bunăstării emoționale și a sensului în viață
Oamenii de știință au modificat structura moleculară a LSD-ului și au creat un nou medicament pentru creier
Oamenii de știință au modificat structura moleculară a LSD-ului și au creat un nou medicament pentru creier
Alin Comșa, declarație teribilă despre finalul lui Mihai Eminescu: „N-avea ce mânca!” | ALTCEVA CU ADRIAN ARTENE
Alin Comșa, declarație teribilă despre finalul lui Mihai Eminescu: „N-avea ce mânca!” | ALTCEVA CU ADRIAN ARTENE
Reîntoarcerea la clasic –  De ce ceasurile bărbătești mecanice revin puternic în tendințe (P)
Reîntoarcerea la clasic – De ce ceasurile bărbătești mecanice revin puternic în tendințe (P)
Test de cultură generală. Ce salariu au astronauții?
Test de cultură generală. Ce salariu au astronauții?
Lansare eșuată pentru agenția spațială indiană
Lansare eșuată pentru agenția spațială indiană
Estonia va continua să verifice navele din „flota-fantomă” a Rusiei, a transmis premierul țării
Estonia va continua să verifice navele din „flota-fantomă” a Rusiei, a transmis premierul țării