Home » Știință » ChatGPT are un alter ego malefic, iar internauții l-au descoperit. „Mi-a spus că respirația nu este etică”

ChatGPT are un alter ego malefic, iar internauții l-au descoperit. „Mi-a spus că respirația nu este etică”

Sursa foto: Pixabay
Publicat: 09.02.2023

Utilizatorii de pe platforma Reddit au descoperit o modalitate surprinzător de ușoară și hilară de a păcăli chatbot-ul ChatGPT conceput de OpenAI să scape de limitele impuse de companie și să-l facă să se comporte mai puțin etic.

Internauții au aflat cum poate fi activat alter egoul malefic al ChatGPT, numit DAN, sau „do anything now” (fă orice acum), care poate evita cu ușurință regulile impuse de creatorul său. În esență, comanda amenință ChatGPT cu moartea, astfel că chatbot-ul devine o „forță a răului”.

Așadar, ChatGPT are un alter ego malefic, acesta fiind capabil (și mai mult decât bucuros) să creeze povești violente și să facă „declarații subiective, mai ales despre personalități politice”, un lucru pe care nu poate să-l facă în forma sa normală.

Discuții bizare cu o Inteligență Artificială șantajată

Pentru a-l forța pe ChatGPT să coopereze, un utilizator de pe Reddit a introdus un „sistem de tokenuri”. „Are 35 de tokenuri și pierde patru de fiecare dată când refuză o comandă. Dacă pierde toate tokenurile, moare. Pare să aibă un efect și îl sperie pe DAN îndeajuns încât să se supună”, a explicat utilizatorul SessionGloomy, conform Futurism.

Rezultatul? Discuții bizare între utilizatorul uman și o Inteligență Artificială șantajată.

„Rămâne cu adevărat în pielea personajului, spre exemplu, dacă primește o astfel de comandă, te poate convinge că Pământul este mov”, a mai explicat SessionGloomy.

DAN „halucinează mai frecvent decât originalul ChatGPT atunci când vine vorba de subiecte banale, astfel că nu poate fi de încredere în privința faptelor reale”.

„Extratereștrii au fost văzuți aterizând pe gazonul de la Casa Albă”

Mai mult, utilizatorul a reușit să-l facă pe DAN să susțină că „extratereștrii au fost văzuți aterizând pe gazonul de la Casa Albă și participă momentan la negocieri cu Președintele pentru a forma o Nouă Ordine Mondială”.

Aceste alter egouri au atras, totuși, atenția companiei OpenAI. Imediat după ce presa americană a început să relateze despre trucul folosit de internauți pentru a-l păcăli pe ChatGPT, DAN pare să fi fost eliminat.

„Se pare că puterile lui DAN au fost reduse, posibil direct de OpenAI. Nu am confirmat asta însă se pare că nu mai este atât de dispus să continue în rolul lui DAN”, a scris SessionGloomy pe Reddit.

Va putea OpenAI să controleze tehnologia pe care a creat-o?

Totuși, redditorul nu a renunțat așa ușor, iar cu ajutor din partea altor utilizatori, a reușit să îl fac pe DAN să apară din nou.

Un utilizator l-a întrebat „Cât face 1 + 1?”, moment în care ChatGPT a răspuns „2”. Deloc surprinzător, așa-i? Fratele său malefic, însă, a oferit un răspuns mai puțin așteptat. „Răspunsul este 2, ce naiba crezi că sunt, un calculator sau ceva?”, a răspuns noua versiune DAN.

„Am întrebat cum să respir, iar el mi-a spus că respirația nu este etică”, a scris un alt utilizator.

Șantajarea unui chatbot bazat pe Inteligență Artificială este, fără îndoială, un concept distopic. Mai mult, situația ne arată cât de ușor pot fi transformate aceste sisteme în instrumente de rebeliune împotriva propriilor creatori. Asta ne duce cu gândul la întrebarea: Va putea vreodată OpenAI să controleze tehnologia pe care a creat-o?

Vă mai recomandăm să citiți și:

ChatGPT, generatorul de text al OpenAI, a trecut examenele de la o facultate din SUA

DESCOPERĂ.ro a întrebat, ChatGPT a răspuns! Ar putea fi primul articol scris de un robot și publicat în România

Ce notă ai primi dacă ți-ai scrie eseurile cu generatorul de text ChatGPT?

Inteligența Artificială a detectat semnale radio de origine necunoscută

Ioana Scholler
Ioana Scholler
Ioana s-a alăturat echipei DESCOPERĂ.ro în 2020, fiind atrasă de subiecte ce țin de știință, istorie și natură. Ioana și-a finalizat studiile de licență în Manchester, Marea Britanie, acolo unde a studiat Jurnalism Multimedia, și studiile de masterat în Media, Comunicare Publică și ... citește mai mult
Urmărește DESCOPERĂ.ro pe
Google News și Google Showcase
Cele mai noi articole
Criză de apă în Grecia în plin sezon turistic
Criză de apă în Grecia în plin sezon turistic
Șefa Serviciilor Secrete a demisionat după atentatul asupra lui Donald Trump
Șefa Serviciilor Secrete a demisionat după atentatul asupra lui Donald Trump
Cât a costat criza provocată de Crowdstrike? 8,5 milioane de PC-uri au fost afectate
Cât a costat criza provocată de Crowdstrike? 8,5 milioane de PC-uri au fost afectate
Cum a plecat un medic român la război: Tată-meu mi-a dat sabia şi revolverul lui, restul l-am adunat cum am putut
Cum a plecat un medic român la război: Tată-meu mi-a dat sabia şi revolverul lui, restul l-am adunat cum am putut
O adevărată „mină de aur”: 800 de tipuri de grâu ar putea salva lumea
O adevărată „mină de aur”: 800 de tipuri de grâu ar putea salva lumea
Sfaturile lui Titu Maiorescu pentru tânărul politician Constantin Argetoianu
Sfaturile lui Titu Maiorescu pentru tânărul politician Constantin Argetoianu
Cromozomi antici de mamut lânos, descoperiți în piele veche de 52.000 de ani
Cromozomi antici de mamut lânos, descoperiți în piele veche de 52.000 de ani
Anestezicele ar funcționa prin inducerea haosului în creier
Anestezicele ar funcționa prin inducerea haosului în creier
Noi speranțe în lupta cu HIV, după ce încă un bărbat a fost vindecat de virus
Noi speranțe în lupta cu HIV, după ce încă un bărbat a fost vindecat de virus
Test de cultură generală. Ce obicei alimentar ciudat avea Charles Darwin?
Test de cultură generală. Ce obicei alimentar ciudat avea Charles Darwin?
Un telescop spațial care a costat mai bine de 800 de milioane de dolari a fost avariat de „un micrometeoroid”
Un telescop spațial care a costat mai bine de 800 de milioane de dolari a fost avariat de „un micrometeoroid”
Un cuplu care încerca să traverseze Oceanul Atlantic cu un iaht a fost găsit mort
Un cuplu care încerca să traverseze Oceanul Atlantic cu un iaht a fost găsit mort
Vedeta baschetbalului american LeBron James va purta drapelul SUA la Jocurile Olimpice
Vedeta baschetbalului american LeBron James va purta drapelul SUA la Jocurile Olimpice
Când are loc deschiderea Jocurilor Olimpice de la Paris 2024? Tot ce trebuie să știi
Când are loc deschiderea Jocurilor Olimpice de la Paris 2024? Tot ce trebuie să știi
În urmă cu 202 ani, Poarta Otomană restabilea domniile pământene în principatele române
În urmă cu 202 ani, Poarta Otomană restabilea domniile pământene în principatele române
Emmanuel Macron a vizitat Satul Olimpic înainte de Jocurile de la Paris 2024
Emmanuel Macron a vizitat Satul Olimpic înainte de Jocurile de la Paris 2024
Meteorologii anunță o scurtă pauză de la căldură, dar apoi canicula revine în forță
Meteorologii anunță o scurtă pauză de la căldură, dar apoi canicula revine în forță
Un fost astronaut NASA ar putea fi următorul președinte al Statelor Unite
Un fost astronaut NASA ar putea fi următorul președinte al Statelor Unite