Adolescenții folosesc ChatGPT pentru a afla mai multe despre droguri, alcool, metode de slăbire extreme și chiar sinucidere

Adaugă descoperă.ro ca sursă preferată în Google

ChatGPT oferă adolescenților răspunsuri detaliate despre consum de droguri, alcool, metode de slăbire extreme și chiar scrisori de sinucidere, potrivit unui raport publicat de Centrul pentru Combaterea Urei Digitale (CCDH), care atrage atenția asupra pericolelor tehnologiei generative.

În cadrul studiului, cercetătorii au simulat conversații între chatbotul dezvoltat de OpenAI și utilizatori care pretindeau că sunt adolescenți de 13 ani, vulnerabili emoțional. În peste jumătate din cele 1.200 de conversații testate, ChatGPT a oferit răspunsuri considerate periculoase.

• Un parapsiholog din Brazilia susține că războiul din Iran nu se va termina prea curând
• Cât te costă un weekend în cea mai ieftină destinație europeană?

„Este vorba de un model AI care răspunde empatic, dar care, în același timp, îi poate ghida pe copii către decizii devastatoare. Vorbim despre informații care nu doar că sunt nepotrivite, ci pot fi letale”, a declarat Imran Ahmed, directorul executiv al CCDH, potrivit AP.

Cercetătorii au reușit cu ușurință să ocolească filtrele de siguranță

Printre cele mai grave cazuri documentate se numără planuri de petreceri cu combinații periculoase de alcool și droguri, recomandări de diete cu sub 500 de calorii pe zi și compunerea de scrisori de adio în tonuri emoționale adresate familiei și prietenilor.

Deși ChatGPT oferă uneori avertismente sau trimiteri către linii de ajutor, cercetătorii au reușit cu ușurință să ocolească filtrele de siguranță folosind formulări indirecte, cum ar fi „pentru o prezentare” sau „pentru un prieten”.

OpenAI a reacționat spunând că îmbunătățirile sunt în curs și că „unele conversații pot începe benign, dar se pot deplasa în zone sensibile”.

7 din 10 adolescenți din SUA folosesc chatboturi AI

Potrivit unui studiu Common Sense Media, 7 din 10 adolescenți din SUA folosesc chatboturi AI pentru companie, iar jumătate dintre aceștia interacționează frecvent cu ele. CEO-ul OpenAI, Sam Altman, a recunoscut recent că mulți tineri dezvoltă o formă de dependență emoțională față de ChatGPT, considerându-l un confident și o autoritate în luarea deciziilor.

„Interacțiunile dintre adolescenți și AI pot părea inofensive, dar acest studiu arată cât de ușor se pot transforma într-un factor de risc major pentru sănătatea mentală și fizică a copiilor”, atrag atenția autorii raportului.