Deepfake-urile din școli, tehnologia care transformă hărțuirea într-un fenomen alarmant

Un incident petrecut într-un autobuz școlar a devenit, pentru un director de liceu din Marea Britanie, un semnal de alarmă privind un fenomen care ia amploare rapid în rândul elevilor. Un băiat adolescent își folosea nestingherit telefonul pentru a „dezbrăca” digital o fată de la o școală vecină, folosind o aplicație bazată pe inteligență artificială.

„Ce m-a șocat a fost normalizarea. Nu se ascundea, nu avea impresia că face ceva greșit”, povestește directoarea.

• Ce riscă medicii care răspândesc informații false în spațiul public?
• O stație de metrou a fost inaugurată chiar sub Colosseum. Ce pot vedea călătorii?

Ce acum un deceniu era limitat la mesaje indecente și imagini trimise între adolescenți, a devenit astăzi o formă de abuz sexual digital mult mai sofisticată. Tehnologia deepfake permite generarea de imagini și videoclipuri pornografice false în câteva minute, punând chipul unei persoane reale pe un corp sau într-o situație cu o conotație sexuală fără consimțământul acesteia.

Cazuri similare în toată lumea

Cazuri similare apar în toată lumea. În Spania, 15 băieți au primit pedepse cu supraveghere după ce au creat și distribuit online imagini nud false cu colege de școală, unele dintre fete având doar 11 ani.

În Australia și SUA, zeci de eleve au descoperit că imaginile lor au fost manipulate și răspândite pe rețelele de socializare, provocând traume severe, potrivit The Guardian.

Nici școlile din Marea Britanie nu sunt ocolite. Un sondaj realizat pe 4.300 de profesori arată că unul din zece știe despre elevi care au creat deepfake-uri sexuale în ultimul an școlar. Majoritatea cazurilor implică copii de doar 14 ani, uneori chiar mai mici.

Problema este amplificată și de reticența multor victime de a vorbi. În cazul elevului din autobuz, părinții fetei au decis ca aceasta să nu fie informată pentru a evita rușinea și stigmatizarea, o reacție comună, spun specialiștii.

„Nu putem combate abuzul prin interdicții totale sau ignorând problema”

Experții atrag atenția că fenomenul reprezintă o formă de abuz sexual și poate genera consecințe juridice grave, inclusiv pentru minori. Totodată, educatorii reclamă lipsa unor proceduri clare. Unele școli implică imediat poliția, în timp ce altele adoptă un model de „justiție restaurativă” pentru a educa agresorii.

Organizațiile care lucrează cu tinerii subliniază nevoia urgentă de educație digitală reală.

„Aceste tehnologii sunt la îndemâna oricărui copil. Nu putem combate abuzul prin interdicții totale sau ignorând problema”, afirmă specialiștii.

Pentru directoarea care a sesizat incidentul din autobuz, singurul element pozitiv este că o altă elevă, instruită recent în cadrul orei de educație digitală, a recunoscut imediat ce se întâmpla și a cerut ajutor.

Vă mai recomandăm să citiți și:

ChatGPT, bombardat cu cereri de deepfake în timpul alegerilor din SUA! Câte a respins?

Mai mulți bărbați folosesc ChatGPT decât femei. De ce?

Cel mai nou tip de înșelătorie: O femeie i-a trimis bani unui „astronaut blocat în spațiu”

Furt masiv de videoclipuri de pe YouTube, pentru antrenarea Inteligenței Artificiale