Iată cum Inteligența Artificială ar putea distruge anonimitatea online

Internetul este plin de conturi anonime, deoarece mulți utilizatori aleg să folosească pseudonime. Uneori o fac din motive legitime, cum ar fi dorința de a se exprima liber, iar alteori din intenții mai puțin oneste. Totuși, această epocă a anonimatului online ar putea să se apropie de sfârșit. Iată cum Inteligența Artificială ar putea distruge anonimitatea online!

Iată cum Inteligența Artificială ar putea distruge anonimitatea online: într-un nou studiu, cercetătorii arată că modelele lingvistice de mari dimensiuni (LLM) pot identifica, la scară largă, persoanele aflate în spatele acestor conturi.

• Ce s-a întâmplat după ce oamenii de știință au făcut agenții AI mai nepoliticoși?
• De ce încearcă cercetătorii să simuleze efectul substanțelor psihedelice asupra Inteligenței Artificiale?

Studiul apare pe serverul de preprinturi arXiv.

Inteligența Artificială ar putea distruge anonimitatea online. Dar cum?

Mult timp s-a crezut că chiar dacă deanonimizarea ar fi posibilă din punct de vedere teoretic, procesul ar fi prea dificil, consumator de timp și costisitor pentru a fi aplicat în practică. Autorii studiului au suspectat însă că LLM-urile au devenit suficient de puternice pentru a sparge această „invizibilitate” online.

Pentru a verifica ipoteza, echipa a creat un sistem automat care imită modul în care ar gândi un investigator uman. Mai întâi, AI-ul analizează istoricul postărilor unui utilizator de pe platforme precum Reddit sau Hacker News, examinând text neorganizat. Acesta include informații brute și variate: comentarii, glume, detalii despre educație sau mici particularități de stil. Apoi, aceste fragmente de micro-date sunt transformate într-o reprezentare matematică a profilului persoanei, folosită pentru a căuta potriviri posibile printre milioane de alte profiluri disponibile pe internet sau pe platforme separate, precum LinkedIn.

După ce identifică potențiale corespondențe, sistemul evaluează dovezile care ar indica faptul că două profiluri îi aparțin aceleiași persoane. În final, îi atribuie fiecărei potriviri un scor de încredere. Dacă modelul nu este suficient de sigur de rezultat, nu formulează nicio concluzie, pentru a evita presupunerile hazardate.

Cât de precis este noul algoritm?

Cercetătorii au testat acest cadru pe aproape 1.000 de profiluri LinkedIn pentru a vedea dacă pot fi asociate cu conturi de pe Hacker News. Identitatea reală a persoanelor era cunoscută de echipă, însă numele, linkurile și alte indicii evidente au fost eliminate din biografii. Sistemul bazat pe AI a reușit să conecteze conturile cu o acuratețe de până la 67%, la o precizie de 90%, în timp ce cele mai bune metode fără AI au avut rezultate mult mai slabe.

În plus, sistemul a putut identifica aceleași persoane și în diferite comunități de pe Reddit, chiar și atunci când acestea foloseau conturi diferite sau activitatea era distribuită în perioade distincte. Cercetătorii au descoperit și că procesul este relativ ieftin: identificarea unui utilizator costă doar între 1 și 4 dolari în putere de calcul pentru fiecare cont corelat cu succes, notează TechXplore.

„Obscuritatea practică ce i-a protejat mult timp pe utilizatorii cu pseudonime nu mai este valabilă. Pseudonimia nu oferă o protecție reală online. Utilizatorii care postează sub nume de utilizator persistente ar trebui să presupună că adversarii pot lega conturile lor de identități reale sau între ele, iar probabilitatea crește cu fiecare fragment de micro-date pe care utilizatorii îl publică”, au scris cercetătorii în lucrare.

Rezultatele sugerează că dacă va fi dezvoltat în continuare, acest tip de sistem ar putea avea numeroase aplicații, inclusiv în domenii precum aplicarea legii și securitatea cibernetică.

Vă recomandăm să citiți și:

Ce s-a întâmplat după ce oamenii de știință au făcut agenții AI mai nepoliticoși?

De ce încearcă cercetătorii să simuleze efectul substanțelor psihedelice asupra Inteligenței Artificiale?

Agenții AI sunt matematic incapabili să efectueze o muncă funcțională

Cercetătorii au descoperit că Inteligența Artificială învață mai bine atunci când „vorbește” cu ea însăși