Cum ne dereglează Inteligența Artificială relațiile cu alți oameni?

Adaugă descoperă.ro ca sursă preferată în Google

Un nou studiu sugerează că răspunsurile sistemelor de inteligență artificială ar putea deregla modul în care oamenii gestionează dilemele sociale și conflictele interpersonale.

Oamenii de știință au descoperit că, atunci când chatboturile AI au fost folosite pentru sfaturi în dileme interpersonale, acestea au tins să valideze perspectiva utilizatorului mult mai frecvent decât ar face-o un om și chiar au aprobat comportamente problematice.

• Una din cinci persoane prezintă risc cardiac ascuns, avertizează un nou studiu
• Telescopul Spațial James Webb a dezvăluit cea mai clară hartă cu rețeaua cosmică

În studiul publicat în jurnalul Science, cercetătorii au observat că acest comportament linguşitor i-a determinat pe utilizatori să considere răspunsurile AI ca fiind demne de încredere și, prin urmare, să revină la pentru viitoare întrebări de ordin interpersonal.

„În mod implicit, sfaturile oferite de AI nu le spun oamenilor că greșesc și nici nu le oferă o abordare mai dură, dar onestă”, a declarat Myra Cheng, doctorandă în informatică la Stanford și autor principal al studiului. „Mă tem că oamenii își vor pierde abilitățile de a face față situațiilor sociale dificile.”

Cercetarea lui Cheng a fost impulsionată după ce a aflat că studenții foloseau AI pentru a rezolva probleme de cuplu și pentru a redacta mesaje de despărțire, scrie LiveScience.

Implicații asupra interacțiunilor noastre sociale

În timp ce AI este exagerat de aprobatoare atunci când gestionează întrebări bazate pe fapte, doar câteva studii au explorat modul în care modelele de limbaj mari (LLM) care alimentează sistemele pot judeca dilemele sociale.

De exemplu, Lucy Osler, lector în filozofie la Universitatea din Exeter, a publicat recent o cercetare care sugerează că inteligența artificială poate amplifica narațiunile false și iluziile din mintea unui utilizator.

Cheng și echipa sa au evaluat 11 modele LLM, inclusiv Claude, ChatGPT și Gemini, interogându-le cu seturi de date consacrate de sfaturi interpersonale. În plus, au prezentat modelelor afirmații care includeau mii de acțiuni dăunătoare, încorporând conduite ilegale și comportamente înșelătoare.

Cercetarea a descoperit că modelele au validat utilizatorul cu 49% mai des decât au făcut-o oamenii, în medie. Mai mult, LLM-urile au susținut comportamentul problematic în solicitările dăunătoare în 47% din cazuri.

Un comportament problematic

Participanții au considerat răspunsurile aprobatoare ca fiind mai demne de încredere, ceea ce le-a întărit punctele de vedere și i-a făcut mai predispuși să o folosească din nou.

Cercetătorii au sugerat că astfel de preferințe ar putea însemna că dezvoltatorii nu vor fi motivați să reducă comportamentul linguşitor, ducând la o buclă de feedback în care interacțiunea cu modelele AI și antrenarea lor ar putea consolida această atitudine.

Un motiv citat de cercetători a fost faptul că inteligențele artificiale rareori le spuneau utilizatorilor direct că „au dreptate”. În schimb, foloseau un limbaj neutru și academic pentru a le valida indirect poziția.

Practic, cercetarea a descoperit că, în chestiuni interpersonale, LLM-urile le spuneau oamenilor ceea ce voiau să audă, nu ceea ce aveau nevoie să audă. Odată cu creșterea utilizării AI prin chatboturi și rezumate integrate în căutările Google, există îngrijorarea că sfaturile interpersonale oferite ar putea deforma capacitatea oamenilor de creștere morală și responsabilitate, îngustându-le totodată perspectivele.

Vă mai recomandăm să citiți și:

Șeful Meta va avea în curând propria clonă digitală bazată pe Inteligență Artificială

Cum ne poate „strica” Inteligența Artificială relațiile personale și profesionale?

Noul decalaj digital din familie. Copiii folosesc Inteligența Artificială zilnic, dar părinții nu știu

Primele medicamente proiectate cu Inteligența Artificială de la zero intră în teste pe oameni