Inteligența Artificială de la Google arată milioane de răspunsuri greșite în fiecare oră

Pe lângă halucinații, consumul uriaș de energie și posibilele efecte negative asupra sănătății mintale, Inteligența Artificială (AI) generativă încă are o problemă serioasă: acuratețea. Cu toate acestea, companiile mari de tehnologie precum Google continuă să lanseze funcții precum rezumatele generate de AI în motorul de căutare. La prima vedere, prezentările AI ale căutărilor Google par în regulă și includ, de obicei, mai multe surse citate, dar asta nu înseamnă că sistemul funcționează perfect.

Un studiu recent, citat de The New York Times, arată că funcția „AI Overview” (prezentările AI ale căutărilor Google) oferă răspunsuri corecte și bazate pe surse credibile în 9 din 10 cazuri. Deși 90% pare un rezultat bun, rata de eroare devine semnificativă în practică. Având în vedere că Google ar putea procesa peste cinci trilioane de căutări până la finalul anului 2026, asta înseamnă zeci de milioane de răspunsuri discutabile în fiecare oră și sute de mii de erori în fiecare minut.

Mai mult, acuratețea este greu de evaluat în mod constant. Un răspuns greșit poate deveni corect dacă aceeași căutare este repetată, ceea ce face ca sistemul să fie imprevizibil. În plus, faptul că AI Overview este afișat în partea de sus a paginii de rezultate îi determină pe mulți utilizatori să aibă încredere în el.

De ce prezentările AI ale căutărilor Google au atât de multe erori?

O parte din problemă ține de sursele folosite. Cercetătorii de la Oumi au descoperit că platforme precum Facebook și Reddit sunt citate frecvent. Răspunsurile corecte includeau Facebook în 5% dintre cazuri, iar cele greșite în 7%. În alte situații, AI-ul citează surse credibile, dar le interpretează eronat.

Există și riscul manipulării intenționate. Persoanele care înțeleg vulnerabilitățile sistemului ar putea crea conținut fals și să îi crească artificial vizibilitatea. Astfel, AI-ul ar putea prelua aceste informații fără să detecteze erorile și, astfel, să genereze răspunsuri incorecte. Un reprezentant Google a declarat că sistemele lor folosesc aceleași mecanisme de filtrare ca motorul de căutare și că multe exemple problematice provin din interogări nerealiste, scrie PopularScience.

Ce este de făcut?

Chiar și așa, este important ca astfel de instrumente să fie privite cu scepticism. O eroare la fiecare zece răspunsuri poate părea minoră, dar devine relevantă dacă ne gândim la câte căutări facem zilnic. În plus, studiile sugerează că dependența excesivă de astfel de tehnologii poate afecta capacitățile cognitive.

Poate cea mai sigură recomandare rămâne chiar avertismentul afișat de sistem: „AI-ul poate greși, așa că verifică informațiile!”

Vă recomandăm să citiți și:

Paradoxul Inteligenței Artificiale: dacă îi ceri să se comporte ca un expert, o poți face mai puțin precisă

Iată cum Inteligența Artificială ar putea distruge anonimitatea online

Ce s-a întâmplat după ce oamenii de știință au făcut agenții AI mai nepoliticoși?

De ce încearcă cercetătorii să simuleze efectul substanțelor psihedelice asupra Inteligenței Artificiale?