Facebook a creat un sistem AI care poate identifica meme-uri ofensatoare, analizându-le precum o persoană reală

Descopera

Publicat: 13.09.2018

Sarcină dificilă pentru o reţea de socializare gigant, cum este Facebook, analizarea semnificaţiei fiecărei imagini postate de utilizatori pentru identificarea mesajelor potenţial ofensatoare apela până acum la vigilenţa utilizatorilor de bună credinţă dispuşi să le raporteze manual. Mai departe, o armată de moderatori trebuie să evalueze fiecare imagine raportată, decizând dacă aceasta încalcă sau nu regulile de postare ale reţelei de socializare. În cele mai multe cazuri, vor trece câteva zile până când un o imagine nepotrivită este eliminată în urma raportărilor primite.

Adaugă-ne ca sursă preferată în Google

Urmărește-ne in Discover

Facebook promite să rezolve această problemă cu ajutorul tehnologiilor de inteligenţă artificială. Sistemul numit Rosetta foloseşte tehnologii de învăţare pentru a identifica elemente text din imagini şi clipuri video, care sunt transcrise apoi în formă text obişnuită. Însă recunoaşterea textului din imagini nu este ceva nou. Sistemul Rosetta merge cu un pas mai departe, analizând conţinutul imaginii şi comparând-ul cu textul preluat, încercând să determine semnificaţia mesajului transmis, scrie go4it.

Deja funcţional, sistemul extrage conţinut text şi analizează peste 1 miliard de poze şi cadre video în fiecare zi, preluate din reţelele Facebook şi Instagram. Momentan, nu este clar la ce vor folosi administratorii Facebook toate datele colectate.

Funcţionând ca şi „experienţă” pentru sistemul AI, datele deja analizate pot ajuta o mai bună identificare a meme-urilor postate de utilizatori, sesizând mesaje subtile care altfel ar scăpa unei analize făcute strict după conţinut. O altă posibilitate este ca Facebook să încerce crearea unui rezumat mai sofisticat al utilizatorilor, care să includă subtilităţi cum ar fi trăsăturile de caracter şi interese mai puţin evidente după activităţile desfăşurate în mod uzual. La final, observaţiile se vor reflecta în conţinutul afişat în News Feed. Nu în ultimul rând, Facebook ar putea desluşi motivul pentru care anumite meme-uri sunt foarte populare: sunt pur şi simplu distractive sau transmit anumite mesaje ofensatoare care lezează imaginea sau interesele altor persoane.

Oficial, Facebook declară că noile filtre AI sunt folosite la identificarea automată a conţinutului încadrat la categoria Hate Speech, sistemul recunoscând deja conţinut în mai multe limbi.