O problemă majoră, depistată la sistemele de supraveghere cu AI

În prezent, sistemele de supraveghere bazate pe Inteligență Artificială sunt peste tot. Ele monitorizează traficul rutier, urmăresc cumpărăturile din supermarketuri și ajung chiar să supravegheze băile din școli. Însă există o problemă majoră la sistemele de supraveghere cu AI.

Sistemele de supraveghere cu AI vin cu un cost serios: sunt prea eficiente în a semnala comportamente suspecte, ceea ce duce la un număr alarmant de arestări.

• Vocea interioară: ce spun studiile despre autocritica care ne sabotează?
• Femeile sunt mai intuitive decât bărbații? Ce spun studiile despre cum citim emoțiile

O investigație recentă realizată de Milwaukee Independent arată că școlile care folosesc sisteme de supraveghere pentru a monitoriza conversațiile online legate de violență înregistrează un număr uriaș de alerte pozitive. Multe dintre ele nu reprezintă amenințări reale, dar pot duce la arestări.

Într-un district școlar din Lawrence, Kansas, de exemplu, un instrument de monitorizare a siguranței online numit Gaggle a semnalat peste 1.200 de incidente online într-un interval de zece luni. Totuși, două treimi dintre aceste alerte s-au dovedit a fi neproblematice.

Sistemele de supraveghere cu AI duc la numeroase arestări pe nedrept

Deși multe alerte false pot fi ignorate, în statele cu legi de raportare cu toleranță zero, precum Tennessee sau Florida, școlile sunt obligate să informeze autoritățile ori de câte ori un elev face aluzii la violență, indiferent de context.

În districtul școlar Polk County din Florida, unde Gaggle a semnalat aproximativ 500 de elevi pe parcursul a patru ani, acest lucru a dus la arestarea a cel puțin 72 de copii în baza Baker Act. „Un număr foarte mare de copii care trec printr-o evaluare involuntară își amintesc experiența ca fiind extrem de traumatizantă și dăunătoare, nu ca pe ceva care să-i ajute în îngrijirea sănătății mintale”, a declarat Sam Boyd, avocat al Southern Poverty Law Center, pentru publicația Independent.

Mulți dintre acești elevi nici măcar nu știu că e-mailurile, conversațiile online sau căutările pe Google realizate pe echipamentele școlii sunt monitorizate, darămite că ar fi făcut ceva greșit. Lesley Mathis, o mamă din Tennessee, a povestit că fiica ei, elevă în clasa a opta, a fost arestată, interogată, percheziționată și ținută peste noapte în detenție din cauza unor tachinări online.

Ce le lipsește acestor sisteme de supraveghere? Contextul!

Concret, prietenii o ironizaseră din cauza aspectului ei „mexican”, deși ea are o altă origine. „Joi îi omorâm pe toți mexicanii (sic)”, a replicat fata. Comentariile sunt, evident, deplasate, dar este clar vorba despre o ieșire imatură specifică vârstei, nu despre o amenințare reală. „M-a făcut să mă întreb dacă asta e America în care trăim. Și totul din cauza acestei tehnologii stupide, care adună cuvinte la întâmplare fără să țină cont de context”, a spus Mathis.

În Statele Unite, studiile arată că tinerii care ajung în detenție juvenilă, chiar și pentru perioade scurte, au rezultate mai slabe în viața adultă comparativ cu cei care nu trec prin astfel de experiențe. Acestea includ rate mai mari de încarcerare, șanse mai mici de angajare cu normă întreagă și o stare de sănătate mai precară, scrie Futurism.

Cu toate acestea, unii administratori școlari consideră că riscul este acceptabil, deși există puține dovezi că tehnologia de supraveghere reduce efectiv violența în școlile americane. Așa cum a declarat Anne Costello, membră a consiliului școlar din Lawrence, într-o ședință din 2024: „Uneori trebuie să accepți un compromis de dragul binelui general.”

Vă recomandăm să citiți și:

Test de cultură generală. Cât timp ar dura să zbori în jurul lumii?

Chiar și 10 minute de exerciții fizice ar putea combate cancerul, relevă un studiu

De ce dormitul mai mult în weekend poate fi sănătos?

De ce oamenii care sforăie nu se trezesc din cauza propriului zgomot?