Home » D:News » Un instrument bazat pe Inteligență Artificială inventează texte și tratamente medicale false

Un instrument bazat pe Inteligență Artificială inventează texte și tratamente medicale false

Un instrument bazat pe Inteligență Artificială inventează texte și tratamente medicale false
Sursa foto: Shutterstock
Publicat: 29.10.2024

Gigantul tehnologic OpenAI, care deține ChatGPT, și-a prezentat recent noul instrument de transcriere, Whisper, bazat tot pe inteligență artificială. Whisper are însă un defect major: este predispus să inventeze bucăți de text sau chiar propoziții întregi, potrivit cercetătorilor, citați de Reuters.

OpenAI și-a prezentat instrumentul ca având o „ soliditate și o acuratețe apropiată de nivelul uman”. Totuși, Whisper este predispus să inventeze bucăți de text sau chiar propoziții întregi, conform interviurilor cu peste 10 ingineri de software, dezvoltatori și cercetători universitari.

Acești experți au declarat că unele dintre textele inventate – cunoscute în industrie drept halucinații – includ comentarii rasiale, retorică violentă și chiar tratamente medicale imaginare.

Astfel de greșeli ar putea avea „consecințe foarte grave”

Experții au declarat că astfel de invenții sunt problematice, deoarece Whisper este utilizat într-o serie de industrii din întreaga lume pentru a traduce și transcrie interviuri, a genera texte și a crea subtitrări pentru videoclipuri.

Ei au mai declarat că și mai îngrijorătoare este graba centrelor medicale de a utiliza Whisper pentru a transcrie consultațiile pacienților cu medicii, în ciuda avertismentelor OpenAI, care a spus că instrumentul nu ar trebui utilizat în „domenii cu risc ridicat”.

Astfel de greșeli ar putea avea „consecințe foarte grave”, în special în mediul spitalicesc, a declarat Alondra Nelson, care a condus Biroul de politici științifice și tehnologice al Casei Albe pentru administrația Biden, până anul trecut.

„Nimeni nu își dorește un diagnostic greșit”, a adăugat Nelson. „Ar trebui să existe un standard mai ridicat”.

Whisper este, de asemenea, utilizat pentru a crea subtitrări pentru persoanele surde și cu deficiențe de auz – o populație expusă unui risc deosebit de transcrieri greșite.

Peste 30.000 de medici și 40 de sisteme de sănătate, inclusiv Clinica Mankato din Minnesota și Spitalul de Copii din Los Angeles, au început să folosească Whisper.

Urmărește DESCOPERĂ.ro pe
Google News și Google Showcase
Cele mai noi articole
China este pregătită să elimine complet tarifele la importurile din Africa
China este pregătită să elimine complet tarifele la importurile din Africa
Arnold Schwarzenegger critică politicienii în contextul protestelor din Los Angeles
Arnold Schwarzenegger critică politicienii în contextul protestelor din Los Angeles
Cine sunt marile personalități care și-au pierdut viața în accidente de avion
Cine sunt marile personalități care și-au pierdut viața în accidente de avion
David Warren, inventatorul cutiei negre
David Warren, inventatorul cutiei negre
Cel mai mortal accident aviatic din toate timpurile. Dezastrul din Tenerife (27 martie 1977)
Cel mai mortal accident aviatic din toate timpurile. Dezastrul din Tenerife (27 martie 1977)
„REGINA ATLETISMULUI” din anii ’80, DOINA MELINTE, mărturii dureroase, EXCLUSIV „Altceva cu Adrian Artene”
„REGINA ATLETISMULUI” din anii ’80, DOINA MELINTE, mărturii dureroase, EXCLUSIV „Altceva cu Adrian Artene”
Vantablack, „cel mai negru negru”, ar putea salva astronomia
Vantablack, „cel mai negru negru”, ar putea salva astronomia
Suntem tot mai aproape să decodăm limbajul animalelor. Ce se întâmplă când le vom înțelege?
Suntem tot mai aproape să decodăm limbajul animalelor. Ce se întâmplă când le vom înțelege?
Dinți vechi de 8.000 de ani dovedesc că porcii au fost domesticiți din mistreți în sudul Chinei
Dinți vechi de 8.000 de ani dovedesc că porcii au fost domesticiți din mistreți în sudul Chinei
Un studiu aduce vești bune: Riscul de demență scade în rândul generațiilor mai tinere
Un studiu aduce vești bune: Riscul de demență scade în rândul generațiilor mai tinere
Cercetătorii chinezi au reușit un progres major cu ajutorul unui mineral rar
Cercetătorii chinezi au reușit un progres major cu ajutorul unui mineral rar
Confirmat științific: animalele adorabile chiar fac Internetul un loc mai bun
Confirmat științific: animalele adorabile chiar fac Internetul un loc mai bun
Trăsăturile de personalitate ale influencerilor. De ce aleg tinerii această carieră?
Trăsăturile de personalitate ale influencerilor. De ce aleg tinerii această carieră?
Test de cultură generală. Care este diferența dintre stat, națiune și țară?
Test de cultură generală. Care este diferența dintre stat, națiune și țară?
Pentru prima dată în istorie, oamenii au fotografiat polii Soarelui
Pentru prima dată în istorie, oamenii au fotografiat polii Soarelui
Tot mai mulți pacienți cu cancer refuză tratamente salvatoare în favoarea „leacurilor naturiste” de pe Internet
Tot mai mulți pacienți cu cancer refuză tratamente salvatoare în favoarea „leacurilor naturiste” de pe Internet
Marea dezinformare de pe TikTok: peste jumătate dintre sfaturile de sănătate mintală sunt eronate
Marea dezinformare de pe TikTok: peste jumătate dintre sfaturile de sănătate mintală sunt eronate
Țara în care supraviețuirea în fața cancerului s-a dublat din anii ’70 și până acum
Țara în care supraviețuirea în fața cancerului s-a dublat din anii ’70 și până acum