Home » Știință » 40.000 de arme biologice ipotetice, generate în doar 6 ore de inteligența artificială

40.000 de arme biologice ipotetice, generate în doar 6 ore de inteligența artificială

Publicat: 01.04.2022

Capacitatea de calcul a Inteligenței Artificiale (AI) ajută la depistarea bolilor, gestionarea reacțiilor chimice și la explicarea unora dintre misterele universului. Însă aceasta poate face la fel de mult rău, după au arătat experții într-un experiment în care au generat arme biologice ipotetice.

Un test cu o Inteligență Artificială existentă a identificat în doar șase ore 40.000 de substanțe chimice care ar putea fi folosite la crearea de arme biologice ipotetice.

Cu alte cuvinte, în timp ce AI poate fi incredibil de puternică și mult mai rapidă decât oamenii, atunci când vine vorba de identificarea combinațiilor chimice și a compușilor de medicamente pentru a ne îmbunătăți sănătatea, aceeași putere poate fi folosită pentru a crea substanțe potențial foarte periculoase sau chiar mortale.

Aceste arme biologice ipotetice create de AI sunt o amenințare reală

„Am petrecut zeci de ani folosind computere și AI pentru a îmbunătăți sănătatea umană, nu pentru a o degrada”, scriu cercetătorii în studiul publicat în Nature Machine Intelligence.

„Am fost naivi când ne-am gândim la potențiala utilizare greșită a acestei invenții, deoarece scopul nostru a fost întotdeauna să evităm caracteristicile moleculare care ar putea interfera cu multe clase diferite de proteine esențiale vieții umane”, au adăugat cercetătorii.

Echipa a condus testul la o conferință internațională de securitate, punând în funcțiune un sistem AI numit MegaSyn, dar nu în modul său normal de funcționare, care este să detecteze toxicitatea în molecule pentru a le evita, ci l-au pus să facă opusul.

Cum a decurs experimentul?

În experiment, moleculele toxice au fost mai degrabă păstrate decât eliminate. În plus, modelul a fost antrenat pentru a face combinații între aceste molecule; așa au fost generate atât de multe arme biologice ipotetice într-un timp atât de scurt.

În special, cercetătorii au instruit AI cu molecule din bazele de date cu molecule asemănătoare medicamentelor, spunându-i computerului că ar dori ceva similar cu un anume agent VX, scrie Science Alert.

După cum s-a dovedit, mulți dintre compușii generați au fost chiar mai toxici decât VX. Drept urmare, autorii din spatele noului studiu păstrează unele dintre detaliile cercetării lor secrete și au dezbătut serios dacă să facă publice sau nu aceste rezultate.

„Prin inversarea utilizării modelelor noastre de învățare automată, ne-am transformat modelul generativ inofensiv dintr-un instrument util pentru medicină într-un generator de molecule probabil mortale”, explică cercetătorii.

Într-un interviu pentru The Verge, Fabio Urbina, autorul principal al noii lucrări și om de știință senior la Collaborations Pharmaceuticals, unde a avut loc cercetarea, a explicat că nu este nevoie de mult pentru a comuta Inteligența Artificială de la una bună la una rea.

Un semnal de alarmă

Deși niciuna dintre armele biologice enumerate nu a fost de fapt explorată sau creată într-un laborator, cercetătorii spun că experimentul lor servește ca un avertisment asupra pericolelor inteligenței artificiale și este un avertisment de care omenirea ar face bine să țină cont.

Deși este necesară o anumită experiență pentru a face ceea ce a făcut echipa în acest studiu, o mare parte a procesului este relativ simplă și utilizează instrumente disponibile public.

Cercetătorii cer acum o nouă abordare asupra modului în care sistemele de inteligență artificială ar putea fi utilizate în scopuri răuvoitoare. Ei spun că o mai mare conștientizare, orientări mai puternice și o reglementare mai strictă în comunitatea de cercetare ne-ar putea ajuta să evităm pericolele la care ar putea duce aceste capacități AI.

„Demonstrația noastră evidențiază astfel modul în care un creator autonom non-uman al unei arme chimice mortale este pe deplin fezabil”, explică cercetătorii.

„Fără a fi prea alarmist, acest lucru ar trebui să servească drept un semnal de alarmă pentru colegii noștri din comunitatea ‘AI în descoperirea medicamentelor‘”, au concluzionat aceștia.

Vă recomandăm să citiți și:

Textele antice incomplete ar putea fi reîntregite folosind inteligența artificială

Ce spun porcii atunci când grohăie? Inteligența artificială ne-ar putea răspunde

Un sistem de monitorizare a transmiterii bolilor, bazat pe Inteligență Artificială, a fost creat de cercetători

O mișcare turbulentă misterioasă în atmosfera Soarelui, dezvăluită de inteligența artificială

Ștefan Trepăduș
Ștefan Trepăduș
Ștefan Trepăduș este blogger începând cu anul 2009, având experiență și în domeniile publicitate și jurnalism. Este pasionat de marketing și de tehnologie, dar cel mai mult îi place să știe lucruri, motiv pentru care a fost atras de Descopera.ro. citește mai mult
Urmărește DESCOPERĂ.ro pe
Google News și Google Showcase
Cele mai noi articole
Ce măsuri au fost luate în București pe timp de caniculă?
Ce măsuri au fost luate în București pe timp de caniculă?
Cum vor marile studiouri de film să aducă din nou oamenii în cinematografe?
Cum vor marile studiouri de film să aducă din nou oamenii în cinematografe?
NATO speră la „flexibilitate” din partea SUA: „Trebuie să ne asigurăm, de asemenea, că Ucraina poate merge mai departe”
NATO speră la „flexibilitate” din partea SUA: „Trebuie să ne asigurăm, de asemenea, că Ucraina poate merge mai departe”
Ozzy Osbourne și-a luat rămas-bun de la fani în orașul unde și-a început cariera muzicală
Ozzy Osbourne și-a luat rămas-bun de la fani în orașul unde și-a început cariera muzicală
Ce pasăre din zilele noastre s-a dovedit a fi rudă cu o fosilă veche de 19 milioane de ani
Ce pasăre din zilele noastre s-a dovedit a fi rudă cu o fosilă veche de 19 milioane de ani
Niveluri „astronomice” de proteine asociate cu Alzheimer au fost descoperite la nou-născuți
Niveluri „astronomice” de proteine asociate cu Alzheimer au fost descoperite la nou-născuți
Puii de cimpanzeu supraviețuiesc atunci când mamele lor au conexiuni sociale
Puii de cimpanzeu supraviețuiesc atunci când mamele lor au conexiuni sociale
Criptă funerară, sigilată de 400 de ani, descoperită de arheologi într-o biserică din Franța
Criptă funerară, sigilată de 400 de ani, descoperită de arheologi într-o biserică din Franța
Van Gogh și ce reprezintă, de fapt, tablourile lui cu floarea-soarelui
Van Gogh și ce reprezintă, de fapt, tablourile lui cu floarea-soarelui
Primul film de animație din lume a fost realizat în Argentina, nu de Disney. Cum a creat Quirino Cristiani „El Apóstol” în 1917, două decenii înainte de „Albă ca Zăpada”
Primul film de animație din lume a fost realizat în Argentina, nu de Disney. Cum a creat Quirino Cristiani „El Apóstol” ...
Boala Parkinson s-ar putea să nu înceapă în creier, arată un studiu
Boala Parkinson s-ar putea să nu înceapă în creier, arată un studiu
Microbii intestinali ne-ar putea proteja de „chimicalele veșnice”
Microbii intestinali ne-ar putea proteja de „chimicalele veșnice”
Descoperire neașteptată despre femeile din Neolitic. Ce a confirmat ADN-ul antic?
Descoperire neașteptată despre femeile din Neolitic. Ce a confirmat ADN-ul antic?
Observații radio fără precedent dezvăluie noi detalii despre Roiul Pandora
Observații radio fără precedent dezvăluie noi detalii despre Roiul Pandora
Descoperire „neobișnuită” la un sit roman antic din Anglia
Descoperire „neobișnuită” la un sit roman antic din Anglia
Un copil de 14 ani, inclus pe lista teroriștilor în Rusia. „Este cel mai tânăr membru”
Un copil de 14 ani, inclus pe lista teroriștilor în Rusia. „Este cel mai tânăr membru”
Proiect feroviar comun Republica Moldova – România pe bani europeni
Proiect feroviar comun Republica Moldova – România pe bani europeni
Ziua în care un savant francez a realizat primul vaccin antirabic din lume
Ziua în care un savant francez a realizat primul vaccin antirabic din lume