Prípad úmrtia ruskej laborantky vyvolal špekulácie o biologických zbraniach. AI by mohla ich vývoj uľahčiť, varujú experti
Po smrti laborantky v ruskom ústave na výskum moru sa na Západe objavujú špekulácie o biologických zbraniach. Analýzy ukazujú, že masový vývoj zbraní zostáva v rukách štátov, zatiaľ čo umelá inteligencia môže uľahčiť výrobu látok použitých pri menších útokoch.
Špekulácie o nákaze morom
Odkedy sa na verejnosť dostala informácia, že 28-ročná ruská laborantka Daria Šipilovová 2. októbra zomrela v nemocnici v Šelechove pri Irkutsku, v západných médiách sa ozývajú špekulácie, že podľahla baktérii moru, keďže pracovala v ústave na výskum moru v Irkutsku na Sibíri. Odvtedy sa v médiách opakovane objavuje podozrenie, že v Rusku prebieha výskum biologických zbraní.
Moskva tieto dohady odmietla. Štátna ruská tlačová agentúra TASS 4. októbra informovala, že národný úrad na ochranu spotrebiteľov a zdravia Rospotrebnadzor vyhlásil, že u zosnulej laborantky sa nenašli žiadne mikroorganizmy súvisiace s jej profesijnou činnosťou. V správe TASS sa uvádza, že jej skôr diagnostikovali „zápal pľúc neznámej etiológie“.
Keďže zosnulá pracovala vo výskumnom ústave zameranom na mor, na Západe sa rozšíril predpoklad, že mohlo v skutočnosti ísť o pľúcny mor spôsobený baktériou Yersinia pestis. Ide o najnákazlivejšiu formu moru, ktorá sa šíri kvapôčkovou infekciou.
Svetová zdravotnícka organizácia (WHO) požiadala Rusko o ďalšie informácie o tomto prípade aj o druhom pacientovi so zápalom pľúc nejasného pôvodu. Ruské úrady tvrdia, že mor sa nepotvrdil u žiadnej z kontaktných osôb zosnulej laborantky. Približne 90 percent z pôvodne asi 200 osôb umiestnených do karantény po takmer 5 000 laboratórnych testoch prepustili bez toho, aby sa našli nebezpečné patogény. Riziko epidémie podľa úradov neexistuje.
Telefonát medzi Trumpom a Putinom vysvetlenie nepriniesol
Americký prezident Donald Trump 6. októbra oznámil, že sa dohodol na telefonáte s ruským prezidentom Vladimirom Putinom, aby prebrali možný prípad moru v ruskom výskumnom ústave. O deň neskôr sa ho novinári v Oválnej pracovni pýtali, či by mohlo ísť o ruskú „biologickú zbraň“. Trump odpovedal: „To si nemyslíme. Zistíme to dostatočne skoro, ale nemyslíme si to.“
Dňa 9. októbra sa uskutočnil telefonický rozhovor Trumpa s Putinom. Po ňom však americký prezident oznámil iba to, že vyrokoval dodávku vyše 300 000 ton nafty z Ruska. O objasnení úmrtia vo výskumnom ústave už nebola reč, ako poznamenala tlačová agentúra AP v správe, ktorú zverejnil portál PBS News.
Je možné, že príčina smrti zostane neobjasnená podobne ako pôvod koronavírusu SARS-CoV-2, ktorý u človeka prvýkrát potvrdili koncom roka 2019 v čínskom meste Wu-chan a ktorý vyvolal celosvetovú pandémiu covidu-19. Americká zahraničná spravodajská služba pod vedením riaditeľa CIA Johna Ratcliffa zmenila svoje hodnotenie a za pravdepodobnejšie vysvetlenie považuje laboratórnu nehodu vo Wu-chane, ktorú Čínska ľudová republika odmieta priznať. Rovnako ako v ruskom Irkutsku, aj vo Wu-chane sídlil výskumný ústav – v tomto prípade zameraný na virológiu.
Chýbajúce kontrolné mechanizmy
Hoci dohodu proti výrobe biologických zbraní podpísali takmer všetky štáty sveta, existuje výskum, ktorý sa pohybuje vo vedeckej a právnej sivej zóne alebo oficiálne slúži na obranné účely.
Švajčiarske federálne ministerstvo zahraničných vecí (EDA) 14. augusta v príspevku o biologických zbraniach na svojej webovej stránke poukázalo na tento problém: Dohovor o biologických zbraniach nemá organizáciu zodpovednú za jeho presadzovanie ani „právne záväzný verifikačný systém na monitorovanie dodržiavania zmluvných ustanovení“.
Ďalšími zásadnými výzvami sú rýchly pokrok v biotechnológiách a charakter dvojakého použitia v biologických vedách. To znamená, že výsledky výskumu sa dajú využiť na civilné, ale aj vojenské účely pri výrobe biologických zbraní.
EDA konštatuje: „Vzhľadom na tieto riziká, ako aj na hrozbu, ktorú predstavujú biologické látky a neštátne skupiny, je absencia účinných verifikačných opatrení trvalým problémom, ktorý vytvára neistotu a nedôveru.“
AI by mohla vývoj biologických zbraní uľahčiť
Experti okrem toho tvrdia, že umelá inteligencia by mohla uľahčiť vývoj biologických zbraní a obísť existujúce bezpečnostné a kontrolné mechanizmy. Jedným z nich je biológ Harald König z Technologického inštitútu v Karlsruhe. Vedie príslušný projekt na odbore pre posudzovanie technológií pri Nemeckom spolkovom sneme (TAB). Pracovisko podľa vlastných vyjadrení poskytuje parlamentu poradenstvo v otázkach vedecko-technického vývoja.
König a jeho spoluautor Arnold Sauter vo svojej záverečnej správe pre nemecký Spolkový snem o rizikách biotechnológií a AI, ktorú výbor pre výskum schválil 8. júla, uvádzajú: „Rýchly pokrok v analýze a syntéze genetického materiálu (DNA), ako aj pri cielenej zmene génov v najrôznejších organizmoch pomocou techník úpravy genómu za posledných 10 až 15 rokov zjednodušil a výrazne rozšíril možnosti výskumu a úpravy biologických systémov či organizmov.“ Čoraz dôležitejším nástrojom sú pritom počítačovo podporované postupy analýzy a navrhovania.
Rastúce možnosti syntetickej biológie, ktoré ďalej rozširuje spájanie AI a biotechnológií (AIxBio), vyvolali podľa dokumentu odbornú diskusiu o bezpečnosti. Tá sa zameriava najmä na riziko zneužitia týchto metód pri výrobe biologických zbraní.
Existujú obavy, že nové možnosti AIxBio by mohli výrazne znížiť prekážky brániace ich zneužitiu a zjednodušiť vývoj nebezpečnejších alebo nových biologických prostriedkov. Experti sa obávajú aj toho, že by sa mohla znížiť alebo obísť účinnosť opatrení na zaistenie biologickej bezpečnosti a obrany.
Rozsiahle operácie zostávajú v rukách štátu – menšie útoky sú čoraz predstaviteľnejšie
Analýza ukazuje, že hrozby spojené s komplexnými systémami biologických zbraní budú aj naďalej pochádzať najmä od štátov alebo nimi podporovaných skupín, pretože hromadná výroba a technológia aplikácie sú od nových možností AI do značnej miery nezávislé. Pri neštátnych aktéroch sú pravdepodobnejšie technicky jednoduchšie útoky s malými množstvami – podobne ako v roku 1984 pri otrave salmonelou v amerických reštauráciách alebo v roku 2001 pri rozosielaní listov s antraxom.
Tu by mohla zohrať úlohu umelá inteligencia, napríklad pri získavaní poznatkov o výrobe takýchto látok. Testy ukazujú, že jazykové modely môžu zlepšiť výkon ľudí s malými skúsenosťami v biológii pri odpovediach na odborné otázky, čiastočne až na úroveň expertov alebo dokonca nad ňu. Či sa však tieto vedomosti dajú uplatniť v praxi, správa neuvádza.
Dokument okrem toho poukazuje na komerčné automatizované laboratórne platformy prístupné cez internet: „Zariadenia ako Cloud Labs už dnes umožňujú vyhnúť sa (aspoň čiastočne) samostatnej laboratórnej práci pri výrobe biologických látok.“
Na efektívne využitie takýchto laboratórií je síce stále potrebná špecifická znalosť používaných látok a metodických postupov, ako aj samotných procesov Cloud Lab. Nedá sa však vylúčiť, že tieto nároky v budúcnosti klesnú, napríklad vďaka umelej inteligencii, ktorá by mohla uľahčiť programovanie experimentov.
Správa Anthropic o zneužití AI na biologické účely
Spoločnosť Anthropic so sídlom v San Franciscu zverejnila začiatkom septembra na svojej webovej stránke správu venovanú tejto téme. Jej bezpečnostný tím uviedol, že odhalil a zablokoval prípady „zneužitia AI na biologické účely“. Anthropic vo svojej správe uvádza: „Zneužitie biologických prostriedkov je jedným z najzávažnejších rizík AI modelov najnovšej generácie. Dlhodobo existujú obavy, že AI modely by raz mohli dosiahnuť výkon, ktorý by im umožnil spraviť z existujúcich patogénov ešte väčšiu hrozbu – alebo vytvoriť úplne nové. Bez vhodných bezpečnostných opatrení by takéto schopnosti mohli mať katastrofálne následky.“
Anthropic uvádza päť prípadov, v ktorých AI využili na výskum smerujúci k vývoju biologických zbraní. Pri výskume, ktorý môže slúžiť na medicínske aj vojenské účely, je však ťažké nakresliť jasnú hranicu medzi neškodnými a zlomyseľnými úmyslami, vysvetľuje spoločnosť.
Správa konkrétne spomína zablokovaný pokus napísať pomocou modelu Claude žiadosť o grant na výskum typu gain-of-function na víruse chikungunya. Práca bola zameraná na nájdenie mutácií, ktoré zvyšujú prenositeľnosť pôvodcu a jeho schopnosť obísť imunitný systém.
Žiadosť podľa uvedených údajov pochádzala z vojenského výskumného ústavu. Takéto metódy sa v laboratóriách bežne používajú pri vývoji liekov, môžu sa však zneužiť aj pri vývoji biologických zbraní.
V druhom prípade výskumník mimo USA niekoľko týždňov robil s modelom Claude experimenty s vysokopatogénnou vtáčou chrípkou. Ich cieľom bolo prispôsobiť vírus cicavcom a umožniť jeho prenos vzduchom. Anthropic konštatuje, že hoci takýto výskum môže slúžiť na prevenciu, rovnako sa môže využiť aj pri výrobe biologických zbraní.
Článok bol preložený z nemeckej edície Epoch Times.
Trénujte si mozog s našimi hrami! Sudoku, šachové úlohy, hľadanie rozdielov, solitaire HRAŤ ▶Diskusia
Komentáre sú verejné. Zverejňujeme príspevky, ktoré dodržiavajú pravidlá diskusie.
Na pridanie komentára sa alebo si .
