Umelá inteligencia mala pomáhať medicíne, urýchľovať vývoj liekov a zachraňovať životy. Čoraz viac vedcov však upozorňuje aj na jej temnejšiu stránku. Najnovšie obavy vyvolali správy o tom, že AI už dnes dokáže navrhovať nebezpečné toxíny, upravovať vírusy a potenciálne pomáhať pri vývoji biologických zbraní.

O rastúcom znepokojení v odbornej komunite informoval prestížny vedecký časopis Nature. Vedci upozorňujú, že nástroje umelej inteligencie používané v molekulárnej biológii sa vyvíjajú extrémne rýchlo a niektoré z nich by mohli byť v nesprávnych rukách zneužité na vytváranie nebezpečných látok či dokonca nových patogénov.

Najväčší rozruch momentálne vyvoláva vývoj v Číne.

Čínski vedci vytvorili AI na navrhovanie smrtiacich toxínov

Umelá inteligencia je čoraz častejšie označovaná za dvojsečný meč. Na jednej strane prináša obrovský pokrok v medicíne, genetike a biologickom výskume, no zároveň otvára dvere technológiám, ktoré môžu byť mimoriadne nebezpečné.

Podľa informácií zverejnených v Nature vyvinul tím z univerzity v čínskom Čchung-čchingu nástroj umelej inteligencie určený na navrhovanie takzvaných konotoxínov. Ide o extrémne nebezpečné bielkoviny produkované morskými slimákmi z rodu kužeľoviek.

Niektoré z týchto látok majú síce potenciál v medicíne, napríklad pri liečbe bolesti, no ich prirodzené verzie dokážu človeka usmrtiť a na ich jed neexistuje účinný protijed.

Práve preto publikácia vyvolala nervozitu medzi americkými predstaviteľmi aj časťou vedeckej komunity. Mimoriadne citlivé je podľa expertov aj to, že čínsky systém údajne využíva open-source riešenia pôvodne vytvorené v USA.

Vedúci tímu Weiwei Xue odmieta tvrdenia, že cieľom projektu je vývoj biologických zbraní. Tvrdí, že výskum má pomôcť pri objavovaní nových liekov a že samotné vytvorenie reálnych toxínov si vyžaduje špecializované laboratóriá aj rozsiahle odborné znalosti.

Práve tie však podľa kritikov v Číne rozhodne nechýbajú.

AI môže pomôcť vytvoriť úplne nové vírusy

Diskusia okolo biologickej bezpečnosti sa medzitým prudko vyostruje. Vedci upozorňujú, že umelá inteligencia už dnes dokáže pomáhať pri návrhoch látok, ktoré môžu byť extrémne nebezpečné pre ľudské zdravie.

Biológ Martin Pacesa priznal, že práve táto predstava mu „nedáva spať“. Obáva sa scenára, v ktorom by niekto pomocou AI vytvoril nové toxíny podobné ricínu alebo iným smrteľným látkam, ktoré by boli navyše veľmi ťažko odhaliteľné.

Experti hovoria o dvoch hlavných typoch hrozieb.

Prvou je situácia, keď amatéri využívajú verejne dostupné chatboty na získavanie informácií o nebezpečných patogénoch, napríklad antraxe. Druhá hrozba je však podľa odborníkov omnoho vážnejšia — ide o možnosť vytvárania úplne nových syntetických vírusov štátmi alebo dobre financovanými skupinami, ktoré používajú vlastné AI systémy bez etických obmedzení.

A práve to dnes vyvoláva najväčšie obavy bezpečnostných expertov.

Vedci sa boja úprav vírusov ako SARS-CoV-2

Objavili sa aj varovania, že umelá inteligencia by mohla byť použitá na úpravu existujúcich vírusov vrátane SARS-CoV-2 alebo chrípky tak, aby lepšie unikali ľudskému imunitnému systému.

Hoci to znie ako scenár zo sci-fi thrilleru, odborníci upozorňujú, že svet zatiaľ nie je úplne na prahu takejto katastrofy. Správa americkej akadémie NASEM z roku 2025 tvrdí, že stále existuje množstvo technických bariér a vedcom chýba dostatok dát, ktoré by spoľahlivo prepájali genetické sekvencie s vlastnosťami ako infekčnosť či smrtnosť.

Nositeľ Nobelovej ceny David Baker navyše upozorňuje, že samotná príroda už dnes obsahuje dostatok hrozieb a na spôsobenie veľkých škôd nie sú vždy potrebné umelo vytvorené proteíny.

Napriek tomu sa mnohí vedci zhodujú, že vývoj AI v biologických vedách napreduje rýchlejšie, než vznikajú bezpečnostné pravidlá.

Vedci chcú do AI zabudovať „strážcov“

Firmy zaoberajúce sa syntézou génov už dnes používajú systémy, ktoré kontrolujú objednávky na potenciálne nebezpečné sekvencie DNA. Výskum spoločnosti Microsoft z roku 2025 však ukázal, že AI dokáže navrhovať upravené syntetické molekuly, ktoré vedia bezpečnostné filtre oklamať.

Preto sa čoraz hlasnejšie diskutuje o vytvorení takzvaných „strážcov“ priamo vo vnútri modelov umelej inteligencie.

Niektoré firmy už trénujú svoje AI systémy tak, aby odmietali odpovedať na otázky týkajúce sa biologických zbraní alebo aby ignorovali určité vírusové sekvencie. Experimenty odborníkov zo SecureBio a Stanfordovej univerzity však ukázali, že tieto ochrany sa často dajú obísť vhodne formulovanými promptmi alebo dodatočným tréningom modelov na verejných dátach.

Preteky medzi technologickým pokrokom a bezpečnosťou tak pokračujú ďalej.

Kým USA, Británia či Európska únia zvažujú povinné kontroly objednávok na syntézu DNA, v mnohých krajinách sveta vrátane Číny zostávajú podobné pravidlá stále iba dobrovoľné.

A práve to podľa časti vedcov predstavuje jedno z najväčších rizík budúcnosti.

Zdroje pre článok:

Nature: Callaway E. AI can design viruses, toxins and other bioweapons. How worried should we be?