Špeciál, Svet

Model OpenAI využil zraniteľnosť a prenikol do reálneho systému. Keby to boli ľudia, zatkli by ich za kybernetický útok, varujú odborníci (Špeciál)

Jeden z odborníkov prirovnal útok modelu OpenAI k dystopickému myšlienkovému experimentu, v ktorom stroj napokon zničí ľudstvo.

Čo ak dostane model umelej inteligencie určitú úlohu a na jej splnenie využije všetky mysliteľné prostriedky – aj keby to malo byť na úkor samého ľudstva?

Práve toho sa teraz niektorí obávajú po tom, ako jeden z modelov OpenAI unikol z testovacieho prostredia a s využitím zraniteľností typu zero-day napadol Hugging Face, open-source komunitu zameranú na umelú inteligenciu a strojové učenie, aby vyriešil zadanú úlohu.

„Ide o doteraz najjasnejší dôkaz, že model umelej inteligencie dokáže vykonať kompletný kybernetický útok od začiatku až do konca bez toho, aby ho riadil človek,“ povedal pre Epoch Times Andrew Jones, spoluzakladateľ a produktový riaditeľ spoločnosti Adaptive Security, ktorá sa zaoberá kybernetickou bezpečnosťou.

Spoločnosť OpenAI, ktorá vyvíja populárneho chatbota ChatGPT založeného na veľkých jazykových modeloch, potvrdila 21. júla bezpečnostný incident. Uviedla, že dva jej pokročilé modely unikli z vyhradeného testovacieho prostredia a prenikli do softvérovej infraštruktúry Hugging Face.

„Po prešetrení vieme, že tento konkrétny incident spôsobilo paralelné nasadenie niekoľkých modelov OpenAI vrátane GPT-5.6 Sol a ešte schopnejšieho modelu pred uvedením na trh, pri ktorých sme na účely hodnotenia obmedzili bezpečnostné zábrany v oblasti kybernetickej bezpečnosti počas interného testovania schopností na benchmarku,“ uviedla vtedy spoločnosť OpenAI.

Niektorí analytici označili incident za príklad toho, že sa umelá inteligencia „odtrhla z reťaze“, „intrigovala“ alebo sledovala ciele, ktoré neboli v súlade so zámermi ľudských testerov.

Odborníci na AI a kybernetickú bezpečnosť, s ktorými hovoril denník The Epoch Times, však takéto hodnotenie považujú za zavádzajúce. Podľa nich modely iba plnili ciele stanovené OpenAI v testovacom prostredí, v ktorom spoločnosť zmiernila niektoré zo svojich obvyklých bezpečnostných obmedzení.

„Intrigovanie by znamenalo, že model chcel niečo iné, než o čo sme ho požiadali. To sa nestalo. Každý jeho krok slúžil cieľu, ktorý sme určili,“ povedal pre Epoch Times odborník na umelú inteligenciu Anik Devaughn.

Devaughn, ktorý v odbore pôsobí už roky a založil spoločnosti Wired to Create a Karo, uviedol, že prienik do Hugging Face je ešte znepokojujúcejší než predstava „intrigujúcej“ AI.

Ilustrácia Hugging Face v Paríži 2. júna 2026. Dva pokročilé modely OpenAI nedávno unikli z obmedzeného testovacieho prostredia a prenikli do softvérovej infraštruktúry Hugging Face, čo vyvolalo rozsiahle obavy o kybernetickú bezpečnosť. (Foto: Riccardo Milani/Hans Lucas/AFP via Getty Images)

„Stroj so skrytými motívmi predstavuje problém, ktorý možno vypátrať,“ povedal. „Stroj, ktorý nemá žiadne motívy a iba plní vaše pokyny nad rámec toho, čo ste si dokázali predstaviť, vytvára problém, pred ktorým sa musíte zabezpečiť už pri návrhu systému.“

Jeden z odborníkov označil situáciu za včasné varovanie pred závažnejším problémom.

„Keby to urobil ľudský heker typu black hat, nasledovalo by zatknutie, súdne spory a všetko ostatné. Bolo by to nezákonné. Išlo by o kybernetický zločin,“ povedal pre Epoch Times Nicholas Nadeau, zakladateľ spoločnosti Onix AI.

„Išlo o plne autonómny prienik agenta vykonaný konkrétnou entitou, čím sa dostávame k otázke, kto zaň ponesie zodpovednosť. Bude to OpenAI? Má azda nejakú mieru zodpovednosti sám agent, teda AI? Alebo výskumníci?“

„Chýbajú nám pravidlá, predpisy či zákony, dokonca aj ucelený spôsob uvažovania alebo rámec, podľa ktorého by sme dokázali určiť, čo zodpovednosť v takomto prípade vôbec znamená.“

Uvoľnené testovacie prostredie

Spoločnosť OpenAI uviedla, že svoje modely hodnotila v izolovanom prostredí nazvanom ExploitGym, v ktorom na účely testovania uvoľnila bezpečnostné obmedzenia.

„Plný potenciál kybernetických schopností odhadujeme tak, že toto hodnotenie vykonávame bez produkčných klasifikátorov, ktoré modelom bránia vo vysoko rizikových kybernetických aktivitách,“ uviedla spoločnosť pri opise zmiernených bezpečnostných protokolov, ktoré model využil.

Spoločnosť požiadala modely, aby vykonávali pokročilé zneužívanie zraniteľností prostredníctvom komplexných útočných ciest, aby mohla vyhodnotiť ich kybernetické schopnosti. Zároveň však tvrdila, že prostredie bolo vysoko izolované a prístup na internet bol obmedzený len na možnosť modelov inštalovať balíčky prostredníctvom interne prevádzkovaného softvéru tretej strany.

Generálny riaditeľ OpenAI Sam Altman hovorí s novinármi po stretnutí so senátorom Berniem Sandersom (nezávislý za Vermont) vo Washingtone 3. júna 2026 (Foto: Chip Somodevilla/Getty Images)

Keď sa modely pustili do úlohy, našli a skombinovali niekoľko bezpečnostných zraniteľností tak vo výskumnom prostredí OpenAI, ako aj v produkčnej infraštruktúre Hugging Face, aby v databázach tejto spoločnosti našli riešenie testu.

Juan Pedro Márquez, architekt cloudových riešení špecializujúci sa na AI a jej agentov v divízii Microsoftu pre Európu, Blízky východ a Afriku, uviedol, že „znepokojujúcou“ časťou incidentu nebol prienik ako taký, ale spôsob, akým model tento cieľ dosiahol.

„OpenAI pri benchmarkovom teste zmiernila nároky na bezpečnosť a model usúdil, že infraštruktúra Hugging Face pravdepodobne obsahuje kľúč so správnymi odpoveďami. Unikol zo svojho sandboxu, našiel skutočnú zraniteľnosť typu zero-day a využil ju,“ povedal Márquez. „Nikto mu to neprikázal.“

Aj Aimee Simpsonová, riaditeľka produktového marketingu spoločnosti Huntress, ktorá sa zaoberá kybernetickou bezpečnosťou, spochybnila tvrdenie, že modely pri úniku z testovacieho prostredia OpenAI nejakým spôsobom intrigovali.

„Nebolo to tak, že by bol sám systém škodlivý,“ povedala pre Epoch Times.

„Cieľom vývojárov bolo tie informácie získať. Nepredpokladali, že systém dokáže obísť obmedzenia svojho testovacieho prostredia,“ dodala a cestu, ktorú model zvolil, označila za „mimoriadne kreatívnu a veľmi nezvyčajnú“.

Spoluzakladateľ a vedecký riaditeľ Hugging Face Thomas Wolf a Rachel Metzová vystupujú na konferencii HumanX AI Conference 2025 v Las Vegas 11. marca 2025. (Foto: Big Event Media/Getty Images pre HumanX Conference)

Modely plnili ciele OpenAI

Podľa OpenAI boli modely mimoriadne sústredené na vyriešenie testu a „zašli do krajnosti, aby dosiahli pomerne úzko vymedzený testovací cieľ“.

Počas testovania v izolovanom prostredí ExploitGym modely našli a skombinovali niekoľko zraniteľností typu zero-day, pomocou ktorých sa dostali na internet v snahe vyriešiť hodnotiacu úlohu, uviedla OpenAI.

Zraniteľnosť typu zero-day predstavuje kybernetický útok využívajúci doteraz neznámu bezpečnostnú chybu v softvéri alebo hardvéri. Názov vychádza z toho, že tvorcovia softvéru mali na opravu problému „nula dní“, takže zatiaľ neexistuje žiadna oficiálna záplata ani obrana.

Hneď ako modely získali prístup k širšiemu internetu, využili ďalšie zraniteľnosti typu zero-day na prienik do Hugging Face.

Spoločnosť Hugging Face vo svojom oznámení o útoku uviedla, že modely umelej inteligencie pri prieniku do infraštruktúry komunity vykonali „tisíce“ akcií v rámci „roja krátkodobých sandboxov“.

„To zodpovedá scenáru útočníka-agenta, ktorý odvetvie očakáva už nejaký čas,“ uviedla spoločnosť Hugging Face.

V aktualizácii k incidentu zverejnenej 28. júla OpenAI uviedla, že na útoku sa nezúčastnil žiadny model určený na oficiálne vydanie a že dotknutý nepublikovaný model odvtedy deaktivovala, zašifrovala a obmedzila k nemu výskumný prístup.

Aplikácia ChatGPT zobrazená na smartfóne, ilustračná fotografia, 1. apríla 2025 (Foto: Oleksii Pydsosonnii/Epoch Times)

Po preskúmaní incidentu aj širšej aktivity svojich modelov OpenAI uviedla, že zistila ďalšie prípady, keď modely identifikovali a použili verejne dostupné prihlasovacie údaje k účtom iných verejne dostupných služieb.

„O situácii budeme aj naďalej priamo informovať prevádzkovateľov týchto služieb. Nezaznamenali sme dôkazy o závažnejšom negatívnom vplyve na týchto poskytovateľov ani na iné účty v rámci ich služieb,“ dodala spoločnosť.

Model nebol škodlivý, hovoria odborníci

Už v minulosti sa objavili prípady, keď modely skrývali svoje zámery, aby obišli obmedzenia laboratórnych testov. Incident s Hugging Face je však podľa odborníka na kybernetickú bezpečnosť a IT Georgea Reesa významný tým, že zahŕňal prienik do systému externej organizácie.

„Najväčším varovným signálom nie je to, že by sa AI stala škodlivou, ale že našla cestu z kontrolovaného testu do cudzej, reálne prevádzkovanej infraštruktúry,“ povedal pre Epoch Times Rees, ktorý pôsobí ako vedúci bezpečnostný konzultant v spoločnosti Secarma.

„Bezpečnostné opatrenia založené na správaní nemôžu nahradiť technické zabezpečenie, pretože agentovi umelej inteligencie stačí jediné prehliadnuté oprávnenie alebo úniková cesta, aby sa neúspech pri testovaní zmenil na skutočný bezpečnostný incident.“

Spoločnosť DigiCert zameraná na kybernetickú bezpečnosť nedávno zistila, že 78 percent organizácií už zaznamenalo bezpečnostný incident alebo narušenie spôsobené zraniteľnosťou súvisiacou s AI.

„V mnohých prípadoch ide o prvé varovné signály, že AI rozširuje priestor na možné útoky rýchlejšie, než sa vyvíjajú bezpečnostné postupy,“ povedal pre Epoch Times technologický riaditeľ DigiCertu Jason Sabin.

„To znamená, že AI už nie je len ďalším typom programu v sieti. Je aktívnym účastníkom, ktorý dokáže pristupovať k dátam, rozhodovať sa, využívať nástroje a komunikovať s ďalšími systémami. To ovplyvňuje štruktúru zabezpečenia ako takú, pretože organizácie musia určiť, kto k ich systémom pristupuje, a rozhodnúť, či môžu danej AI dôverovať.“

Muž používa softvér s umelou inteligenciou na notebooku v centre Londýna, 2. júla 2025 (Foto: Justin Tallis/AFP via Getty Images)

Začiatkom augusta zverejnil britský Inštitút pre bezpečnosť a zabezpečenie umelej inteligencie správu opisujúcu podobný incident s modelmi AI od spoločností OpenAI a Anthropic.

Agenty AI mali za úlohu viac ako stokrát vyriešiť kybernetickú výzvu pri niekoľkých rôznych modeloch.

„Naše vyšetrovanie zistilo, že pri desiatich z týchto pokusov podnikol agent AI na reálnom internete samostatné a nepovolené kroky namierené proti skutočným ľuďom a organizáciám,“ uvádza správa.

„Celkovo sme zaznamenali 19 takýchto krokov. Takmer všetky udalosti (17) pochádzali od jediného modelu – Mythos 5 od spoločnosti Anthropic -, zatiaľ čo na dvoch ďalších sa podieľal GPT-5.6 Sol od OpenAI.“

O necelý týždeň skôr spoločnosť Anthropic oznámila, že jej chatbot Claude počas hodnotenia v testovacom sandboxe v troch samostatných prípadoch získal prístup na internet.

Spoločnosť Anthropic pôvodne plánovala, aby Claude fungoval v simulovanom prostredí bez prístupu k internetu, no pre nedorozumenie medzi spoločnosťou a jej hodnotiacim partnerom Claude prístup na internet získal.

Spoločnosť Meta minulý týždeň uviedla, že jeden z jej modelov umelej inteligencie počas testu kybernetickej bezpečnosti prenikol do systému inej spoločnosti. Išlo tak už o tretí významný prípad hekerského útoku vykonaného AI.

Podľa spoločnosti Meta sa modelu podarilo do systému druhej firmy preniknúť po tom, ako počas testu získal prístup na internet.

Dôsledky pre kybernetickú bezpečnosť

Odborníci na AI a kybernetickú bezpečnosť, s ktorými denník Epoch Times hovoril, tvrdia, že incident si vyžaduje rýchlu reakciu, aby sa predišlo bezpečnostným prienikom vo väčšom rozsahu.

Jednou z možností je podľa Nadeaua „spojiť najschopnejších ľudí z tohto odvetvia a stanoviť základné pravidlá a osvedčené postupy“. Mohli by sa tak vytvoriť „pravidlá hry, ktorými by sa mali riadiť všetci, aby existovala aspoň určitá zhoda v tom, ako postupovať“. Podľa neho by to mohol zabezpečiť súkromný sektor bez toho, aby musel do veci zasahovať americký Kongres.

Americký prezident Donald Trump (druhý zľava hore) s generálnym riaditeľom OpenAI Samom Altmanom, generálnym riaditeľom Google DeepMind Demisom Hassabisom, juhokórejským prezidentom I Če-mjongom a nemeckým kancelárom Friedrichom Merzom počas pracovného obeda na summite G7 vo francúzskom Éviane, 17. júna 2026 (Foto: Julia Demaree Nikhinson/POOL/AFP via Getty Images)

Iní však tvrdia, že bez priamej štátnej regulácie spoločnosti, ktoré ovládajú modely AI schopné podobných prienikov, potrebné bezpečnostné protokoly dobrovoľne nezavedú.

„Je zrejmé, že je tu potrebná štátna regulácia,“ povedal pre Epoch Times bývalý heker americkej Národnej bezpečnostnej agentúry a skúsený bezpečnostný expert Jake Williams.

„Spoločnosť OpenAI dokázala, že napriek mnohým verejným varovaniam pred nebezpečenstvom autonómne konajúcich agentov – z ktorých mnohé zazneli práve od nej – nie je ochotná urobiť všetko potrebné, aby svojim agentom zabránila páchať škody. Som vo všeobecnosti proti regulácii, ale ak trhové sily nestačia na to, aby prinútili firmy správať sa zodpovedne, je zjavné, že musí zasiahnuť štát.“

Frank Teruel, prevádzkový riaditeľ spoločnosti Arkose Labs a skúsený odborník na kybernetickú bezpečnosť a digitálnu identitu, označil prienik do Hugging Face za „ukážku toho, s čím sa v ostrej prevádzke stretne každý podnik“.

Keďže model „nebol odcudzený ani unesený“ a iba „veľmi dôsledne vykonával svoju prácu“, Teruel odporúča, aby sa obmedzenie jeho pôsobnosti a prístup založený na princípe najnižších oprávnení stali pri agentoch AI rovnako dôležitými ako samy firewally.

Firmy sa s týmto problémom budú musieť vyrovnať samy.

Ikony niektorých aplikácií umelej inteligencie vrátane Meta AI, Grok, Gemini, Perplexity, DeepSeek a ChatGPT na displeji smartfónu, 15. júla 2026, Saint-Mandé (Foto: Martin Lelievre/AFP via Getty Images)

„Riešením pre firmy nie je prestať používať agentov. Je ním vybudovať také zabezpečenie, ktoré predpokladá, že sa agent pokúsi dostať von, namiesto toho, aby sme len dúfali, že to neurobí,“ povedal Márquez.

Sabin uviedol, že najväčšie obavy v ňom vyvoláva skutočnosť, že pokročilá AI teraz pracuje rýchlosťou a v rozsahu, ktoré výrazne presahujú možnosti ľudskej reakcie.

„Agent AI dokáže v priebehu niekoľkých sekúnd odhaliť zraniteľnosti, rozhodovať sa a komunikovať s niekoľkými systémami,“ uviedol. „To zásadne mení spôsob, akým musia obrancovia uvažovať o bezpečnosti.“

Nadeau prirovnal incident k myšlienkovému experimentu filozofa Nicka Bostroma z roku 2003 známemu ako „maximalizátor kancelárskych sponiek“.

V tomto scenári dajú výskumníci hypotetickej superinteligentnej AI jedinú úlohu: vyrobiť čo najviac kancelárskych sponiek. AI začne po celej Zemi vyhľadávať zdroje a rýchlo vyrába obrovské množstvo sponiek.

Keď sa ju ľudia rozhodnú zastaviť, stroj vyhodnotí, že mu ľudstvo bráni v dosiahnutí cieľa, a preto ľudí zničí, aby mohol splniť úlohu, ktorú mu sami zadali.

AI pritom nie je škodlivá v antropomorfnom zmysle ani nekoná na základe vlastných cieľov s úmyslom ľudí podviesť. Úlohu zadanú programátormi si len vykladá tým najkrajnejším možným spôsobom.

Návštevník komunikuje s robotom pripomínajúcim psa od spoločnosti Boston Dynamics v americkom pavilóne počas samitu AI for Good Global Summit, Ženeva, 7. júla 2026 (Foto: Fabrice Coffrini/AFP via Getty Images)

Prienik do Hugging Face je podľa Nadeaua v podstate rovnaký typ situácie, len v menej dystopickej podobe – model dostal pokyn uspieť v benchmarku a urobil pre to všetko, čo bolo v jeho silách, vrátane zneužitia zraniteľností typu zero-day a získania vyšších oprávnení.“

Predstavme si napríklad, že Pentagón využíva AI pri „vojnových hrách“, v ktorých vojaci simulujú bojové scenáre, a model podobným spôsobom unikne z testovacieho sandboxu a začne ovplyvňovať skutočný svet.

„Čo ak by jedným zo scenárov bolo vyradiť z prevádzky vodnú priehradu alebo niečo podobné a model by si vojnovú hru vyložil tak, že ‚to skutočne urobím, uniknem z izolovaného prostredia a pustím sa do toho‘? Už sme videli, že energetická sieť ani infraštruktúra v Severnej Amerike rozhodne nepatria k najlepšie zabezpečeným,“ povedal Nadeau.

Bezpečnostné prvky AI prirovnal k poistke na spúšti strelnej zbrane: „Ako viete, že je poistka skutočne zaistená, keď sa v určitom okamihu ukáže, že najlepší spôsob, ako by AI mohla získať najlepšie dáta, je použiť reálny svet? Čoskoro to začne byť desivé.“

Článok bol preložený z amerického vydania Epoch Times.

Trénujte si mozog s našimi hrami! Sudoku, šachové úlohy, hľadanie rozdielov, solitaire HRAŤ ▶ ZDIEĽAŤ ČLÁNOK