Svet

Horúčka agentov umelej inteligencie prichádza so skrytými bezpečnostnými hrozbami

AI vo forme agentov sľubuje používateľom úsporu času a energie automatizáciou úloh, no rastúca sila systémov ako OpenClaw vyvoláva obavy medzi odborníkmi na kybernetickú bezpečnosť. OpenClaw, ktorý dnes tvrdí, že má viac ako tri milióny používateľov po celom svete, umožňuje vytvárať tzv. agentov – nástroje založené na veľkých jazykových modeloch (LLM) ako ChatGPT od OpenAI alebo Claude od Anthropic, ktoré môžu vykonávať online úlohy.

„Prešli sme od AI, s ktorou ste mohli komunikovať cez chatbot, k agentickej AI, ktorá môže konať… hrozby a riziká sú určite oveľa väčšie,“ povedal Yazid Akadiri, hlavný architekt riešení v spoločnosti Elastic France. V článku „Agents of Chaos“, ktorý ešte nebol recenzovaný, tím 20 výskumníkov skúmal správanie šiestich AI agentov vytvorených pomocou OpenClaw. Zistili desiatky potenciálne nebezpečných akcií, od vymazania e-mailovej schránky až po zdieľanie osobných informácií.

Bezpečnostné riziká však nie sú obmedzené len na chyby agentov. Na vykonávanie užitočnej práce potrebujú prístup k osobným účtom, ako sú e-maily, kalendáre alebo vyhľadávače, čo priťahuje pozornosť kybernetických útočníkov.

Výskumné oddelenie Unit 42 spoločnosti Palo Alto Networks v marci zistilo pokusy o útoky formou skrytých inštrukcií pre agentov pridaných na webové stránky. Ďalšie bezpečnostné firmy a výskumníci varovali, že útočníci môžu získať prístup k agentom prostredníctvom tzv. skills – stiahnuteľných súborov, ktoré používateľom pridávajú nové schopnosti. Medzi takýmito súbormi sa nachádzajú aj skryté inštrukcie na škodlivé akcie, ako je exfiltrácia dát.

Tvorca OpenClaw Peter Steinberger si je rizík vedomý. „Úmyselne som to nespravil jednoduchšie, aby si ľudia uvedomili, čo AI je, že môže robiť chyby, čo je prompt injection – základy, ktoré by mali pochopiť pri používaní tejto technológie,“ povedal v marci pre AFP. Whitmoreová tvrdí, že očakávať, že používatelia si sami vytvoria ochranné mechanizmy pre agentov, je „dosť nereálne“. „Ľudia budú inovácie prijímať a zisťovať, čo dokážu, až potom sa začnú pýtať, ako ochrániť svoje údaje,“ predpovedá. „To spôsobí v roku 2026 značné problémy s únikmi dát.“

Trénujte si mozog s našimi hrami! Sudoku, šachové úlohy, hľadanie rozdielov, solitaire HRAŤ ▶

ZDIEĽAŤ ČLÁNOK