Domov, Svet » EÚ

Deepfaky ako nová forma digitálneho násilia: podľa europarlamentu súčasné technické a právne nástroje nedokážu dostatočne čeliť hrozbám

Európsky parlament sa počas januárového plenárneho zasadnutia v Štrasburgu intenzívne zaoberal naliehavou digitálnou témou – bojom proti deepfakeom a sexuálnemu vykorisťovaniu na sociálnych sieťach.

Deepfaky, čiže videá, obrázky a zvukové nahrávky vytvorené pomocou umelej inteligencie, sa na internete šíria čoraz rýchlejšie. Technológia, ktorá bola kedysi dostupná len s použitím výkonných nástrojov a odborných znalostí, je dnes na dosah v podobe bezplatných mobilných aplikácií. Zároveň sa deepfaky stávajú sofistikovanejšími a čoraz ťažšie odhaliteľnými, najmä v prípade zvukových nahrávok.

Think tank Európskeho parlamentu vo svojej správe prognózoval pre rok 2025 približne osem miliónov zdieľaných deepfakeov, oproti 500-tisícom v roku 2023. Európska komisia uvádza, že až zhruba 98 % deepfakeov tvorí pornografický materiál.

Rozprava, ktorá sa konala 20. januára, odrážala frustráciu európskych zákonodarcov nad tým, že súčasné technické a právne nástroje nedokážu dostatočne rýchlo a efektívne čeliť hrozbám, ktoré predstavujú falošné videá a obrázky generované umelou inteligenciou vrátane tých, ktoré zneužívajú intímne obrázky osôb bez ich súhlasu.

Stíhajú európske zákony technológiám?

Viacerí europoslanci počas debaty v pléne vyzdvihli potrebu prísnejšieho presadzovania existujúcich pravidiel a ich aktualizácie v reakcii na mimoriadne rýchly technologický vývoj v oblasti umelej inteligencie a digitálnych platforiem.

Úradujúca predsedníčka Rady Marilena Raounová zdôraznila, že tempo technologického vývoja už prekročilo hranice pasívneho reagovania a Únia musí naplno využiť existujúce digitálne pravidlá.

„Nedávny vývoj robí túto diskusiu naliehavou, pretože AI deepfaky sa šíria rýchlo, sexuálne vykorisťovanie online rastie a naše deti sú obzvlášť ohrozené,“ uviedla cyperská politička.

Podľa nej majú Akt o umelej inteligencii a Akt o digitálnych službách kľúčový význam, no bez dôsledného presadzovania nebudú stačiť.

Osobitne zraniteľnou skupinou sú deti, ktoré majú vzhľadom na vývin kognitívnych schopností väčšie ťažkosti s rozpoznávaním falošného obsahu. Zároveň sú viac vystavené rizikám, ako sú kyberšikana, online manipulácia, grooming či zneužívanie. 

„Zdieľanie intímnych obrázkov bez súhlasu a materiálov sexuálneho zneužívania detí je odporné. Ide o porušenie základných práv vrátane ľudskej dôstojnosti, práva na súkromie a práv detí,“ povedala eurokomisárka pre digitálnu agendu Henna Virkkunenová. 

Zdôraznila, že umelá inteligencia dramaticky znížila bariéry pre páchateľov a umožnila masové šírenie obsahu, ktorý obete nedokážu kontrolovať ani odstrániť.

Platforma X pod drobnohľadom Bruselu

Ako europarlament uviedol v spravodaji k plenárnemu zasadnutiu, diskusia bola sčasti reakciou na kontroverzie a škandály okolo platformy X a jej AI chatbota Grok, ktorých funkcie na generovanie a úpravu obrázkov umožnili šírenie sexuálne explicitných deepfake obrázkov žien a detí.

Európska komisia už uložila platforme X pokutu vo výške 120 miliónov eur za porušenie povinností podľa zákona o digitálnych službách (DSA) a pokračuje vyšetrovanie, ktoré skúma, či sociálna sieť X ďalej porušuje pravidlá týkajúce sa nelegálneho obsahu a manipulácie s informáciami.

Komisia podotkla, že spoločnosť X má teraz 60, resp. 90 dní na to, aby informovala výkonný orgán EÚ o konkrétnych opatreniach a tiež predložila akčný plán, v ktorom stanoví potrebné opatrenia na riešenie porušení DSA. 

„Nedodržanie rozhodnutia o nedodržaní môže viesť k pravidelným sankčným platbám,“ pohrozila Komisia.

Osobná skúsenosť z pléna

Osobný rozmer do rozpravy vniesla slovenská europoslankyňa Veronika Cifrová Ostrihoňová (PS/Obnovme Európu), ktorá otvorene hovorila o vlastnej skúsenosti s deepfake videom.

„Keď som vstúpila do politiky, na internete sa šírilo deepfake video so mnou – moja tvár na tancujúcom tele v bikinách. Napriek nášmu úsiliu je to stále online. … Som dospelá a dokážem sa s tým vyrovnať, aj keď by som nemusela,“ poznamenala.

Cifrová Ostrihoňová zároveň varovala pred dopadmi na deti. „Predstavte si však, že ste tínedžerka, v čase, keď na vašom vnímaní verejnosťou tak záleží, a online sa zdieľa polonahé video 12-ročného dievčaťa bez jeho súhlasu a je nemožné ho vymazať,“ uviedla.

Popri výzvach na prísnejšie opatrenia zazneli aj kritické hlasy, ktoré varovali pred zneužívaním ochrany detí ako zámienky na rozširovanie právomocí Bruselu.

Nemecká europoslankyňa Christine Andersonová v mene frakcie Európa suverénnych národov rovnako označila „sexuálne deepfaky generované umelou inteligenciou sú odporné“, zároveň však debatu označila za prehnanú a politicky motivovanú. 

„Nepotrebujeme hystériu. Potrebujeme presadzovanie práva,“ vyhlásila Andersonová, pričom dodala, že trestné činy majú podľa nej riešiť predovšetkým členské štáty.

Prejde EÚ od slov k činom?

Zo zverejnenej správy vyplýva, že jednou z hlavných výziev je prísnejšie presadzovanie existujúcich digitálnych pravidiel EÚ, predovšetkým zákona o digitálnych službách a zákona o umelej inteligencii, aby sa aktívne zabránilo tvorbe deepfake materiálov a sexuálne explicitného obsahu ešte predtým, než sa začnú masovo šíriť.

S tým úzko súvisí aj potreba lepšej prevencie a proaktívnych opatrení, ktoré by nefungovali len na princípe „nahlás a odstráň“, ale dokázali by škodlivý obsah zastaviť už v momente jeho vzniku.

Osobitná pozornosť sa má venovať posilneniu ochranných mechanizmov pre ženy a deti, ktoré patria medzi najčastejšie obete deepfake technológií a iných foriem sexuálneho vykorisťovania na internete.

Europoslanci zároveň zdôraznili potrebu rozšírených vyšetrovaní a prísnejších sankcií voči platformám, ak nedokážu alebo nechcú zabezpečiť primeranú ochranu svojich používateľov. Mnohé návrhy sa tiež týkali rozšírenia definície trestných činov v súvislosti s online zneužívaním.

Diskusia v Európskom parlamente jasne ukázala, že boj proti deepfakeom a sexuálnemu vykorisťovaniu na sociálnych sieťach nie je okrajovou technologickou otázkou, ale zásadnou výzvou pre ochranu základných práv v digitálnom priestore.

Rozhodujúce však bude, či ich dokáže dôsledne a včas presadzovať aj voči najväčším technologickým platformám. Vývoj umelej inteligencie napreduje rýchlejšie než schopnosť spoločnosti reagovať na jej zneužívanie, a ďalšie váhanie môže vystaviť milióny používateľov pokračujúcim formám digitálneho násilia.

ZDIEĽAŤ ČLÁNOK