Detská komisárka žiada zákaz aplikácií, ktoré pomocou AI vytvárajú falošné nahé snímky detí
Zatiaľ čo uchovávanie nahých fotografií detí generovaných umelou inteligenciou je v Británii trestné, samotné aplikácie, ktoré ich vytvárajú, zostávajú legálne. Komisárka varuje pred ich zneužitím.
Komisárka pre deti v Anglicku Dame Rachel de Souza vyzvala vládu, aby zakázala nástroje využívajúce technológiu deepfake – teda umelo vytvorené falošné obrazové výstupy – na vytváranie nahých snímok detí.
Personalizované „nudifikačné“ aplikácie umožňujú používateľom generovať sexuálne explicitné snímky skutočných osôb, čo podľa de Souza predstavuje „alarmujúce riziko“ pre bezpečnosť detí v online prostredí.
V správe zverejnenej v pondelok uviedla, že nástroje s umelou inteligenciou schopné vytvárať nelegálne obrázky detí sú široko dostupné prostredníctvom vyhľadávačov aj obchodov s aplikáciami – a ich používanie je lacnejšie ako kedykoľvek predtým.
Správa upozorňuje, že obeťami tohto typu technológií sa stávajú prevažne dievčatá a mladé ženy. Jedna šestnásťročná dievčina sa napríklad pýta, prečo je vôbec povolené, aby takéto aplikácie existovali: „Je to tak ľahko dostupné, že ktokoľvek môže takéto fotky vytvoriť, dať ich na internet a… vyvolať obrovský rozruch len niekoľkými kliknutiami v mobilnej aplikácii.“
Mnohé z týchto nástrojov pritom vôbec neoverujú vek osôb na nahratých fotografiách, čo výrazne zvyšuje riziko zneužívania detí.
Zatiaľ čo držanie generovaných sexuálnych snímok detí pomocou umelej inteligencie (AI) je nelegálne, súčasná legislatíva nezakazuje samotné modely AI, ktoré ich vytvárajú. De Souza preto vyzýva vládu, aby tieto aplikácie úplne zakázala a sprísnila reguláciu, ktorá by zodpovednosť preniesla na technologické spoločnosti: „Online svet je revolučný a rýchlo sa vyvíja, ale neexistuje žiadny pozitívny dôvod, prečo by takéto aplikácie mali existovať. V našej spoločnosti pre ne nie je miesto.“
„Nástroje využívajúce technológiu deepfake na vytváranie nahých snímok detí by nemali byť legálne. Vyzývam vládu, aby prijala rozhodné opatrenia a zakázala tieto nástroje skôr, než spôsobia skutočnú škodu,“ dodáva.
Nedostatočná legislatíva
Na začiatku roka 2025 britská vláda oznámila zámer rozšíriť ochranu proti AI-generovanému sexuálnemu obsahu zahŕňajúcemu dospelých prostredníctvom zákona o využívaní dát (Data Use and Access Bill) a zákona o trestnej činnosti a polícii (Crime and Policing Bill). Oba návrhy sú zatiaľ v parlamentnom prerokúvaní.
Zameriavajú sa však predovšetkým na postihovanie jednotlivcov, ktorí takýto obsah vytvárajú alebo zdieľajú, a nie na samotné technológie, ktoré na to slúžia.
Zákon o online bezpečnosti z roku 2023 ukladá platformám povinnosť zabrániť britským používateľom v prístupe k nezákonnému obsahu, vrátane materiálov zobrazujúcich sexuálne zneužívanie detí. Technologické firmy majú tiež povinnosť chrániť deti pred škodlivým obsahom, napríklad pornografiou.
Ďalšie ochranné opatrenia nadobudnú platnosť v júli 2025, keď regulačný orgán Ofcom zavedie nové kódexy pre deti. Tie majú chrániť deti pred nevhodným obsahom a službami pre dospelých, ale nezakážu samotné nudifikačné aplikácie.
Podľa správy detskej komisárky deti zostávajú bez potrebnej ochrany pred novými hrozbami spojenými s umelou inteligenciou, pokiaľ nebude prijatá cielená legislatíva.
Rastúca hrozba deepfake technológií
Odhaduje sa, že 99 % sexuálne explicitných deepfake videí na internete zobrazuje ženy a dievčatá. Nástroje AI sú často trénované na rozsiahlych databázach zložených výlučne z ženských tiel.
Zatiaľ čo častými terčmi sú známe osobnosti ako Emma Watson, Scarlett Johansson alebo Millie Bobby Brown, správa varuje, že riziko hrozí aj bežným ženám a školáčkam.
Samotné deti sa s týmto nebezpečným obsahom stretávajú znepokojivo často. Prieskum organizácie Internet Matters z roku 2024 ukázal, že 13 % britských teenagerov sa stretlo s deepfake nahotou – či už ju videli, dostali alebo zdieľali.
Ďalšia štúdia organizácie Girlguiding zistila, že viac ako štvrtina mladých ľudí vo veku 13 až 18 rokov narazila na sexuálne explicitné deepfake zobrazenia celebrít, učiteľov, priateľov – alebo dokonca seba samých.
Správa upozorňuje, že zraniteľné deti sú ohrozené ešte viac – 25 % z nich uviedlo, že sa stretli so sexuálne explicitnými deepfakes, čo je viac ako dvojnásobok v porovnaní s ostatnými rovesníkmi.
Dokument cituje aj prípady, keď obete v dôsledku týchto útokov trpeli posttraumatickou stresovou poruchou, samovražednými myšlienkami a v tragických prípadoch aj smrťou – napríklad štrnásťročná Mia Janin si v roku 2021 vzala život po tom, čo sa stala terčom online útokov vrátane deepfake obrázkov.
Úrad detskej komisárky zistil, že nudifikačné aplikácie sú otvorene propagované na sociálnych sieťach ako Instagram, Telegram alebo X (predtým Twitter).
Vyhľadávače Google a Bing navyše pri zadávaní výrazov ako „deep nude“ (falošná nahá fotka) alebo „undress app“ (aplikácia na vyzliekanie) často nasmerujú používateľov na explicitný obsah počas niekoľkých kliknutí.
S rastúcim vplyvom takzvanej „deepfake ekonomiky“, ako ju nazýva Ofcom – teda siete webových stránok, vývojárov a používateľov, ktorí profitujú z nevyžiadaných sexuálnych zobrazení – sa situácia ďalej zhoršuje. Otvorené modely umelej inteligencie, ktoré možno voľne upravovať, sú zneužívané na vytváranie personalizovaných nudifikačných služieb bez primeranej kontroly či zodpovednosti.
De Souza hovorí, že deti, ktoré sa zapojili do skupinových diskusií počas prípravy správy, vyjadrili obavy zo zneužitia technológií nudifikačných aplikácií. „Majú strach, že ich ktokoľvek – cudzí človek, spolužiak alebo dokonca priateľ – môže pomocou smartfónu zneužiť a vytvoriť ich nahú fotografiu prostredníctvom týchto aplikácií,“ uviedla.
Pôvodný článok
ZDIEĽAŤ ČLÁNOK
