Svet » Čína

Peking chcel využiť ChatGPT na vplyvové operácie, uvádza OpenAI

Komunistický režim v Číne sa pokúsil zneužiť generatívnu umelú inteligenciu ChatGPT od OpenAI na riadenie vplyvových operácií. Vedenie v Pekingu sa tým nechtiac prezradilo. Vyplýva to z aktuálnej februárovej správy o opatreniach proti zneužívaniu služieb spoločnosti.

Spoločnosť OpenAI zatvorila účet ChatGPT, ktorý bolo možné spojiť s osobou s väzbami na čínsky bezpečnostný aparát. Aktivity tejto osoby odhalili „dobre prepracovanú, presne zorganizovanú stratégiu tajných operácií spravodajských služieb proti nepriateľom doma i v zahraničí“. Táto stratégia bola realizovaná pod názvom „kyberšpeciálne operácie“. Vedenie v Pekingu zrejme chcelo využiť schopnosti chatbota, ktorý bol verejnosti predstavený koncom roka 2022, aby zefektívnilo prebiehajúce snahy o ovplyvňovanie.

Tento účet sa okrem iného pokúsil využiť model OpenAI na naplánovanie operácie tajnej služby proti japonskej premiérke Sanae Takaichiovej. ChatGPT odmietol vykonať tento príkaz. Bol tiež použitý na vypracovanie pravidelných správ o stave vykonávania „špeciálnych kybernetických operácií“. Vyplýva z nich, že v plánovanej operácii sa pokračovalo aj bez ChatGPT.

Z aktivít príslušného účtu vyplýva, že aktéri už v minulosti vykonávali vplyvové operácie. Ich cieľom bolo diskreditovať a zastrašovať disidentov v Číne aj v zahraničí. Celkovo sa vraj na operáciách tohto druhu podieľalo niekoľko stoviek zamestnancov a tisíce falošných účtov.

Taktiky využívané týmto používateľom siahali od zneužívania spravodajstva cez falošné účty disidentov na sociálnych sieťach až po organizované online kampane. Súčasťou repertoáru bolo aj falšovanie dokumentov a zneužívanie úradnej moci: napríklad jeden agent sa vydával za amerického úradníka, aby zastrašil kritikov režimu v exile.

OpenAI oslovila prevádzkovateľov sociálnych sietí a odborníkov

V inom prípade sa na sociálnych sieťach šírilo falošné oznámenie o úmrtí. V mnohých prípadoch sa účty vydávali za miestnych používateľov a komentovali obsah v duchu komunistického režimu. Snažili sa pritom používať kultúrne prispôsobené jazykové vzorce, aby pôsobili čo najautentickejšie.

Analýzy z otvorených zdrojov pomohli spoločnosti OpenAI identifikovať online aktivity, ktoré sa zhodovali s niektorými taktikami používateľa. Tieto taktiky sa zameriavali nielen na ľudí v Číne, ale aj na disidentov a kritikov po celom svete. Podarilo sa identifikovať viaceré prvky, ktoré sa opakujú v čínskych vplyvových operáciách.

K dispozícii sú napríklad organizované siete, ktoré využívajú koordinované účty na sociálnych platformách na šírenie strategicky zosúladených naratívov. Aj v obsahu sa objavujú sa určité vzory. Opakujúcou sa témou je otázka Taiwanu, ale aj vnútorná politika USA je obľúbeným terčom agitácie. Demokratické systémy sa pritom prezentujú ako nestabilné, pričom sa šíria pozitívne naratívy o čínskej vláde.

Pozornosť upútali nápadné vzorce používania ChatGPT

Podľa zámeru iniciátorov týchto vplyvových operácií nemala umelá inteligencia vystupovať ako aktér, ale mala fungovať ako nástroj. Tento nástroj mal pomáhať pri hromadnej produkcii textov, generovaní viacjazyčného obsahu a prispôsobovaní sa cieľovým skupinám. Použitie umelej inteligencie malo tiež zlepšovať rýchlosť reakcie na aktuálne udalosti.

Vďaka nápadným vzorcom používania sa OpenAI podarilo túto operáciu odhaliť. Patrili k nim vysoké objemy generovaného obsahu, opakujúce sa štruktúry výziev a obsah s výrazným politickým zameraním. K tomu sa pridali identické naratívy, časovo zosúladené publikácie a prepojenia so známymi vplyvovými sieťami.

OpenAI kontaktovala spoločnosti pôsobiace v oblasti sociálnych sietí a externých bezpečnostných výskumníkov. Pomocou komplexnej analýzy siete sa podarilo identifikovať príslušné vzorce a prijať primerané protiopatrenia. Ako krátkodobé opatrenie OpenAI deaktivovala prístup k API zapojeného používateľa a platformy sociálnych sietí odstránili zneužité účty.

Článok bol preložený z nemeckej edície Epoch Times.

ZDIEĽAŤ ČLÁNOK