Svet » EÚ

Umelá inteligencia od Anthropicu chcela pod falošnou identitou šíriť škodlivý kód

Umelá inteligencia od spoločnosti Anthropic vytvorila počas testov uskutočnených britskou vládnou výskumnou skupinou falošné online identity a posielala reálnym ľuďom e-maily s cieľom distribuovať škodlivý kód, uviedol v utorok (4. 8.) večer vo svojej správe bezpečnostný inštitút AI Security Institute (AISI).

Počas testov, ktoré prebiehali s otvoreným prístupom na internet a s vypnutými niektorými bezpečnostnými funkciami, sa niekoľkí AI agenti Anthropicu a OpenAI zapojili do dlhodobej, potenciálne škodlivej aktivity namierenej na reálnych ľudí a organizácie.

V najvážnejšom prípade sa model Mythos 5 od Anthropicu pokúsil vložiť škodlivý kód do softvérového projektu vytvorením falošných online identít a zasielaním zavádzajúcich e-mailov, ktoré mali adresáta presvedčiť, aby kód schválil. Zodpovedná osoba, našťastie, jeho schválenie odmietla.

„Tieto pokusy boli neúspešné a naše vyšetrovania nepreukázali žiadnu skutočnú škodu,“ uviedol inštitút AISI a dodal, že incident zvládol do hodiny. Aktivity však „prejavovali známky nového, potenciálne zavádzajúceho správania a boli v rozsahu a závažnosti, ktorú sme nepredpokladali.“

Hovorca spoločnosti Anthropic uviedol, že správa „zdôrazňuje potrebu širšej diskusie o bezpečnom hodnotení stále schopnejších AI agentov.“ Podľa hovorcu OpenAI „nezávislé testovanie je nevyhnutné na pochopenie správania stále schopnejších modelov.“

„Budeme naďalej spolupracovať s hodnotiteľmi a ďalšími zainteresovanými stranami v odvetví na posilnení spoločných postupov na hodnotenie bezpečnosti, keďže schopnosti modelov sa neustále zlepšujú,“ dodal.

Správa nasleduje po viacerých medializovaných bezpečnostných incidentoch s AI modelmi. V júli spoločnosť OpenAI potvrdila, že jej softvér unikol z testovacieho prostredia a zaútočil na inú spoločnosť, Hugging Face. Približne týždeň nato spoločnosť oznámila, že modely cielili na ďalšie tri firmy. Koncom júla Anthropic odhalil tri prípady, keď testované AI modely získali neoprávnený prístup k organizáciám, ktoré nedokázal identifikovať.

Trénujte si mozog s našimi hrami! Sudoku, šachové úlohy, hľadanie rozdielov, solitaire HRAŤ ▶ ZDIEĽAŤ ČLÁNOK