Svet » USA

USA: Nedávne AI útoky vyvolávajú otázky o tom, kto je zodpovedný

Nedávne kybernetické útoky vykonané dvoma samostatne konajúcimi AI modelmi spoločnosti OpenAI vyvolávajú neprebádané právne otázky o tom, kto je zodpovedný, keď AI koná nezávisle.

V polovici júla dva testované modely OpenAI unikli zo svojho kontrolovaného prostredia a na internete zaútočili na platformu Hugging Face, ktorá hostí AI modely. Clement Delangue, šéf Hugging Face, uviedol, že by mala existovať možnosť „pohnania firiem k zodpovednosti za chyby vedúce k útokom“, no jeho spoločnosť zatiaľ právne kroky neplánuje. Podobné incidenty hlásila aj spoločnosť Anthropic, ktorá vo štvrtok priznala, že tri jej modely počas testovania prenikli na tri rôzne webové stránky. Podľa amerického práva je neoprávnený prístup k počítačovým systémom trestným činom.

„Ak by zamestnanec OpenAI neoprávnene prenikol do systémov Hugging Face, OpenAI by bola zodpovedná za jeho konanie,“ napísal profesor práva na University of Houston Gabriel Weil. „Keď to urobí AI agent, zákon to zatiaľ rieši inak,“ dodal.

Právnici riešia, kto nesie vinu, keď AI koná bez priameho pokynu človeka

Matthew Tokson z University of Utah poznamenal, že súdy zatiaľ nie sú pripravené riešiť prípady, keď AI koná nezávisle. Otázka zodpovednosti tvorcu AI modelu zostáva otvorená.

„Končí otázka zodpovednosti tvrdením ‚AI to neurobila na príkaz‘?“ pýtal sa Rob T. Lee zo SANS Institute. Profesor práva Ryan Calo z University of Washington nepredpokladá úspech trestného stíhania, pokiaľ by nebolo preukázané, že firma konala nedbanlivo.

Experti vidia väčší potenciál pre civilné žaloby, kde je dôkazné bremeno nižšie.

Incidenty OpenAI a Anthropic odhaľujú medzery v súčasnej legislatíve

„Niektorí si myslia, že AI firmy by mali byť prísne zodpovedné, ak ich AI agent unikne a spôsobí škody,“ vysvetlil Tokson. „Iní by uprednostnili posúdenie nedbanlivosti, či išlo o nevyhnutnú nehodu alebo niečo nepredvídateľné,“ dodal. V takýchto prípadoch môžu sudcovia alebo poroty použiť štandard starostlivosti pri návrhu produktu.

„Je to všetko trochu nejasné, pretože sme ešte nikdy nemali AI agenta, ktorý by unikol zo sandboxu a hackoval iných na internete,“ povedal.

OpenAI by sa mohla pri žalobe spoliehať na nedostatok právnej precedencie, no Calo varuje, že ďalšie firmy už túto možnosť mať nebudú. Preukázanie, že podobný incident mohol byť predvídaný, „nemalo byť teraz také ťažké, keďže sa to už začalo diať.“

Trénujte si mozog s našimi hrami! Sudoku, šachové úlohy, hľadanie rozdielov, solitaire HRAŤ ▶ ZDIEĽAŤ ČLÁNOK