Piatok 21. júna, 2024
Ilustračná fotografia (Zdroj: freepik.com)

Jedným z rizík umelej inteligencie je zánik ľudstva, varujú zamestnanci popredných AI spoločností v otvorenom liste

Zamestnanci popredných spoločností zaoberajúcich sa umelou inteligenciou OpenAI a Google DeepMind zverejnili v utorok (4. 6. 2024) list, v ktorom varujú pred nebezpečenstvami pokročilej umelej inteligencie. Tvrdia, že spoločnosti uprednostňujú finančné zisky a pred verejnosťou skrývajú nebezbečenstvá umelej inteligencie.

Otvorený list s názvom „Právo na varovanie pred pokročilou umelou inteligenciouˮ podpísalo trinásť zamestnancov, z toho jedenásť súčasných a bývalých zamestnancov spoločnosti OpenAI, ktorá stojí za ChatGPT. Ďalší dvaja signatári sú súčasní a bývalí zamestnanci spoločnosti Google DeepMind. Šesť osôb je anonymných.

Signatári na začiatku listu uvádzajú, že veria v potenciál technológie umelej inteligencie priniesť ľudstvu bezprecedentné výhody. Uvedomujú si však aj vážne riziká, ktoré tieto technológie predstavujú.

„Tieto riziká zahŕňajú prehlbovanie existujúcich nerovností, šírenie manipulácií a dezinformácií, až po stratu kontroly nad autonómnymi systémami umelej inteligencie, čo môže ohroziť samotnú existenciu ľudstva,ˮ varujú experti.

„Dúfame, že tieto riziká sa dajú primerane zmierniť, ak vedecká komunita, tvorcovia politík a verejnosť poskytnú dostatočné usmernenia. Spoločnosti zaoberajúce sa umelou inteligenciou však majú silnú finančnú motiváciu vyhýbať sa účinnému dohľadu a neveríme, že na zmenu tohto stavu stačia riadiace štruktúry spoločností vytvorené na zákazku,” dodávajú podpísaní.

V liste sa ďalej uvádza, že tieto spoločnosti majú dôležité dôverné informácie o možnostiach a obmedzeniach svojich systémov, primeranosti ich ochranných opatrení a úrovni rizika škôd, ktoré by mohli spôsobiť. V súčasnosti však nemajú povinnosť poskytovať tieto informácie s vládami alebo regulačnými orgánmi.

Experti na umelú inteligenciu vyjadrili svoju nedôveru voči spomenutým spoločnostiam, pokiaľ ide o správu informácií a ich zdieľanie.

„Kým nebude existovať účinný štátny dohľad nad týmito spoločnosťami, súčasní a bývalí zamestnanci sú jedni z mála ľudí, ktorí ich môžu prinútiť zodpovedať sa verejnosti. Prísne dohody o mlčanlivosti nám však bránia v tom, aby sme o svojich obavách hovorili s niekým iným, ako so  samotnými spoločnosťami, ktoré však tieto problémy zrejme neriešia.ˮ

OpenAI reaguje

„Sme hrdí na naše výsledky v poskytovaní najschopnejších a najbezpečnejších systémov umelej inteligencie a veríme v náš vedecký prístup k riešeniu rizík,“ povedala pre New York Times hovorkyňa OpenAI Lindsey Heldová. Ďalej priznala, že vzhľadom na význam tejto technológie je rozhodujúca dôsledná diskusia, a spoločnosť bude pokračovať v spolupráci s vládami, regulačnými orgánmi a ďalšími komunitami na celom svete.

Spoločnosť Google DeepMind na list verejne nereagovala a na žiadosť denníka New York Times o komentár neodpovedala.

Prečítajte si aj