Jedným z rizík umelej inteligencie je zánik ľudstva, varujú zamestnanci popredných AI spoločností v otvorenom liste
Zamestnanci popredných spoločností zaoberajúcich sa umelou inteligenciou OpenAI a Google DeepMind zverejnili v utorok (4. 6. 2024) list, v ktorom varujú pred nebezpečenstvami pokročilej umelej inteligencie. Tvrdia, že spoločnosti uprednostňujú finančné zisky a pred verejnosťou skrývajú nebezbečenstvá umelej inteligencie.
Otvorený list s názvom „Právo na varovanie pred pokročilou umelou inteligenciouˮ podpísalo trinásť zamestnancov, z toho jedenásť súčasných a bývalých zamestnancov spoločnosti OpenAI, ktorá stojí za ChatGPT. Ďalší dvaja signatári sú súčasní a bývalí zamestnanci spoločnosti Google DeepMind. Šesť osôb je anonymných.
Signatári na začiatku listu uvádzajú, že veria v potenciál technológie umelej inteligencie priniesť ľudstvu bezprecedentné výhody. Uvedomujú si však aj vážne riziká, ktoré tieto technológie predstavujú.
„Tieto riziká zahŕňajú prehlbovanie existujúcich nerovností, šírenie manipulácií a dezinformácií, až po stratu kontroly nad autonómnymi systémami umelej inteligencie, čo môže ohroziť samotnú existenciu ľudstva,ˮ varujú experti.
„Dúfame, že tieto riziká sa dajú primerane zmierniť, ak vedecká komunita, tvorcovia politík a verejnosť poskytnú dostatočné usmernenia. Spoločnosti zaoberajúce sa umelou inteligenciou však majú silnú finančnú motiváciu vyhýbať sa účinnému dohľadu a neveríme, že na zmenu tohto stavu stačia riadiace štruktúry spoločností vytvorené na zákazku,” dodávajú podpísaní.
V liste sa ďalej uvádza, že tieto spoločnosti majú dôležité dôverné informácie o možnostiach a obmedzeniach svojich systémov, primeranosti ich ochranných opatrení a úrovni rizika škôd, ktoré by mohli spôsobiť. V súčasnosti však nemajú povinnosť poskytovať tieto informácie s vládami alebo regulačnými orgánmi.
Experti na umelú inteligenciu vyjadrili svoju nedôveru voči spomenutým spoločnostiam, pokiaľ ide o správu informácií a ich zdieľanie.
„Kým nebude existovať účinný štátny dohľad nad týmito spoločnosťami, súčasní a bývalí zamestnanci sú jedni z mála ľudí, ktorí ich môžu prinútiť zodpovedať sa verejnosti. Prísne dohody o mlčanlivosti nám však bránia v tom, aby sme o svojich obavách hovorili s niekým iným, ako so samotnými spoločnosťami, ktoré však tieto problémy zrejme neriešia.ˮ
OpenAI reaguje
„Sme hrdí na naše výsledky v poskytovaní najschopnejších a najbezpečnejších systémov umelej inteligencie a veríme v náš vedecký prístup k riešeniu rizík,“ povedala pre New York Times hovorkyňa OpenAI Lindsey Heldová. Ďalej priznala, že vzhľadom na význam tejto technológie je rozhodujúca dôsledná diskusia, a spoločnosť bude pokračovať v spolupráci s vládami, regulačnými orgánmi a ďalšími komunitami na celom svete.
Spoločnosť Google DeepMind na list verejne nereagovala a na žiadosť denníka New York Times o komentár neodpovedala.
