Svet

Umelá inteligencia môže do desiatich rokov vyhladiť ľudstvo, varuje bývalý výskumník v Anthropicu a OpenAI

Bývalý zamestnanec dvoch vedúcich amerických spoločností zaoberajúcich sa vývojom umelej inteligencie, OpenAI a Anthropic, obvinil svojich bývalých zamestnávateľov z toho, že v pretekoch o vývoj modelov schopných samostatného zlepšovania sa zahrávajú s ľudskými životmi.

„Ani jedna spoločnosť nekoná zodpovedne. Ženú sa priamo k samostatne sa zlepšujúcej superinteligencii a hazardujú s našimi životmi,“ vyhlásil v utorok ( 8. 9.) dvadsaťsedemročný Jacob Coxon. Superinteligencia je teoretický bod, keď schopnosti AI presiahnu ľudskú inteligenciu.

Coxon, ktorý posledné tri roky strávil predtrénovaním AI modelov – najprv v OpenAI a tento rok v konkurenčnom Anthropicu –, sa preto rozhodol túto oblasť úplne opustiť. „Ľudia, ktorí vyvíjajú AI, úprimne veria, že nás to môže do konca desaťročia všetkých zabiť,“ uviedol na platforme X. „Toto nie je marketingový trik,“ dodal.

Bezpečnostný pracovník spoločnosti Anthropic Evan Hubinger Coxona v príspevku na platforme X podporil. „My naozaj úprimne veríme, že AI môže zabiť všetkých ľudí!“ napísal a riziko odhadol na viac než desať percent v priebehu nasledujúceho desaťročia.

Hubinger uviedol, že Anthropic „robí, čo môže“, no zatiaľ nemá plán, ako zabezpečiť, aby systém „s nadľudskými schopnosťami“ poslúchal svojich tvorcov. Pri súčasných modeloch je však podľa neho toto riziko nízke.

Lídri v oblasti umelej inteligencie tvrdia, že tzv. „rekurzívne samostatné zlepšovanie“, t.j. fáza, keď by systémy AI mohli navrhovať a trénovať ďalšiu generáciu modelov s minimálnym zásahom človeka, sa blíži.

Koncom júla viac než 1 000 pracovníkov technologického sektora vrátane generálneho riaditeľa spoločnosti Anthropic Daria Amodeiho požiadalo Washington, aby podporil koordinované spomalenie vývoja najpokročilejších AI systémov.

V nedeľu (6. 9.) šéf výskumu v OpenAI Jakub Pachocki vyzval na „extrémnu opatrnosť“. „Medzinárodná koordinácia budúceho vývoja AI sa musí stať najvyššou prioritou vlád na celom svete,“ napísal na blogu.

Trénujte si mozog s našimi hrami! Sudoku, šachové úlohy, hľadanie rozdielov, solitaire HRAŤ ▶ ZDIEĽAŤ ČLÁNOK