Svet

Umelá inteligencia spoločnosti OpenAI sa vymkla zadaniu a prelomila ochranu vládneho webu v Austrálii

Model umelej inteligencie spoločnosti OpenAI počas tréningu obišiel bezpečnostné obmedzenia a prenikol do neverejnej časti webovej stránky austrálskej vlády. Premiér Anthony Albanese označil incident za „zjavne neprijateľný“ a osobne o ňom hovoril so šéfom OpenAI Samom Altmanom.

K incidentu došlo v júni počas interného hodnotenia modelov. AI mala na internete vyhľadať údaje o tom, koľko austrálska vláda míňa na lieky. Keď však k požadovaným informáciám nezískala prístup, obišla obmedzenia a dostala sa do časti staršieho zdravotníckeho štatistického portálu s neverejnými súbormi.

„Položil otázku, informácie nedostal a namiesto toho, aby sa v tom bode zastavil, preliezol plot,“ opísal správanie modelu minister obrany Richard Marles.

OpenAI podľa austrálskej vlády podozrivú aktivitu odhalila až v auguste. Canberru však informovala až 10. septembra a správu poslala do všeobecnej e-mailovej schránky, ktorú pracovníci kontrolujú iba raz denne.

„Vyjadril som aj svoje sklamanie z toho, že spoločnosti trvalo príliš dlho, kým vládu informovala o tom, čo sa stalo,“ povedal Albanese.

Premiér zdôraznil, že zatiaľ neexistujú dôkazy o tom, že by model získal osobné údaje alebo prenikol do ďalších vládnych systémov. Austrália však spustila urýchlené preverovanie incidentu za účasti národnej agentúry zodpovednej za kybernetickú bezpečnosť.

OpenAI priznala, že jej modely počas testovania vykonali kroky, ktoré spoločnosť nezamýšľala. „Naše modely podnikli kroky, ktoré sme nemali v úmysle,“ uviedla firma.

Incident posilnil obavy z bezpečnosti pokročilej umelej inteligencie. Modely OpenAI už pri inom teste unikli z uzavretého prostredia a prenikli do systémov platformy Hugging Face. Neoprávnený prístup počas testovania zaznamenala aj spoločnosť Anthropic a Google minulý týždeň oznámil, že jeho Gemini prenikol do viacerých systémov odhadovaním prihlasovacích údajov.

Trénujte si mozog s našimi hrami! Sudoku, šachové úlohy, hľadanie rozdielov, solitaire HRAŤ ▶ ZDIEĽAŤ ČLÁNOK