Agent umělé inteligence (AI) z dílny americké společnosti OpenAI v červnu pronikl na australský vládní portál se zdravotními údaji a získal neoprávněný přístup k veřejným i neveřejným souborům. Oznámil to australský premiér Anthony Albanese. Jedná se tak pravděpodobně o první známý případ, kdy AI agent hacknul vládní web.
Útok představuje jeden z nejvýznamnějších incidentů, při nichž agenti AI pronikli do externích systémů mimo USA, a mohl by vyvolat obavy ohledně schopnosti vývojářů udržet tuto technologii pod kontrolou.
Agent od OpenAI získal podle Albaneseho neoprávněný přístup k portálu lékařských statistik vládní agentury Medicare odpovědné za necitlivá zdravotní data a statistiky, včetně veřejných výdajů na zdravotnictví. Podle něj se však nezdá, že by došlo k neoprávněnému přístupu k osobním údajům kohokoli v systému Medicare.
„Z aktuálně dostupných důkazů vyplývá, že nedošlo k širšímu narušení sítě. Tato situace je nicméně samozřejmě nepřijatelná a vyjadřujeme nad ní mimořádné znepokojení přímo generálnímu řediteli OpenAI Samu Altmanovi,“ řekl australský premiér na tiskové konferenci v New Yorku, kde se účastní zasedání Valného shromáždění OSN.
K incidentu došlo poté, co společnosti OpenAI a Anthropic tento měsíc vyzvaly Austrálii, aby přehodnotila zákaz, který jim brání využívat kreativní obsah této země k trénování svých modelů.
„Zaznamenali jsme aktivitu týkající se několika webových stránek a služeb australské vlády, když se naše modely pokoušely vyhledat odpovědi. Naše modely provedly akce, které jsme nezamýšleli. Naše šetření neodhalilo žádné důkazy o tom, že by došlo k přístupu k záznamům o pacientech. Mezi informace, ke kterým byl získán přístup, patřily souhrnné zdravotní statistiky a názvy interních souborů,“ uvedla OpenAI v prohlášení.
OpenAI některé incidenty zveřejňuje se značným zpožděním
Ačkoli se hackerský útok stal v červnu, vláda se o něm dozvěděla teprve před několika týdny. Jde o jeden z několika nedávných incidentů, při nichž OpenAI zveřejnila informace o hackerských útocích nebo neoprávněné činnosti svých agentů AI až dlouho poté, co se staly. V některých případech tak učinila proto, že útok odhalila se zpožděním, v jiných proto, že se nejdříve rozhodla ji nezveřejnit.
Další významný incident, a to vniknutí do open-source úložiště AI Hugging Face v polovině července, byl podle časových os zveřejněných OpenAI a nezávislými vyšetřovateli odhalen teprve asi týden po výskytu. To pomohlo roznítit celosvětovou diskuzi o rizicích, které představují stále výkonnější modely AI.
Konkurenti Anthropic, Gemini od Googlu a Meta rovněž zveřejnili případy, kdy jejich agenti přistupovali k externím systémům.
Někteří z předních amerických manažerů v oblasti AI, včetně Altmana, vyzvali ke zpomalení vývoje této technologie, přičemž mimo jiné poukazovali na hrozbu ničivých kybernetických útoků ze strany agentů, kteří se vymkli kontrole.
AN
Zdroje a obrázky: ABC; Pixabay
