Australský premiér Anthony Albanese oznámil, že agent umělé inteligence (AI) vyvinutý americkou společností OpenAI v červnu pronikl na australský vládní portál se zdravotními údaji a získal neoprávněný přístup k veřejným i neveřejným souborům. Informovala o tom agentura Reuters. Jedná se pravděpodobně o první známý případ, kdy agent AI hacknul vládní webovou stránku.
Mohlo by Vás zajímat: Nalákali vás na rychlé peníze? Pyramidová hra alias letadlo připravila tisíce lidí o úspory
Incident v Austrálii: AI agent od OpenAI pronikl do databáze Medicare
Útok podle Reuters představuje jeden z nejvýznamnějších incidentů, při nichž agenti AI pronikli do externích systémů mimo USA, a mohl by vyvolat obavy ohledně schopnosti vývojářů udržet tuto technologii pod kontrolou.
Agent od OpenAI získal podle Albaneseho neoprávněný přístup k portálu lékařských statistik vládní agentury Medicare odpovědné za necitlivá zdravotní data a statistiky, včetně veřejných výdajů na zdravotnictví. Podle něj se však nezdá, že by došlo k neoprávněnému přístupu k osobním údajům kohokoli v systému Medicare.
„Z aktuálně dostupných důkazů vyplývá, že nedošlo k širšímu narušení sítě. Tato situace je nicméně samozřejmě nepřijatelná a vyjadřujeme nad ní mimořádné znepokojení přímo generálnímu řediteli OpenAI Samu Altmanovi,“ řekl australský premiér na tiskové konferenci v New Yorku, kde se účastní zasedání Valného shromáždění OSN. K incidentu došlo poté, co společnosti OpenAI a Anthropic tento měsíc vyzvaly Austrálii, aby přehodnotila zákaz, který jim brání využívat kreativní obsah této země k trénování svých modelů.
Nenechte si ujít: TradeLocker vs MetaTrader
OpenAI přiznává pochybení svých AI agentů. O incidentu v Austrálii informovala s měsíčním zpožděním
„Zaznamenali jsme aktivitu týkající se několika webových stránek a služeb australské vlády, když se naše modely pokoušely vyhledat odpovědi. Naše modely provedly akce, které jsme nezamýšleli. Naše šetření neodhalilo žádné důkazy o tom, že by došlo k přístupu k záznamům o pacientech. Mezi informace, ke kterým byl získán přístup, patřily souhrnné zdravotní statistiky a názvy interních souborů,“ uvedla OpenAI v prohlášení.
Ačkoli se hackerský útok stal v červnu, vláda se o něm dozvěděla teprve před několika týdny. Jde o jeden z několika nedávných incidentů, při nichž OpenAI zveřejnila informace o hackerských útocích nebo neoprávněné činnosti svých agentů AI až dlouho poté, co se staly. V některých případech tak učinila proto, že útok odhalila se zpožděním, v jiných proto, že se nejdříve rozhodla ji nezveřejnit.
Další významný incident, a to vniknutí do open-source úložiště AI Hugging Face v polovině července, byl podle časových os zveřejněných OpenAI a nezávislými vyšetřovateli odhalen teprve asi týden po výskytu. To pomohlo roznítit celosvětovou diskuzi o rizicích, které představují stále výkonnější modely AI. Konkurenti Anthropic, Gemini od Googlu a Meta rovněž zveřejnili případy, kdy jejich agenti přistupovali k externím systémům. Někteří z předních amerických manažerů v oblasti AI, včetně Altmana, vyzvali ke zpomalení vývoje této technologie, přičemž mimo jiné poukazovali na hrozbu ničivých kybernetických útoků ze strany agentů, kteří se vymkli kontrole.
Nenechte si ujít: Wonderinterest Trading Ltd. recenze
Zdroj: ČTK
