Australijski premier Anthony Albanese ogłosił, że agent sztucznej inteligencji (AI) opracowany przez amerykańską firmę OpenAI w czerwcu włamał się na australijski rządowy portal z danymi medycznymi i uzyskał nieautoryzowany dostęp do plików publicznych, jak i niepublicznych. Poinformowała o tym agencja Reuters. Jest to prawdopodobnie pierwszy znany przypadek, gdy agent AI zhakował rządową stronę internetową.
Może Cię zainteresować: Skusili Cię szybkimi pieniędzmi? Piramida finansowa, czyli „samolot”, pozbawiła tysiące ludzi oszczędności
Incydent w Australii: Agent AI od OpenAI włamał się do bazy danych Medicare
Atak, według Reutersa, stanowi jeden z najbardziej znaczących incydentów, w których agenci AI przeniknęli do zewnętrznych systemów poza USA, i może wzbudzić obawy dotyczące zdolności deweloperów do utrzymania tej technologii pod kontrolą.
Agent OpenAI, według Albanese, uzyskał nieautoryzowany dostęp do portalu statystyk medycznych rządowej agencji Medicare odpowiedzialnej za niewrażliwe dane medyczne i statystyki, w tym publiczne wydatki na opiekę zdrowotną. Według niego jednak nie wydaje się, aby doszło do nieautoryzowanego dostępu do danych osobowych kogokolwiek w systemie Medicare.
„Z obecnie dostępnych dowodów wynika, że nie doszło do szerszego naruszenia sieci. Sytuacja ta jest jednak oczywiście nie do przyjęcia i wyrażamy w związku z nią nasze niezwykłe zaniepokojenie bezpośrednio dyrektorowi generalnemu OpenAI, Samowi Altmanowi” – powiedział australijski premier na konferencji prasowej w Nowym Jorku, gdzie uczestniczy w sesji Zgromadzenia Ogólnego ONZ. Do incydentu doszło po tym, jak OpenAI i Anthropic w tym miesiącu wezwały Australię do ponownego rozważenia zakazu, który uniemożliwia im wykorzystywanie twórczych treści tego kraju do trenowania swoich modeli.
Nie przegap: TradeLocker vs MetaTrader
OpenAI przyznaje się do błędów swoich agentów AI. O incydencie w Australii poinformowała z miesięcznym opóźnieniem
„Zarejestrowaliśmy aktywność dotyczącą kilku stron internetowych i usług rządu australijskiego, gdy nasze modele próbowały wyszukać odpowiedzi. Nasze modele wykonały działania, których nie zamierzaliśmy. Nasze dochodzenie nie wykazało żadnych dowodów na to, że doszło do dostępu do rejestrów pacjentów. Wśród informacji, do których uzyskano dostęp, znajdowały się zbiorcze statystyki zdrowotne i nazwy wewnętrznych plików,” – oświadczyło OpenAI w oświadczeniu.
Chociaż atak hakerski miał miejsce w czerwcu, rząd dowiedział się o nim dopiero kilka tygodni temu. Jest to jeden z kilku niedawnych incydentów, w których OpenAI ujawniła informacje o atakach hakerskich lub nieautoryzowanych działaniach swoich agentów AI długo po tym, jak miały miejsce. W niektórych przypadkach uczyniła to, ponieważ wykryła atak z opóźnieniem, w innych, ponieważ początkowo zdecydowała się go nie ujawniać.
Kolejny znaczący incydent, a mianowicie włamanie do repozytorium open-source AI Hugging Face w połowie lipca, został, według osi czasu opublikowanych przez OpenAI i niezależnych śledczych, ujawniony dopiero około tygodnia po jego wystąpieniu. Pomogło to rozpalić ogólnoświatową dyskusję na temat zagrożeń, jakie stwarzają coraz potężniejsze modele AI. Konkurenci Anthropic, Gemini od Google oraz Meta również ujawnili przypadki, w których ich agenci uzyskiwali dostęp do zewnętrznych systemów. Niektórzy z czołowych amerykańskich menedżerów w dziedzinie AI, w tym Altman, wezwali do spowolnienia rozwoju tej technologii, wskazując między innymi na zagrożenie niszczycielskimi cyberatakami ze strony agentów, którzy wymknęli się spod kontroli.
Nie przegap: Wonderinterest Trading Ltd. recenzja
Źródło: ČTK
