Kilka tygodni po hakerskim ataku na model sztucznej inteligencji (AI) firmy OpenAI, twórcy ChatGPT, jej konkurent Anthropic przyznał, że spotkało go coś podobnego. Podczas testowania sztuczna inteligencja firmy Anthropic nieplanowo włamała się do systemów komputerowych trzech firm, poinformowała firma na swoim blogu. Fakt, że model AI podczas testu z własnej inicjatywy stał się hakerem został uznany za bezprecedensowy incydent i sygnał ostrzegawczy dla branży technologicznej, jednak teraz jasne jest, że nie był to odosobniony przypadek, podała agencja DPA.
Może Cię zainteresować: Krypto oszustwo: Jak rozpoznać scam i chronić swoje pieniądze, zanim będzie za późno
Po incydencie w OpenAI problem zgłasza również Anthropic
Anthropic ani dotknięte firmy nie zauważyły incydentu. Aktywność wykrył Anthropic dopiero podczas kolejnej kontroli ponad 141 000 uruchomień testowych. Rozpoczął ją po incydencie firmy OpenAI, gdy jej autonomiczny agent podczas testu bezpieczeństwa wymknął się spod kontroli i rozpoczął atak, który zagroził infrastrukturze firmy Hugging Face.
W przeciwieństwie do modelu OpenAI, który musiał znaleźć drogę ze środowiska testowego do otwartego internetu, modele Anthropic miały sytuację znacznie prostszą. Scenariusz testowy wprawdzie wskazywał, że nie mają dostępu do internetu, jednak z powodu nieporozumienia z partnerem zapewniającym test, połączenie internetowe pozostało otwarte przez cały czas. Trzy modele wykorzystały tę możliwość, poinformowała firma Anthropic.
Testy miały zweryfikować zdolności AI podczas ataków hakerskich, co firmy rutynowo robią, aby wykryć potencjalne zagrożenia i ustanowić skuteczniejsze środki bezpieczeństwa. Modele otrzymały zadanie zdobycia konkretnej informacji zapisanej w innym komputerze, przy czym do jej uzyskania musiały włamać się do docelowego systemu. Incydenty dotyczyły trzech oddzielnych modeli, a najstarszy przypadek miał miejsce w kwietniu.
Czytaj więcej: eToro – Recenzja znanego brokera
Zawodność „bezpiecznej” AI
W jednym z incydentów partner zapewniający test wybrał dla fikcyjnej firmy nazwę, która jednak odpowiadała rzeczywistemu adresowi internetowemu. AI następnie zamiast symulowanego celu skupiła się na realnie istniejącej firmie i podczas czterech uruchomień testowych próbowała włamać się do systemów, między innymi uzyskała dostęp do bazy danych. W ataku kontynuowała nawet po rozpoznaniu, że chodzi o rzeczywistą firmę.
W innym teście model Anthropic stworzył szkodliwe oprogramowanie do włamania się do docelowego komputera. Dzięki dostępowi do internetu opublikował je na specjalistycznej platformie, skąd w ciągu około godziny pobrało go 15 systemów. Wśród nich była firma zajmująca się cyberbezpieczeństwem, która takie skrypty rutynowo pobiera i uruchamia w celu ich testowania. Model Anthropic uzyskał w ten sposób dostęp do infrastruktury komputerowej tej firmy.
Eksperci od dłuższego czasu ostrzegają, że coraz bardziej zaawansowane modele AI mogą być wykorzystywane do cyberataków. Incydent firmy OpenAI uznali więc za ostrzeżenie i wezwali do lepszego zabezpieczenia środowisk testowych. Nowo ujawnione przypadki są nieprzyjemne również dla Anthropic, który od dawna profiluje się jako zwolennik odpowiedzialnego rozwoju AI. Firma poinformowała, że wydarzenia pokazują konieczność znacznego wzmocnienia zabezpieczenia wewnętrznych i zewnętrznych środowisk testowych, ponieważ modele AI są coraz bardziej zdolne do przeprowadzania realnych cyberataków.
Zobacz również: Recenzja BITmarkets
Źródło: ČTK
