Dyrektorzy firmy Anthropic, OpenAI i innych spółek zajmujących się sztuczną inteligencją (AI) prywatnie rozważają możliwe scenariusze buntu społecznego i politycznego, który mógłby nastąpić po katastrofalnym wydarzeniu związanym z AI. Spodziewają się szeroko zakrojonego zdarzenia, prawdopodobnie cyberataku uniemożliwiającego dostęp do usług finansowych, połączenia z internetem, a nawet dostaw prądu i wody, jak napisał portal Axios.
Nie przegap: TradeLocker vs MetaTrader
Konsekwencje awarii AI: Opor społeczny i presja na polityków
Pierwszy przypadek poważnych szkód spowodowanych przez niebezpieczną AI w prawdziwym świecie nastawiłby już i tak nieufną opinię publiczną przeciwko tej technologii i liderom branży, w tym szefowi Anthropic Dario Amodeiowi oraz szefowi OpenAI Samowi Altmanowi, pisze Axios. Według scenariuszy ludzie mogliby zwrócić się również przeciwko prezydentowi Donaldowi Trumpowi z powodu jego niechęci do regulowania AI.
Chociaż planowanie różnych scenariuszy jest powszechne w wielu firmach i środowiskach bezpieczeństwa narodowego, różnica polega na tym, że, według Axios, wielu wiodących badaczy i liderów w dziedzinie AI uważa, że szeroko zakrojony incydent jest nieunikniony. Jedną z możliwości jest to, że agent AI wymknie się spod kontroli w wewnętrznym środowisku testowym. Złośliwy podmiot mógłby również znaleźć nieoczekiwane sposoby na nadużycie dostępnych modeli AI.
Czytaj dalej: FX Junction
Krytyczne zdarzenie zagrozi w ciągu roku, samoregulacja firm nie wystarczy
Wielu ekspertów z dziedziny sztucznej inteligencji powiedziało Axios, że ich zdaniem w ciągu najbliższych sześciu do dwunastu miesięcy dojdzie do znaczącego wydarzenia. Planowanie koncentruje się między innymi na edukowaniu członków starzejącego się Kongresu USA, który nie nadąża za rewolucją w dziedzinie AI, zauważył portal.
Obawa ta narasta w czasie, gdy firmy technologiczne próbują zdefiniować własne protokoły bezpieczeństwa i tzw. czerwone linie ryzyka, po przekroczeniu których tymczasowo wstrzymałyby rozwój zaawansowanych modeli. Chociaż deweloperzy tacy jak OpenAI czy Anthropic wprowadzają wewnętrzne ramy bezpieczeństwa i deklarują współpracę z rządowymi instytutami bezpieczeństwa AI (AI Safety Institute), krytycy zwracają uwagę, że dobrowolna samoregulacja może nie wystarczyć, aby zapobiec globalnemu incydentowi. Presja na wprowadzenie bardziej rygorystycznych mechanizmów kontroli i międzynarodowych standardów bezpieczeństwa stale rośnie.
Czytaj więcej: eToro – Recenzja znanego brokera
Źródła:
