Dyrektorzy firmy Anthropic, OpenAI i innych przedsiębiorstw zajmujących się sztuczną inteligencją (AI) prywatnie rozważają możliwe scenariusze publicznego i politycznego buntu, do którego mogłoby dojść po katastrofalnym wydarzeniu związanym z AI. Oczekują szeroko zakrojonego incydentu, prawdopodobnie cyberataku uniemożliwiającego dostęp do usług finansowych, połączenia z internetem, a nawet dostaw prądu i wody, jak napisał portal Axios.
Nie przegap: TradeLocker vs MetaTrader
Konsekwencje awarii AI: Sprzeciw społeczny i presja na polityków
Pierwszy przypadek poważnych szkód spowodowanych przez niebezpieczną AI w rzeczywistym świecie nastawiłby już i tak nieufną opinię publiczną przeciwko tej technologii i liderom branży, w tym prezesowi Anthropic Dario Amodei oraz prezesowi OpenAI Samowi Altmanowi, pisze Axios. Według scenariuszy ludzie mogliby również zwrócić się przeciwko prezydentowi Donaldowi Trumpowi z powodu jego niechęci do regulowania AI.
Chociaż planowanie różnych scenariuszy jest powszechne w wielu firmach i środowiskach bezpieczeństwa narodowego, według Axios, różnica polega na tym, że wielu wiodących badaczy i liderów w dziedzinie AI uważa, iż szeroko zakrojony incydent jest nieunikniony. Jedną z możliwości jest, że agent AI wymknie się spod kontroli w wewnętrznym środowisku testowym. Nieuczciwy podmiot mógłby również znaleźć nieoczekiwane sposoby na nadużycie dostępnych modeli AI.
Czytaj dalej: FX Junction
Krytyczne wydarzenie grozi w ciągu roku, samoregulacja firm nie wystarczy
Wielu ekspertów z branży sztucznej inteligencji powiedziało Axiosowi, że według nich w ciągu najbliższych sześciu do dwunastu miesięcy dojdzie do znaczącego wydarzenia. Planowanie koncentruje się między innymi na edukacji członków starzejącego się amerykańskiego Kongresu, który nie nadąża za rewolucją w dziedzinie AI, zauważył portal.
Obawa ta narasta w czasie, gdy firmy technologiczne starają się zdefiniować własne protokoły bezpieczeństwa i tzw. czerwone linie (red lines), których przekroczenie tymczasowo wstrzymałoby rozwój zaawansowanych modeli. Chociaż deweloperzy tacy jak OpenAI czy Anthropic wprowadzają wewnętrzne ramy bezpieczeństwa i deklarują współpracę z rządowymi instytutami bezpieczeństwa AI (AI Safety Institute), krytycy zwracają uwagę, że dobrowolna samoregulacja może nie wystarczyć, aby zapobiec globalnemu incydentowi. Presja na wprowadzenie bardziej rygorystycznych mechanizmów kontroli i międzynarodowych standardów bezpieczeństwa stale rośnie.
Czytaj więcej: eToro – Recenzja znanego brokera
Źródła:
