Ředitelé společností Anthropic, OpenAI a dalších firem zabývajících se umělou inteligencí (AI) v soukromí zvažují možné scénáře veřejné a politické vzpoury, k níž by mohlo dojít po katastrofické události spojené s AI. Očekávají rozsáhlou událost, pravděpodobně kybernetický útok znemožňující přístup k finančním službám, k připojení k internetu nebo dokonce k dodávkám elektřiny a vody, napsal web Axios.
Nenechte si ujít: TradeLocker vs MetaTrader
Důsledky selhání AI: Odpor veřejnosti a tlak na politiky
První případ závažné škody způsobené nebezpečnou AI ve skutečném světě by poštval již tak nedůvěřivou veřejnost proti této technologii a proti lídrům v odvětví, včetně šéfa Anthropiku Daria Amodeie či šéfa OpenAI Sama Altmana, píše Axios. Lidé by se podle scénářů mohli obrátit i proti prezidentu Donaldu Trumpovi kvůli jeho neochotě AI regulovat.
Ačkoliv plánování různých scénářů je v mnoha společnostech i prostředích národní bezpečnosti běžné, rozdíl je podle Axiosu v tom, že mnoho předních výzkumníků a lídrů v oblasti AI věří, že rozsáhlý incident je nevyhnutelný. Jednou možností je, že AI agent se vymkne kontrole vnitřního testovacího prostředí. Nekalý aktér by rovněž mohl najít nečekané způsoby, jak dostupné modely AI zneužít.
Čtěte dále: FX Junction
Kritická událost hrozí do roka, samoregulace firem nestačí
Řada odborníků z oboru umělé inteligence sdělila Axiosu, že podle nich dojde v příštích šesti až dvanácti měsících k významné události. Plánování se mimo jiné soustředí na vzdělávání členů stárnoucího amerického Kongresu, který nedrží krok s revolucí v oblasti AI, poznamenal web.
Tato obava sílí v době, kdy se technologické firmy snaží definovat vlastní bezpečnostní protokoly a tzv. hranice rizika (red lines), při jejichž překročení by vývoj pokročilých modelů dočasně pozastavily. Přestože vývojáři jako OpenAI či Anthropic zavádějí interní bezpečnostní rámce a deklarují spolupráci s vládními instituty pro bezpečnost AI (AI Safety Institute), kritikové upozorňují, že dobrovolná samoregulace k zamezení globálního incidentu nemusí stačit. Tlak na zavedení přísnějších kontrolních mechanismů a mezinárodních bezpečnostních standardů tak neustále roste.
Čtěte více: eToro – Recenze známého brokera
Zdroje:
