Az Anthropic, az OpenAI és más mesterséges intelligenciával (AI) foglalkozó vállalatok vezetői zárt ajtók mögött mérlegelik a lehetséges forgatókönyveket egy nyilvános és politikai felkelésre vonatkozóan, amely egy katasztrofális AI-esemény után következhet be. Egy nagyszabású eseményre számítanak, valószínűleg egy olyan kibertámadásra, amely meggátolja a pénzügyi szolgáltatásokhoz, az internethez való hozzáférést, sőt még az áram- és vízellátást is – írta az Axios weboldala.
Ne hagyja ki: TradeLocker vs MetaTrader
Az AI meghibásodásának következményei: Nyilvános ellenállás és nyomás a politikusokra
Az első olyan valós eset, amikor egy veszélyes AI súlyos kárt okoz, már amúgy is bizalmatlan közvéleményt fordítana a technológia és az iparági vezetők, köztük az Anthropic vezetője, Dario Amodei, vagy az OpenAI vezetője, Sam Altman ellen – írja az Axios. A forgatókönyvek szerint az emberek Donald Trump elnök ellen is fordulhatnának, amiért nem hajlandó az AI-t szabályozni.
Bár a különböző forgatókönyvek tervezése számos vállalatnál és nemzetbiztonsági környezetben is szokásos, az Axios szerint a különbség abban rejlik, hogy sok vezető AI-kutató és -vezető hiszi, hogy egy nagyszabású incidens elkerülhetetlen. Az egyik lehetőség, hogy egy AI-ügynök irányíthatatlanná válik egy belső tesztkörnyezetben. Egy rosszindulatú szereplő szintén találhat váratlan módokat a rendelkezésre álló AI-modellek visszaélésére.
Olvassa tovább: FX Junction
Kritikus esemény fenyeget egy éven belül, a vállalatok önszabályozása nem elegendő
Számos mesterséges intelligencia szakértő nyilatkozott az Axiosnak, mondván, véleményük szerint a következő hat-tizenkét hónapban egy jelentős esemény fog bekövetkezni. A tervezés többek között az öregedő amerikai Kongresszus tagjainak oktatására összpontosít, amely nem tart lépést az AI területén zajló forradalommal – jegyezte meg a weboldal.
Ez az aggodalom akkor erősödik, amikor a technológiai vállalatok saját biztonsági protokollokat és ún. vörös vonalakat (red lines) próbálnak meghatározni, amelyek átlépése esetén ideiglenesen felfüggesztenék a fejlett modellek fejlesztését. Annak ellenére, hogy az olyan fejlesztők, mint az OpenAI vagy az Anthropic, belső biztonsági kereteket vezetnek be, és együttműködést hirdetnek az állami AI-biztonsági intézetekkel (AI Safety Institute), a kritikusok arra figyelmeztetnek, hogy az önkéntes önszabályozás nem feltétlenül elegendő egy globális incidens megakadályozására. Ezért folyamatosan nő a szigorúbb ellenőrzési mechanizmusok és nemzetközi biztonsági szabványok bevezetésére irányuló nyomás.
Bővebben: eToro – Egy ismert bróker áttekintése
Források:
