Az Anthropic, az OpenAI és más mesterséges intelligenciával (MI) foglalkozó cégek igazgatói zárt ajtók mögött mérlegelik a lehetséges forgatókönyveket, amelyek szerint nyilvános és politikai felkelés törhet ki egy katasztrofális MI-hez kapcsolódó eseményt követően. Széles körű eseményre számítanak, valószínűleg egy olyan kibertámadásra, amely meggátolja a pénzügyi szolgáltatásokhoz, az internet-hozzáféréshez, sőt az áram- és vízellátáshoz való hozzáférést – írta az Axios weboldala.
Ne hagyja ki: TradeLocker vs MetaTrader
Az MI kudarcának következményei: Közfelháborodás és politikai nyomás
Az első olyan eset, amikor valós környezetben veszélyes MI súlyos károkat okoz, az amúgy is bizalmatlan közvéleményt a technológia és az iparág vezetői, köztük az Anthropic vezetője, Dario Amodei, valamint az OpenAI vezetője, Sam Altman ellen fordítaná – írja az Axios. A forgatókönyvek szerint az emberek Donald Trump elnök ellen is fordulhatnának, amiért nem hajlandó az MI-t szabályozni.
Bár a különféle forgatókönyvek tervezése számos vállalatnál és nemzetbiztonsági környezetben is bevett gyakorlat, az Axios szerint a különbség az, hogy sok vezető MI-kutató és iparági vezető úgy véli, egy nagyszabású incidens elkerülhetetlen. Az egyik lehetőség az, hogy egy MI-ügynök irányíthatatlanná válik egy belső tesztkörnyezetben. Egy rosszindulatú szereplő szintén találhat váratlan módokat a rendelkezésre álló MI-modellek kihasználására.
Olvassa el továbbá: FX Junction
Kritikus esemény fenyeget egy éven belül, a cégek önszabályozása nem elegendő
Számos mesterséges intelligencia szakértő nyilatkozott az Axiosnak, miszerint véleményük szerint a következő hat-tizenkét hónapban jelentős eseményre kerül sor. A tervezés többek között az öregedő amerikai Kongresszus tagjainak oktatására összpontosít, akik nem tartják a lépést az MI- forradalommal – jegyezte meg a weboldal.
Ez az aggodalom akkor erősödik, amikor a technológiai cégek megpróbálják meghatározni saját biztonsági protokolljaikat és az úgynevezett kockázati határokat (red lines), amelyek átlépése esetén ideiglenesen felfüggesztenék a fejlett modellek fejlesztését. Annak ellenére, hogy az OpenAI és az Anthropic fejlesztői belső biztonsági keretrendszereket vezetnek be, és együttműködést deklarálnak a kormányzati MI Biztonsági Intézetekkel (AI Safety Institute), a kritikusok arra figyelmeztetnek, hogy az önkéntes önszabályozás nem feltétlenül elegendő egy globális incidens megakadályozására. Így a szigorúbb ellenőrzési mechanizmusok és nemzetközi biztonsági szabványok bevezetésére irányuló nyomás folyamatosan nő.
Olvasson többet: eToro – Egy ismert bróker ismertetője
Források:
