MI-vezetők katasztrófára számítanak, ami lázadáshoz vezethet

Az Anthropic, az OpenAI és más mesterséges intelligenciával (MI) foglalkozó cégek igazgatói zárt ajtók mögött mérlegelik a lehetséges forgatókönyveket, amelyek szerint nyilvános és politikai felkelés törhet ki egy katasztrofális MI-hez kapcsolódó eseményt követően. Széles körű eseményre számítanak, valószínűleg egy olyan kibertámadásra, amely meggátolja a pénzügyi szolgáltatásokhoz, az internet-hozzáféréshez, sőt az áram- és vízellátáshoz való hozzáférést – írta az Axios weboldala.

Ne hagyja ki: TradeLocker vs MetaTrader

Az MI kudarcának következményei: Közfelháborodás és politikai nyomás

Az első olyan eset, amikor valós környezetben veszélyes MI súlyos károkat okoz, az amúgy is bizalmatlan közvéleményt a technológia és az iparág vezetői, köztük az Anthropic vezetője, Dario Amodei, valamint az OpenAI vezetője, Sam Altman ellen fordítaná – írja az Axios. A forgatókönyvek szerint az emberek Donald Trump elnök ellen is fordulhatnának, amiért nem hajlandó az MI-t szabályozni.

Bár a különféle forgatókönyvek tervezése számos vállalatnál és nemzetbiztonsági környezetben is bevett gyakorlat, az Axios szerint a különbség az, hogy sok vezető MI-kutató és iparági vezető úgy véli, egy nagyszabású incidens elkerülhetetlen. Az egyik lehetőség az, hogy egy MI-ügynök irányíthatatlanná válik egy belső tesztkörnyezetben. Egy rosszindulatú szereplő szintén találhat váratlan módokat a rendelkezésre álló MI-modellek kihasználására.

Olvassa el továbbá: FX Junction

Kritikus esemény fenyeget egy éven belül, a cégek önszabályozása nem elegendő

Számos mesterséges intelligencia szakértő nyilatkozott az Axiosnak, miszerint véleményük szerint a következő hat-tizenkét hónapban jelentős eseményre kerül sor. A tervezés többek között az öregedő amerikai Kongresszus tagjainak oktatására összpontosít, akik nem tartják a lépést az MI- forradalommal – jegyezte meg a weboldal.

Ez az aggodalom akkor erősödik, amikor a technológiai cégek megpróbálják meghatározni saját biztonsági protokolljaikat és az úgynevezett kockázati határokat (red lines), amelyek átlépése esetén ideiglenesen felfüggesztenék a fejlett modellek fejlesztését. Annak ellenére, hogy az OpenAI és az Anthropic fejlesztői belső biztonsági keretrendszereket vezetnek be, és együttműködést deklarálnak a kormányzati MI Biztonsági Intézetekkel (AI Safety Institute), a kritikusok arra figyelmeztetnek, hogy az önkéntes önszabályozás nem feltétlenül elegendő egy globális incidens megakadályozására. Így a szigorúbb ellenőrzési mechanizmusok és nemzetközi biztonsági szabványok bevezetésére irányuló nyomás folyamatosan nő.

Olvasson többet: eToro – Egy ismert bróker ismertetője

Források:

author avatar
EditorialTeam
The Trader-Magazine.com EditorialTeam is a collective of certified financial analysts, active traders, and cryptocurrency experts. Our mission is to transform complex market data (forex, equities, indices) into accessible financial education. All content undergoes rigorous, multi-level fact-checking to ensure we deliver only accurate, objective information for your trading and investment decisions.

Top 10 financial instruments for 2022. What will their prospects be in 2023?

The year 2022 has brought countless surprises and obstacles...

Telegram scams: how they work and how to protect yourself

Telegram has become one of the most widely used...

Trump Saved TikTok from a Ban. The App in the U.S. Moves into American Hands

TikTok narrowly avoided a ban in the United States...

Climate Change Poses Major Risks to Financial Markets, Regulator Warns

WASHINGTON — A top financial regulator is opening a...

Golden Brokers Review

Golden Brokers Limited was founded in 2018, it is...

Shares of semiconductor company AMD plunged after a report on its ties to China

Shares of the American company Advanced Micro Devices (AMD),...

Slippage in Trading: Why Your Fill Price Can Differ From the Screen

Slippage in trading occurs when an order executes at...

Buy Limit vs Buy Stop: The Difference Explained on One Price Chart

Two investors want to buy the same stock, currently...

Anthropic Carries Out the Largest Initial Public Offering in History

The initial public offering (IPO) of shares in the...

Gold Falls Despite High Inflation

Gold fell to $3,757 per troy ounce on the...

Global Lack of Control Over Artificial Intelligence Is a Risk, Canadian Prime Minister Says

The lack of global oversight of artificial intelligence (AI)...

Trading Session Times: How Liquidity Changes Through the Global Day

Global financial markets operate across different time zones, but...
spot_img