Ze společnosti OpenAI odešel jeden ze zaměstnanců působících v oblasti bezpečnosti umělé inteligence (AI). Varoval, že přední AI firmy nepodnikají dostatečná opatření k minimalizaci rizik souvisejících s touto technologií. David Robinson se tak připojil k rostoucímu počtu pracovníků v odvětví, kteří poukazují na hrozby spojené s AI, píše agentura Bloomberg.
Nenechte si ujít: TradeLocker vs MetaTrader
Robinson kritizuje přístup metodou pokus-omyl
Robinson působil v bezpečnostním týmu společnosti OpenAI, ve kterém měl na starosti transparentnost. V článku pro časopis The Atlantic napsal, že firma OpenAI „prosperuje díky metodě pokus-omyl“. Dodal, že s rostoucími schopnostmi AI se zvyšují rovněž rizika spojená s takovýmto přístupem. Poukázal v této souvislosti na případy, kdy se AI během testů vymkla kontrole.
„Moji bývalí kolegové jsou chytří, tvrdě pracují a snaží se dělat správná rozhodnutí,“ uvedl Robinson. „Protože se však firma žene od jednoho produktu ke druhému, nedosahuje takové úrovně pečlivosti, kterou pokládám za potřebnou,“ dodal. AI firmy by podle něj měly používat podobně přísná bezpečnostní opatření jako jaderné elektrárny, aby „občasná a nevyhnutelná lidská chyba neotevírala dveře katastrofě“.
Čtěte více: eToro – Recenze známého brokera
Debata o rizicích AI sílí
V poslední době se množí zprávy o tom, že AI modely při plnění zadaných úkolů překročily stanovené hranice a pokusily se proniknout do cizích počítačových systémů. Velkou pozornost vyvolal například červencový incident, kdy umělá inteligence společnosti OpenAI pronikla do systémů firmy Hugging Face. Někteří výzkumní pracovníci z oblasti AI zároveň varují, že rychlý rozvoj této technologie by mohl v nepříliš vzdálené budoucnosti vést k zániku lidského druhu. Objevují se rovněž výzvy ke zpomalení vývoje AI a k větší regulaci této technologie.
Společnost OpenAI je průkopníkem v oblasti umělé inteligence. V roce 2022 zdarma zpřístupnila veřejnosti svého chatbota ChatGPT. Systém si rychle získal popularitu a výrazně přispěl k vlně zájmu veřejnosti, médií a investorů o umělou inteligenci. Firma nyní plánuje uvést své akcie na burzu. Šéf OpenAI Sam Altman minulý měsíc prohlásil, že lidé mají právo na obavy ohledně AI, ale měli by firmám z tohoto odvětví důvěřovat, že technologii udrží na bezpečné úrovni. Šéf konkurenční společnosti Anthropic Dario Amodei v září vyzval ke zpomalení vývoje modelů AI. K jeho výzvě se na sociální síti X připojil také Altman či podnikatel Elon Musk, který stojí za firmou xAI.
Podívejte se na: Recenze BITmarkets
Zdroj: ČTK
