Technologická společnost OpenAI zvažuje zpomalení vývoje nejpokročilejších modelů umělé inteligence (AI). Podle anonymních zdrojů agentury Bloomberg to tento týden zaměstnancům na celofiremním setkání sdělil generální ředitel firmy Sam Altman s tím, že doufá, že ostatní firmy zabývající se AI učiní totéž.
Mohlo by Vás zajímat: Nalákali vás na rychlé peníze? Pyramidová hra alias letadlo připravila tisíce lidí o úspory
Obavy z autonomních agentů sílí. OpenAI i přes chystané IPO zpomaluje vývoj
V posledních týdnech se objevily incidenty, které přispěly k rostoucím obavám z rizik autonomních agentů AI, kteří mohou obcházet pravidla a využívat nečekané způsoby interakce s externími systémy. Altman zaměstnancům řekl, že OpenAI usiluje o koordinaci s dalšími firmami z oboru, ale některé z nich nemusí s návrhem souhlasit.
V posledních týdnech někteří zaměstnanci předních firem zabývajících se AI veřejně vyjádřili obavy stran zvýšených rizik pokročilých systémů AI. To podle Bloombergu vyvolalo znepokojení uvnitř těchto společností. Jak OpenAI, tak konkurenční Anthropic podaly počátkem tohoto roku důvěrné dokumenty nutné ke vstupu na burzu.
OpenAI dříve uvedla, že v poslední době zpomalila některé části vývoje modelů a pozastavila část interního tréninku umělé inteligence kvůli obavám o bezpečnost. V červenci Altman uvedl, že hovořil s představiteli Bílého domu o nutnosti zpomalit tempo vývoje AI.
V posledních měsících podalo výpověď několik zaměstnanců předních výzkumných laboratoří zabývajících se bezpečností umělé inteligence. Výzkumník společnosti Anthropic Jacob Coxon tento týden oznámil, že odchází z firmy i oboru kvůli obavám, že Anthropic a jeho konkurenti příliš rychle vyvíjejí systémy schopné samostatného zdokonalování, které by se podle něj mohly vymknout lidské kontrole.
Nenechte si ujít: TradeLocker vs MetaTrader
„Blíží se endgame?“ Výzkumníci utíkají z AI laboratoří a varují před ztrátou kontroly
Obává se, že takové systémy by mohly zničit lidstvo. Podle něj řada kolegů z oboru nyní při popisu směřování modelů, které se samy vylepšují, používají slova jako „crunchtime“ (rozhodující okamžik) a „endgame“ (závěrečná fáze), tedy výrazy označující, že vývoj se dostává do finále.
Coxon na začátku tohoto roku odešel z OpenAI a nastoupil do Anthropiku, protože podle něj je tato firma známá svým úsilím o bezpečnost modelů. Ačkoli považoval snahy Anthropiku o bezpečnost za upřímné, nyní se domnívá, že žádná společnost nemůže zodpovědně vyvíjet AI, která by v řadě úkolů překonávala lidi, pokud nedojde k zásahu vlády nebo ke koordinovanému zpomalení vývoje odvětví.
Koncem července více než 1000 zaměstnanců ze všech významných společností zabývajících se umělou inteligencí podepsalo petici, v níž požadují zavedení mechanismu zpomalujícího tempo vývoje umělé inteligence.
Čtěte dále: FX Junction
Zdroj: ČTK
