Americká společnost OpenAI chce důsledněji informovat o případech, kdy se její systémy využívající umělou inteligenci vymknou kontrole nebo se zachovají neočekávaným či znepokojivým způsobem. Firma proto představila nový systém pro sledování, vyšetřování a zveřejňování těchto incidentů.
Nenechte si ujít: TradeLocker vs MetaTrader
OpenAI zavádí nový systém pro hlášení incidentů
OpenAI zároveň informovala o šesti dříve nezveřejněných incidentech, které zaznamenala v uplynulých šesti měsících. Patřily mezi ně například případy zatajování informací před uživateli nebo vytváření falešných informací. Společnost uvedla, že její dosavadní informování o podobných událostech bylo méně systematické a méně časté, než by bylo ideální.
Nový systém má zajistit rychlejší zveřejňování informací, a to i v případech, kdy firma ještě nedokázala přesně určit příčinu nebo význam konkrétního incidentu. OpenAI upozorňuje, že některé zveřejněné případy se mohou později ukázat jako nahodilé události bez širšího významu nebo souvislosti s dalším vývojem technologií.
Čtěte více: eToro – Recenze známého brokera
Bezpečnost AI zůstává předmětem rostoucí debaty
Šéf OpenAI Sam Altman tento týden uvedl, že lidé mají právo mít z umělé inteligence obavy, zároveň by ale podle něj měli firmám v tomto odvětví důvěřovat, že technologii udrží na bezpečné úrovni. Šéf konkurenční společnosti Anthropic Dario Amodei mezitím vyzval ke zpomalení vývoje modelů AI. K této výzvě se na sociální síti X připojili také Altman a podnikatel Elon Musk.
Část výzkumníků dlouhodobě varuje před riziky spojenými s rychlým rozvojem umělé inteligence. Finanční ředitelka OpenAI Sarah Friarová uvedla, že se neobává scénáře, ve kterém by AI použila proti lidem zbraně hromadného ničení, zároveň však zdůraznila nutnost brát bezpečnostní otázky vážně. OpenAI, která v roce 2022 zpřístupnila veřejnosti ChatGPT, nyní zároveň plánuje vstup se svými akciemi na burzu.
Podívejte se na: Recenze BITmarkets
Zdroj: ČTK
