Az OpenAI egyik, a mesterséges intelligencia (AI) biztonsági területén dolgozó alkalmazottja távozott a cégtől. Figyelmeztetett, hogy a vezető AI vállalatok nem tesznek elegendő intézkedést a technológiával kapcsolatos kockázatok minimalizálására. David Robinson ezzel az iparágban egyre növekvő számú dolgozóhoz csatlakozott, akik rámutatnak az AI-val járó veszélyekre – írja a Bloomberg hírügynökség.
Ne hagyja ki: TradeLocker vs MetaTrader
Robinson kritizálja a próba-szerencse módszert
Robinson az OpenAI biztonsági csapatában dolgozott, ahol az átláthatóságért volt felelős. A The Atlantic magazinban megjelent cikkében azt írta, hogy az OpenAI cég „a próba-szerencse módszernek köszönhetően virágzik”. Hozzátette, hogy az AI növekvő képességeivel együtt az ilyen megközelítéssel járó kockázatok is növekednek. Ezzel összefüggésben rámutatott olyan esetekre, amikor az AI a tesztek során ellenőrizhetetlenné vált.
„Volt kollégáim okosak, keményen dolgoznak és igyekeznek helyes döntéseket hozni” – mondta Robinson. „Mivel azonban a cég egyik termékről a másikra rohan, nem éri el azt a gondosságot, amelyet szükségesnek tartok” – tette hozzá. Az AI cégeknek szerinte hasonlóan szigorú biztonsági intézkedéseket kellene alkalmazniuk, mint az atomerőműveknek, hogy „az alkalmi és elkerülhetetlen emberi hiba ne nyisson kaput a katasztrófának”.
Olvasson tovább: eToro – Egy ismert bróker áttekintése
Erősödik az AI kockázatairól szóló vita
Az utóbbi időben megszaporodtak a jelentések arról, hogy az AI modellek a kijelölt feladatok teljesítése során túllépték a megszabott határokat, és megpróbáltak behatolni idegen számítógépes rendszerekbe. Nagy figyelmet keltett például a júliusi incidens, amikor az OpenAI mesterséges intelligenciája behatolt a Hugging Face cég rendszereibe. Egyes AI kutatók egyúttal arra figyelmeztetnek, hogy a technológia gyors fejlődése nem túl távoli jövőben az emberi faj pusztulásához vezethet. Emellett felhívások is megjelennek az AI fejlesztésének lassítására és a technológia nagyobb szabályozására.
Az OpenAI vállalat úttörő a mesterséges intelligencia területén. 2022-ben ingyenesen elérhetővé tette a nyilvánosság számára ChatGPT chatbotját. A rendszer gyorsan népszerűvé vált, és jelentősen hozzájárult a nyilvánosság, a média és a befektetők mesterséges intelligencia iránti érdeklődésének hullámához. A cég most tervezi bevezetni részvényeit a tőzsdére. Sam Altman, az OpenAI vezetője a múlt hónapban kijelentette, hogy az embereknek joguk van aggódni az AI miatt, de bízniuk kellene az iparág cégeiben, hogy biztonságos szinten tartják a technológiát. A konkurencia, az Anthropic vállalat vezetője, Dario Amodei szeptemberben az AI modellek fejlesztésének lassítására szólított fel. Felhívásához az X közösségi hálózaton Altman, valamint Elon Musk vállalkozó is csatlakozott, aki az xAI cég mögött áll.
Tekintse meg: BITmarkets áttekintés
Forrás: ČTK
