Az OpenAI technológiai vállalat fontolóra veszi a legfejlettebb mesterséges intelligencia (AI) modellek fejlesztésének lassítását. Névtelen források szerint a Bloomberg ügynökség információi alapján Sam Altman vezérigazgató ezt a héten egy céges találkozón közölte a munkavállalókkal, és kifejezte reményét, hogy más AI-vállalatokis hasonlóan járnak majd el.
Érdekelheti: Gyors pénzzel csábítottak? A piramisjáték alias repülőgép emberek ezreit fosztotta meg megtakarításaiktól
Az autonóm ügynököktől való aggodalom erősödik. Az OpenAI a tervezett tőzsdei bevezetés ellenére is lassítja a fejlesztést
Az elmúlt hetekben olyan incidensek történtek, amelyek hozzájárultak az autonóm AI-ügynökök kockázataitól való növekvő aggodalmakhoz, mivel ezek képesek megkerülni a szabályokat és váratlan módokon interakcióba lépni külső rendszerekkel. Altman elmondta a munkavállalóknak, hogy az OpenAI az ágazat más vállalatival való koordinációra törekszik, de néhányuk esetleg nem ért egyet a javaslattal.
Az elmúlt hetekben a vezető AI-vállalatokból több munkavállaló nyilvánosan kifejezte aggodalmait a fejlett AI-rendszerek megnövekedett kockázataival kapcsolatban. Ez a Bloomberg szerint aggodalmat váltott ki ezekben a vállalatokon belül. Mind az OpenAI, mind a konkurens Anthropic benyújtotta az idei év elején a tőzsdei bevezetéshez szükséges bizalmas dokumentumokat.
Az OpenAI korábban közölte, hogy az utóbbi időben lelassított a modellfejlesztés egyes részei, és felfüggesztette a mesterséges intelligencia belső képzésének egy részét biztonsági aggályok miatt. Júliusban Altman kijelentette, hogy tárgyalt a Fehér Ház képviselőivel az AI-fejlesztés tempójának lassításának szükségességéről.
Az elmúlt hónapokban több munkavállaló mondott fel a vezető mesterséges intelligencia biztonsági kutatólaboratóriumokból. Az Anthropic kutatója, Jacob Coxon ezen a héten bejelentette, hogy elhagyja a vállalatot és az ágazatot is, amiatt aggódva, hogy az Anthropic és versenytársai túl gyorsan fejlesztenek olyan, önmaguk tökéletesítésére képes rendszereket, amelyek szerinte kicsúszhatnak az emberi ellenőrzés alól.
Ne hagyja ki: TradeLocker vs MetaTrader
„Közeledik a végjáték?” Kutatók menekülnek az AI-laboratóriumokból és figyelmeztetnek az ellenőrzés elvesztése előtt
Attól tart, hogy az ilyen rendszerek elpusztíthatják az emberiséget. Elmondása szerint számos szakmai kollégája mostanában olyan szavakat használ, mint „crunchtime” (döntő pillanat) és „endgame” (végső fázis), amikor az önmagukat fejlesztő modellek irányát írják le, tehát olyan kifejezéseket, amelyek azt jelzik, hogy a fejlesztés a befejező szakaszba lép.
Coxon az idei év elején hagyta el az OpenAI-t és csatlakozott az Anthropichoz, mivel szerinte ez a vállalat ismert a modellek biztonsága iránti elkötelezettségéről. Bár az Anthropic biztonsági erőfeszítéseit őszintének tartotta, most úgy véli, hogy egyetlen vállalat sem fejleszthet felelősségteljesen olyan AI-t, amely számos feladatban felülmúlná az embereket, hacsak nem történik kormányzati beavatkozás vagy az iparág összehangolt lassítása.
Július végén több mint 1000 munkavállaló az összes jelentős mesterséges intelligenciával foglalkozó vállalatból írt alá egy petíciót, amelyben a mesterséges intelligencia fejlesztési tempóját lassító mechanizmus bevezetését követelik.
Olvassa tovább: FX Junction
Forrás: ČTK
