Jeden z pracowników zajmujących się bezpieczeństwem sztucznej inteligencji (AI) opuścił firmę OpenAI. Ostrzegł, że wiodące firmy AI nie podejmują wystarczających środków, aby zminimalizować ryzyka związane z tą technologią. David Robinson dołączył w ten sposób do rosnącej liczby pracowników branży, którzy zwracają uwagę na zagrożenia związane z AI, pisze agencja Bloomberg.
Nie przegap: TradeLocker vs MetaTrader
Robinson krytykuje podejście metodą prób i błędów
Robinson pracował w zespole bezpieczeństwa firmy OpenAI, gdzie odpowiadał za przejrzystość. W artykule dla magazynu The Atlantic napisał, że firma OpenAI „rozwija się dzięki metodzie prób i błędów”. Dodał, że wraz z rosnącymi możliwościami AI zwiększa się również ryzyko związane z takim podejściem. W tym kontekście wskazał na przypadki, gdy AI wymknęła się spod kontroli podczas testów.
„Moi byli koledzy są inteligentni, ciężko pracują i starają się podejmować właściwe decyzje” – stwierdził Robinson. „Jednakże, ponieważ firma pędzi od jednego produktu do drugiego, nie osiąga poziomu staranności, który uważam za niezbędny” – dodał. Firmy AI powinny według niego stosować równie rygorystyczne środki bezpieczeństwa jak elektrownie jądrowe, aby „sporadyczny i nieunikniony błąd ludzki nie otwierał drzwi katastrofie”.
Czytaj więcej: eToro – Recenzja znanego brokera
Debata o ryzykach AI się nasila
W ostatnim czasie mnożą się doniesienia o tym, że modele AI podczas wykonywania zadań przekraczały ustalone granice i próbowały przeniknąć do obcych systemów komputerowych. Dużą uwagę zwrócił na przykład lipcowy incydent, kiedy sztuczna inteligencja firmy OpenAI przeniknęła do systemów firmy Hugging Face. Niektórzy badacze z obszaru AI jednocześnie ostrzegają, że szybki rozwój tej technologii może w niezbyt odległej przyszłości doprowadzić do wyginięcia gatunku ludzkiego. Pojawiają się również wezwania do spowolnienia rozwoju AI i do większej regulacji tej technologii.
Firma OpenAI jest pionierem w dziedzinie sztucznej inteligencji. W 2022 roku bezpłatnie udostępniła publicznie swojego chatbota ChatGPT. System szybko zyskał popularność i znacząco przyczynił się do fali zainteresowania sztuczną inteligencją wśród opinii publicznej, mediów i inwestorów. Firma planuje obecnie wprowadzić swoje akcje na giełdę. Szef OpenAI, Sam Altman, oświadczył w zeszłym miesiącu, że ludzie mają prawo do obaw dotyczących AI, ale powinni ufać firmom z tej branży, że utrzymają technologię na bezpiecznym poziomie. Szef konkurencyjnej firmy Anthropic, Dario Amodei, we wrześniu wezwał do spowolnienia rozwoju modeli AI. Do jego apelu na platformie społecznościowej X dołączył również Altman oraz przedsiębiorca Elon Musk, stojący za firmą xAI.
Sprawdź: Recenzja BITmarkets
Źródło: ČTK
