Firma technologiczna OpenAI rozważa spowolnienie rozwoju najbardziej zaawansowanych modeli sztucznej inteligencji (AI). Według anonimowych źródeł agencji Bloomberg, w tym tygodniu dyrektor generalny firmy Sam Altman poinformował o tym pracowników na ogólnofirmowym spotkaniu, wyrażając nadzieję, że inne firmy zajmujące się AI uczynią to samo.
Może Cię zainteresować: Zwabili was szybkim zyskiem? Gra piramidowa alias samolot pozbawiła tysiące osób oszczędności
Obawy przed autonomicznymi agentami narastają. OpenAI mimo planowanego IPO zwalnia rozwój
W ostatnich tygodniach pojawiły się incydenty, które przyczyniły się do rosnących obaw przed ryzykiem związanym z autonomicznymi agentami AI, którzy mogą omijać zasady i wykorzystywać nieoczekiwane sposoby interakcji z systemami zewnętrznymi. Altman powiedział pracownikom, że OpenAI dąży do koordynacji z innymi firmami z branży, ale niektóre z nich mogą nie zgodzić się na propozycję.
W ostatnich tygodniach niektórzy pracownicy czołowych firm zajmujących się AI publicznie wyrazili obawy dotyczące zwiększonych ryzyk zaawansowanych systemów AI. Według Bloomberga wywołało to niepokój wewnątrz tych firm. Zarówno OpenAI, jak i konkurencyjny Anthropic złożyły na początku tego roku poufne dokumenty niezbędne do wejścia na giełdę.
OpenAI wcześniej poinformowała, że ostatnio spowolniła niektóre części rozwoju modeli i wstrzymała część wewnętrznego treningu sztucznej inteligencji z powodu obaw o bezpieczeństwo. W lipcu Altman stwierdził, że rozmawiał z przedstawicielami Białego Domu o konieczności spowolnienia tempa rozwoju AI.
W ostatnich miesiącach wypowiedzi złożyło kilku pracowników czołowych laboratoriów badawczych zajmujących się bezpieczeństwem sztucznej inteligencji. Badacz z firmy Anthropic Jacob Coxon ogłosił w tym tygodniu, że odchodzi z firmy i branży z powodu obaw, że Anthropic i jego konkurenci zbyt szybko rozwijają systemy zdolne do samodzielnego doskonalenia się, które jego zdaniem mogłyby wymknąć się spod ludzkiej kontroli.
Nie przegap: TradeLocker vs MetaTrader
„Zbliża się endgame?” Badacze uciekają z laboratoriów AI i ostrzegają przed utratą kontroli
Obawia się, że takie systemy mogłyby zniszczyć ludzkość. Według niego szereg kolegów z branży używa obecnie przy opisie kierunku rozwoju modeli, które same się ulepszają, słów takich jak „crunchtime” (decydujący moment) i „endgame” (faza końcowa), czyli wyrażeń oznaczających, że rozwój wchodzi w fazę finałową.
Coxon na początku tego roku odszedł z OpenAI i dołączył do Anthropic, ponieważ według niego ta firma jest znana ze starań o bezpieczeństwo modeli. Chociaż uważał wysiłki Anthropic na rzecz bezpieczeństwa za szczere, obecnie sądzi, że żadna firma nie może odpowiedzialnie rozwijać AI, która przewyższałaby ludzi w wielu zadaniach, jeśli nie nastąpi interwencja rządu lub skoordynowane spowolnienie rozwoju branży.
Pod koniec lipca ponad 1000 pracowników ze wszystkich znaczących firm zajmujących się sztuczną inteligencją podpisało petycję, w której żądają wprowadzenia mechanizmu spowalniającego tempo rozwoju sztucznej inteligencji.
Czytaj dalej: FX Junction
Źródło: ČTK
