La empresa tecnológica OpenAI está considerando ralentizar el desarrollo de los modelos más avanzados de inteligencia artificial (IA). Según fuentes anónimas de la agencia Bloomberg, el director general de la empresa, Sam Altman, comunicó esto a los empleados esta semana en una reunión de toda la compañía, expresando su esperanza de que otras empresas dedicadas a la IA hagan lo mismo.
Podría interesarte: ¿Te atrajeron con dinero rápido? El esquema piramidal alias avión dejó a miles de personas sin ahorros
Las preocupaciones por los agentes autónomos se intensifican. OpenAI ralentiza el desarrollo a pesar de la próxima OPV
En las últimas semanas han surgido incidentes que han contribuido a las crecientes preocupaciones sobre los riesgos de los agentes autónomos de IA, que pueden eludir las reglas y utilizar formas inesperadas de interactuar con sistemas externos. Altman dijo a los empleados que OpenAI busca coordinarse con otras empresas del sector, pero algunas de ellas pueden no estar de acuerdo con la propuesta.
En las últimas semanas, algunos empleados de empresas líderes en IA han expresado públicamente preocupaciones sobre los mayores riesgos de los sistemas avanzados de IA. Esto, según Bloomberg, ha generado inquietud dentro de estas compañías. Tanto OpenAI como su competidora Anthropic presentaron a principios de este año los documentos confidenciales necesarios para salir a bolsa.
OpenAI indicó anteriormente que recientemente había ralentizado algunas partes del desarrollo de modelos y suspendido parte del entrenamiento interno de inteligencia artificial debido a preocupaciones de seguridad. En julio, Altman señaló que había hablado con representantes de la Casa Blanca sobre la necesidad de reducir el ritmo de desarrollo de la IA.
En los últimos meses, varios empleados de los principales laboratorios de investigación dedicados a la seguridad de la inteligencia artificial han presentado su renuncia. El investigador de Anthropic, Jacob Coxon, anunció esta semana que abandona la empresa y el sector debido a la preocupación de que Anthropic y sus competidores están desarrollando demasiado rápido sistemas capaces de autoperfeccionarse, que según él podrían escapar del control humano.
No te lo pierdas: TradeLocker vs MetaTrader
«¿Se acerca el endgame?» Los investigadores huyen de los laboratorios de IA y advierten sobre la pérdida de control
Teme que tales sistemas puedan destruir a la humanidad. Según él, muchos colegas del sector ahora utilizan palabras como «crunchtime» (momento decisivo) y «endgame» (fase final) al describir la dirección de los modelos que se automejoran, es decir, términos que indican que el desarrollo está llegando a su etapa final.
Coxon dejó OpenAI a principios de este año y se unió a Anthropic porque, según él, esta empresa es conocida por su esfuerzo en la seguridad de los modelos. Aunque consideraba genuinos los esfuerzos de Anthropic por la seguridad, ahora cree que ninguna empresa puede desarrollar de manera responsable una IA que supere a los humanos en una variedad de tareas, a menos que haya una intervención gubernamental o una desaceleración coordinada del desarrollo del sector.
A finales de julio, más de 1000 empleados de todas las principales empresas dedicadas a la inteligencia artificial firmaron una petición en la que solicitan la implementación de un mecanismo que desacelere el ritmo de desarrollo de la inteligencia artificial.
Sigue leyendo: FX Junction
Fuente: ČTK
