Uno de los empleados que trabajaban en el ámbito de la seguridad de la inteligencia artificial (IA) ha abandonado OpenAI. Advirtió que las principales empresas de IA no están tomando las medidas suficientes para minimizar los riesgos asociados con esta tecnología. David Robinson se une así a un creciente número de trabajadores del sector que señalan las amenazas relacionadas con la IA, informa Bloomberg.
No se pierda: TradeLocker vs MetaTrader
Robinson critica el enfoque de prueba y error
Robinson trabajó en el equipo de seguridad de OpenAI, donde era responsable de la transparencia. En un artículo para la revista The Atlantic, escribió que OpenAI «prospera gracias al método de prueba y error». Añadió que, a medida que aumentan las capacidades de la IA, también lo hacen los riesgos asociados a este enfoque. En este contexto, señaló casos en los que la IA se salió de control durante las pruebas.
«Mis antiguos colegas son inteligentes, trabajan duro y tratan de tomar las decisiones correctas», afirmó Robinson. «Pero debido a que la empresa va de un producto a otro, no alcanza el nivel de diligencia que considero necesario», añadió. Según él, las empresas de IA deberían emplear medidas de seguridad tan estrictas como las centrales nucleares para que «un error humano ocasional e inevitable no abra la puerta a una catástrofe».
Lea más: eToro – Reseña de un bróker conocido
El debate sobre los riesgos de la IA se intensifica
Últimamente, se multiplican los informes de modelos de IA que, al realizar tareas asignadas, han excedido los límites establecidos e intentado penetrar en sistemas informáticos ajenos. Por ejemplo, el incidente de julio, en el que la inteligencia artificial de OpenAI penetró en los sistemas de la empresa Hugging Face, atrajo mucha atención. Al mismo tiempo, algunos investigadores en el campo de la IA advierten que el rápido desarrollo de esta tecnología podría conducir a la extinción de la especie humana en un futuro no muy lejano. También están surgiendo llamamientos para ralentizar el desarrollo de la IA y para una mayor regulación de esta tecnología.
OpenAI es una empresa pionera en el campo de la inteligencia artificial. En 2022, puso a disposición del público de forma gratuita su chatbot ChatGPT. El sistema ganó rápidamente popularidad y contribuyó significativamente a la ola de interés del público, los medios y los inversores en la inteligencia artificial. La empresa planea ahora lanzar sus acciones en bolsa. El director de OpenAI, Sam Altman, declaró el mes pasado que la gente tiene derecho a preocuparse por la IA, pero que debería confiar en que las empresas del sector mantendrán la tecnología a un nivel seguro. El director de la empresa rival Anthropic, Dario Amodei, hizo un llamamiento en septiembre para ralentizar el desarrollo de los modelos de IA. A su llamamiento en la red social X se unieron también Altman y el empresario Elon Musk, fundador de xAI.
Vea también: Reseña de BITmarkets
Fuente: ČTK
