Los directores de Anthropic, OpenAI y otras empresas de inteligencia artificial (IA) consideran en privado posibles escenarios de revuelta pública y política que podrían surgir tras un evento catastrófico relacionado con la IA. Anticipan un evento a gran escala, probablemente un ciberataque que impida el acceso a servicios financieros, la conexión a internet o incluso el suministro de electricidad y agua, según informó el sitio web Axios.
No te pierdas: TradeLocker vs MetaTrader
Consecuencias del fallo de la IA: Oposición pública y presión sobre los políticos
El primer caso de daño grave causado por una IA peligrosa en el mundo real pondría a una opinión pública ya desconfiada en contra de esta tecnología y de los líderes del sector, incluido el director de Anthropic, Dario Amodei, o el director de OpenAI, Sam Altman, escribe Axios. Según los escenarios, la gente también podría volverse contra el presidente Donald Trump debido a su falta de voluntad para regular la IA.
Aunque la planificación de diferentes escenarios es común en muchas empresas y entornos de seguridad nacional, la diferencia, según Axios, es que muchos investigadores y líderes destacados en el campo de la IA creen que un incidente a gran escala es inevitable. Una posibilidad es que un agente de IA se descontrole en un entorno de prueba interno. Un actor malicioso también podría encontrar formas inesperadas de explotar los modelos de IA disponibles.
Lea también: FX Junction
Un evento crítico amenaza en un año, la autorregulación de las empresas no es suficiente
Varios expertos en el campo de la inteligencia artificial declararon a Axios que creen que un evento significativo ocurrirá en los próximos seis a doce meses. La planificación se centra, entre otras cosas, en educar a los miembros de un Congreso estadounidense envejecido que no está al día con la revolución de la IA, señaló el sitio web.
Esta preocupación crece en un momento en que las empresas tecnológicas intentan definir sus propios protocolos de seguridad y las llamadas líneas rojas, cuyo cruce detendría temporalmente el desarrollo de modelos avanzados. Aunque desarrolladores como OpenAI o Anthropic están implementando marcos de seguridad internos y declarando su cooperación con institutos gubernamentales de seguridad de la IA (AI Safety Institute), los críticos advierten que la autorregulación voluntaria puede no ser suficiente para evitar un incidente global. Por lo tanto, la presión para introducir mecanismos de control más estrictos y estándares de seguridad internacionales no deja de crecer.
Lea más: eToro – Recenze známého brokera
Fuentes:
