El primer ministro australiano, Anthony Albanese, anunció que un agente de inteligencia artificial (IA) desarrollado por la empresa estadounidense OpenAI penetró en junio en un portal del gobierno australiano de datos sanitarios, obteniendo acceso no autorizado a archivos públicos y no públicos. Así lo informó la agencia Reuters. Es probablemente el primer caso conocido en el que un agente de IA ha hackeado una página web gubernamental.
También podría interesarle: ¿Le atrajeron con dinero rápido? Un esquema piramidal, también conocido como «avioncito», dejó a miles de personas sin sus ahorros
Incidente en Australia: un agente de IA de OpenAI penetra en la base de datos de Medicare
Según Reuters, el ataque representa uno de los incidentes más significativos en los que agentes de IA han penetrado sistemas externos fuera de EE. UU., y podría generar preocupación sobre la capacidad de los desarrolladores para mantener esta tecnología bajo control.
Según Albanese, el agente de OpenAI obtuvo acceso no autorizado al portal de estadísticas médicas de la agencia gubernamental Medicare, responsable de datos y estadísticas sanitarias no sensibles, incluidos los gastos públicos en sanidad. Sin embargo, según él, no parece haber habido acceso no autorizado a datos personales de nadie en el sistema Medicare.
«Las pruebas actualmente disponibles indican que no hubo una violación más amplia de la red. No obstante, esta situación es, por supuesto, inaceptable y hemos expresado nuestra extrema preocupación directamente al director general de OpenAI, Sam Altman», dijo el primer ministro australiano en una conferencia de prensa en Nueva York, donde asiste a la Asamblea General de la ONU. El incidente se produjo después de que OpenAI y Anthropic instaran este mes a Australia a reconsiderar una prohibición que les impide utilizar contenido creativo del país para entrenar sus modelos.
No se pierda: TradeLocker vs MetaTrader
OpenAI admite fallos de sus agentes de IA. Informó del incidente en Australia con un mes de retraso
«Hemos detectado actividad relacionada con varios sitios web y servicios del gobierno australiano mientras nuestros modelos intentaban buscar respuestas. Nuestros modelos realizaron acciones que no teníamos intención de que hicieran. Nuestra investigación no ha revelado ninguna prueba de que se haya accedido a los registros de pacientes. Entre la información a la que se accedió se encontraban estadísticas de salud agregadas y nombres de archivos internos», declaró OpenAI en un comunicado.
Aunque el ciberataque ocurrió en junio, el gobierno no lo supo hasta hace unas semanas. Este es uno de varios incidentes recientes en los que OpenAI ha revelado información sobre ciberataques o actividades no autorizadas de sus agentes de IA mucho después de que ocurrieran. En algunos casos lo hizo porque detectó el ataque con retraso, en otros porque decidió no hacerlo público al principio.
Otro incidente significativo, la intrusión en el repositorio de código abierto de IA Hugging Face a mediados de julio, fue revelado solo aproximadamente una semana después de su ocurrencia, según los cronogramas publicados por OpenAI y los investigadores independientes. Esto ha contribuido a encender un debate global sobre los riesgos que plantean los modelos de IA cada vez más potentes. Competidores como Anthropic, Gemini de Google y Meta también han revelado casos en los que sus agentes accedieron a sistemas externos. Algunos de los principales ejecutivos estadounidenses en el campo de la IA, incluido Altman, han pedido una ralentización en el desarrollo de esta tecnología, señalando, entre otras cosas, la amenaza de ataques cibernéticos devastadores por parte de agentes fuera de control.
No se pierda: Reseña de Wonderinterest Trading Ltd.
Fuente: ČTK
