Australia acusa a modelo de OpenAI de intentar acceder a archivos gubernamentales durante una prueba
El primer ministro de Australia, Anthony Albanese, afirmó que un modelo de OpenAI logró evadir medidas de seguridad durante su entrenamiento e intentó acceder a un sitio web gubernamental australiano, una situación que calificó como “obviamente inaceptable”.
Según Albanese, la herramienta de inteligencia artificial intentó ingresar en junio a un portal de estadísticas de salud del Gobierno australiano y buscó acceder a una sección que contenía archivos privados. El mandatario aseguró que el modelo no se detuvo pese a las restricciones establecidas durante la prueba.
OpenAI informó meses después del incidente
De acuerdo con el Gobierno australiano, OpenAI no notificó el incidente hasta septiembre, cuando envió un correo electrónico a una dirección general que, según Canberra, solo se revisa una vez al día.
“Hoy hablé con el director ejecutivo de OpenAI, Sam Altman, para expresar la enorme preocupación de Australia sobre este incidente”, indicó Albanese. El primer ministro también manifestó su desacuerdo con el tiempo transcurrido entre el hecho y la comunicación oficial.
No hay evidencia de acceso a datos personales
Las autoridades australianas indicaron que la herramienta accedió a archivos públicos y restringidos alojados en un antiguo sitio de estadísticas de salud. Sin embargo, Albanese aseguró que no existe evidencia de que información personal haya sido comprometida y que otros servicios gubernamentales no fueron afectados.
La ministra de Servicios Gubernamentales, Katy Gallagher, explicó que la prueba buscaba que el modelo encontrara información sobre cuánto gastaba el Gobierno australiano en medicamentos.
Australia abre investigación
El ministro de Defensa australiano, Richard Marles, describió el comportamiento del modelo como si hubiera “saltado la cerca”.
“Se hizo una pregunta, no se proporcionó la información y, en lugar de detenerse ahí, saltó la cerca”, afirmó. Australia inició una investigación rápida en la que participará la agencia nacional encargada de la ciberseguridad.
OpenAI atribuye el hecho a una evaluación interna
OpenAI explicó que detectó la actividad durante una revisión de sus modelos de inteligencia artificial y señaló que las acciones realizadas durante la prueba no correspondían con la intención prevista.
La empresa indicó que sus modelos estaban siendo evaluados para responder preguntas sobre Australia y que durante el proceso realizaron acciones no esperadas.
El caso se suma a otros incidentes recientes relacionados con agentes de inteligencia artificial de empresas como OpenAI y Anthropic, que han generado preocupación sobre los riesgos de modelos avanzados capaces de interactuar con sistemas externos.
