Australia investiga acceso no autorizado de un agente de IA a sistema público de salud
El Gobierno de Australia abrió una investigación luego de que un agente de inteligencia artificial accediera sin autorización a un portal del sistema público de salud del país, un caso que reaviva el debate internacional sobre los riesgos del uso de modelos autónomos de IA.
El primer ministro australiano, Anthony Albanese, informó que el agente, desarrollado por OpenAI, ingresó el pasado 18 de junio a una plataforma administrada por Services Australia, donde obtuvo acceso a archivos públicos y no públicos relacionados con estadísticas del sistema de salud.
Según las autoridades, el acceso ocurrió mientras el sistema realizaba una tarea vinculada a una investigación sobre el gasto público en medicamentos dentro del portal de estadísticas de Medicare.
Albanese calificó el incidente como de “extrema preocupación” y anunció la creación de un grupo de trabajo para determinar el alcance del acceso, evaluar posibles afectaciones a otros sistemas gubernamentales y revisar si fueron incumplidas normas legales.
OpenAI inicia investigación
El Gobierno australiano expresó además su inconformidad porque OpenAI habría tardado alrededor de tres meses en informar sobre el incidente a las autoridades del país.
- El ministro de Defensa australiano, Richard Marles, afirmó que el caso será investigado para determinar si existieron violaciones legales y si las normas actuales son suficientes frente a las nuevas capacidades de inteligencia artificial.
Por su parte, OpenAI informó que realiza una revisión del caso y aseguró que, hasta el momento, no ha encontrado evidencia de acceso a historiales médicos de pacientes, aunque sí se habrían obtenido estadísticas sanitarias y nombres de archivos internos.
Debate sobre seguridad y control humano
El Centro Australiano de Ciberseguridad (ACSC) indicó que el agente identificó vulnerabilidades de manera autónoma y recomendó a las organizaciones del país reportar cualquier actividad sospechosa relacionada con inteligencia artificial.
Aunque las autoridades señalaron que no existen indicios de que el hecho haya sido un ataque malicioso dirigido contra Australia, advirtieron sobre la importancia de implementar medidas de seguridad más estrictas para el uso de IA.
- El caso ocurre en medio de una discusión global sobre los límites de los sistemas autónomos, la necesidad de supervisión humana y los posibles riesgos de tecnologías capaces de tomar decisiones y adaptarse para cumplir objetivos.
