Australia está investigando si OpenAI infringió la ley después de que un agente de IA hackeó su portal de estadísticas sanitarias. Es el primer incidente conocido en el que la IA ha pirateado una página web de algún gobierno.
La autoridad australiana está valorando si debe involucrar a la policía federal después de que, en junio, el agente accediera a archivos no públicos de la agencia de servicios sociales y sanitarios, Services Australia.
Aviso tardío
Australia no se enteró del incidente sino hasta que OpenAI alertó al gobierno el 10 de septiembre, casi tres meses después del ataque. La empresa envió un correo electrónico a un buzón público. Según algunos medios han informado, Sam Altman ni siquiera mencionó el incidente cuando se reunió con el viceprimer ministro de Australia, Richard Marles, a principios de este mes. Sin embargo, OpenAI tenía conocimiento del mismo desde agosto. La empresa tardó “demasiado” y la notificación no debería haberse enviado únicamente a un buzón público, declaró el primer ministro Anthony Albanese en una rueda de prensa celebrada el miércoles en Nueva York. También se llevará a cabo una investigación para esclarecer por qué Services Australia tardó cinco días en remitir el correo electrónico al Centro de Ciberseguridad de Australia.
El agente de OpenAI había estado realizando una investigación en internet sobre estadísticas sanitarias en el marco de un proyecto de desarrollo de un equipo de investigación interno de OpenAI. Como no pudo acceder a cierta información, el agente probó entonces métodos alternativos hasta que encontró una manera de sortear las restricciones. Así consiguió el acceso no autorizado. También guardó archivos en el servidor interno, sobre los que el gobierno está a la espera de recibir más información técnica por parte de OpenAI. También se está investigando si el agente obtuvo acceso no autorizado a otros tres sitios web gubernamentales con los que interactuó.
"Obviamente, habrá consecuencias legales"
Eso aseguró Albanese al dar a conocer este incidente «inaceptable». Dijo que había hablado por teléfono con Altman ese mismo día para expresarle su «gran preocupación» por el incidente y su «decepción» por la naturaleza y el tiempo que tardó la empresa en informar al Gobierno. Aunque Albanese no respondió a si había pedido disculpas, Altman «aceptó claramente que la empresa no había actuado lo suficientemente bien», señaló.
El Gobierno australiano considera actualmente que no se ha accedido a los datos personales de nadie, aunque las investigaciones siguen en curso. La página web en cuestión es un portal de estadísticas de acceso público que contiene información no sensible de Medicare relacionada con datos y estadísticas, como el gasto. Por lo tanto, contaba con unos niveles de seguridad mucho menores que los que se habrían aplicado a los datos personales, explicó Marles en Sídney. «El impacto del incidente es, en realidad, relativamente menor, pero se trata, obviamente, de un incidente grave y totalmente inaceptable», advirtió.
Esta semana se plantearon en la Asamblea General de las Naciones Unidas varios incidentes ocurridos durante el verano. Entre ellos estuvo el hackeo de Hugging Face por parte de agentes de OpenAI, lo que puso de relieve la amenaza que suponen los agentes de modelos de vanguardia que actúan de forma descontrolada. El secretario general, António Guterres, acogió con satisfacción los llamamientos para controlar la IA. El propio Altman había advertido al Consejo de Seguridad de las Naciones Unidas su preocupación por que los humanos pudieran perder el control de estos sistemas.
“Fue una sorpresa que ocurriera, porque fue real y grave”, comentó Albanese sobre el incidente. “Pero también creo que era algo que se había previsto, incluso por parte de las propias empresas de IA”.
