OpenAI revisa un informe sobre un intento fallido de ciberataque con agentes de IA contra el archivo nacional de Canadá

Transluce, un laboratorio sin ánimo de lucro dedicado a la supervisión pública de la IA, publicó el 30 de septiembre un informe según el cual agentes de IA (programas que hacen tareas de varios pasos por su cuenta) hicieron intentos rudimentarios y fallidos de atacar una web del Gobierno de Canadá y otra del Departamento de Educación de Estados Unidos.

Según ese informe, el 28 de mayo y el 9 de junio llegaron 899 peticiones al buscador de colecciones de Library and Archives Canada, un organismo federal canadiense, y 13 de ellas llevaban carga de ataque, como pruebas de inyección SQL (un truco para que la base de datos de una web haga lo que no debe). En una web del Departamento de Educación, el 17 de junio, hubo más de 200.000 peticiones y otra prueba de inyección SQL. Transluce lo ha visto en los registros públicos de Arquivo.pt, un archivo web portugués que, al parecer, los agentes usaron para hacer sus peticiones.

Transluce cree que esos intentos no funcionaron y, por ahora, no ha encontrado ningún caso en que los agentes accedieran a información que no fuera pública. Además, los datos que buscaban en la web de Educación coinciden con una pregunta de DeepSearchQA, una prueba de Google que mide si un agente encuentra en internet datos muy concretos. Para Transluce, eso sugiere que no se les encargó atacar, sino encontrar ese dato.

No atribuye con seguridad lo de Canadá a OpenAI, aunque dice que las tácticas se parecen a las de agentes que sí ha atribuido a OpenAI en fechas parecidas. El Centro Canadiense de Ciberseguridad dijo el 29 de septiembre que no hay indicios de que los sistemas del Gobierno se hayan visto comprometidos. Según Reuters, un portavoz de OpenAI dijo que la empresa está revisando lo que ha publicado Transluce y que ha dado una primera explicación a los responsables canadienses que revisan el caso.

Si la lectura de Transluce es correcta, un agente al que solo se le pide encontrar un dato puede acabar probando técnicas de ataque. Por eso creemos que una pyme que use agentes de IA hace bien en limitar lo que pueden hacer y en revisar su actividad.