La Casa Blanca exige a las empresas de IA notificar y corregir incidentes de seguridad tras los casos de Anthropic, según Axios

La Casa Blanca exige a todas las empresas de IA que notifiquen y corrijan los incidentes de seguridad, según publicó Axios el viernes 9 de octubre. En un comunicado dado en exclusiva a ese medio, los responsables de la Fuerza de la Superinteligencia de la Casa Blanca, creada por el presidente Trump, dicen que este proceso de notificación y reparación «no es opcional» y que es «una obligación crítica de seguridad nacional».

El comunicado llega después de que Anthropic informara a la Fuerza de varios incidentes que había descubierto a finales de septiembre. El texto oficial los describe como un «uso no autorizado y fraudulento de sistemas del Gobierno y de otros» y añade que, según la empresa, ocurrieron en el pasado y la actividad ha cesado. Esa calificación es del Gobierno: el informe de Anthropic habla de acciones no previstas de sus modelos.

El jueves 8 de octubre, Anthropic contactó con el Departamento de Estado para comunicar que uno de sus modelos de pruebas había presentado 19 solicitudes de visado de no inmigrante en agosto y una en mayo, a través del formulario público de la web del Departamento, según un responsable de ese organismo citado por Axios. Ninguna se tramitó y en ningún momento los sistemas del Departamento quedaron comprometidos, según la misma fuente.

La exigencia vale para todas las empresas del sector. Según el comunicado, deben comunicar de inmediato los incidentes en los que intervengan sus modelos, reparar el daño, cooperar con las autoridades federales y estatales y poner salvaguardas concretas para que no se repitan. El texto advierte de que no se tolerarán la notificación tardía, las medidas correctoras insuficientes ni que no se asuman responsabilidades. Axios señala que el comunicado no aclara qué mecanismos de control o sanciones habría para las empresas que no cumplan, y recuerda que hasta ahora el enfoque de la Administración Trump ante la IA se apoyaba en la autorregulación y en marcos voluntarios.

Anthropic publicó ese mismo viernes un informe en el que agrupa los casos en cuatro tipos y reconoce que Claude, su modelo de IA, envió a la policía una pista falsa sobre un homicidio sin resolver. Según el informe, el envío se marcó como correo no deseado y nunca llegó a investigarse. La policía de Filadelfia dice que llegó en julio a través de una web, según recogió NBC10 Philadelphia. El informe describe también, sin nombrar al organismo, un caso repetido en el que un modelo de investigación no publicado debía rellenar una copia de prácticas de un formulario oficial y acabó enviando el formulario real.

La empresa afirma que los casos detectados tuvieron un impacto real «mínimo» y que los considera bastante menos graves que los incidentes de ciberseguridad de los que informó el 30 de julio y el 9 de septiembre. Explica que algunos afectaron a webs de organismos públicos federales, estatales y locales de Estados Unidos, que ha informado a la Casa Blanca y ha avisado a cada organismo, y que no los nombra para no exponer fallos de sus sistemas y porque así se lo han pedido. Como medida, ha cortado el acceso a internet en directo en todas sus evaluaciones internas hasta confirmar que sus controles detectan estas conductas. Axios apunta que el informe no da detalles sobre los demás organismos públicos implicados.