Anthropic usa Claude para reducir la superficie de ataque en 25 proyectos de código abierto y halla 493 problemas

Anthropic ha puesto a Claude, su modelo de IA, a revisar código abierto para reducir lo que queda expuesto a atacantes. Lo explicó el martes 20 de octubre el Frontier Red Team de la empresa, en un artículo firmado por Chris Rohlf.

En una investigación inicial, la empresa aplicó Claude a 25 proyectos de código abierto, con más de cinco millones de líneas en lenguajes como C, C++, Java, PHP y Python. Halló 493 problemas. El método, que llaman reducción de la superficie de ataque, consiste en localizar el código al que se puede llegar sin necesidad y ponerlo detrás de una barrera, como la autenticación o una opción que hay que activar expresamente.

Anthropic buscó tres tipos de problema: código al que se llega con la configuración de fábrica aunque ninguna función prevista lo use; parejas de opciones que por separado parecen razonables y juntas dan fallos, y código delicado que se ejecuta antes de un control como la autenticación. Claude hizo inventario de más de 17.000 opciones de configuración en esos proyectos; 3.842 tenían que ver con la seguridad.

De los 25 proyectos, 10 están pensados para cualquier usuario, 11 para usuarios autenticados y 4 para el entorno privado de quien los instala. En los once proyectos para usuarios autenticados, Claude halló código accesible sin intención, aunque en cada uno solo era una parte pequeña del total. Entre ello, 93 superficies innecesarias previas a la autenticación en la configuración por defecto. Según Anthropic, por sí solas no se podían explotar de inmediato, pero dejan más superficie de ataque de la necesaria.

En el conjunto de los proyectos, Claude encontró 162 combinaciones de opciones de seguridad que el programa aceptaba sin error, sin aviso y sin que su efecto estuviera documentado; en 94 de ellas, la combinación desactivaba en silencio un control de seguridad. Un mismo patrón apareció en cuatro proyectos sin relación entre sí: reglas de acceso escritas con nombres de máquina que, con la consulta inversa de DNS apagada, nunca podían coincidir con la dirección IP del cliente, así que una regla para denegar el acceso no llegaba a aplicarse. En otro caso, dos opciones en conflicto anulaban la exigencia de certificado a los clientes, y esa combinación llevaba 21 años en el programa.

El mayor recorte en proporción al tamaño del código fue en OpenSSH, el programa de acceso remoto seguro. En su versión 10.4, un cliente sin autenticar podía llegar con la configuración por defecto a aproximadamente 4.500 líneas de código nuevo y experimental de ML-DSA-44, un algoritmo de firma poscuántico, aunque no venía activado e incluso si el administrador lo excluía. Equivalen a aproximadamente el 16 % del código de OpenSSH previo a la autenticación. Anthropic avisó a sus desarrolladores con parches y la versión 10.5 adelantó la comprobación; Claude encontró después dos huecos en ella, y la corrección final, publicada en la versión 10.6, eliminó aproximadamente una quinta parte del código al que antes llegaba un cliente sin autenticar.

Anthropic ha reunido estas técnicas en una skill reutilizable de Claude que está integrando en OSS-Scanner. Hace tres pasadas sobre el código, confirma cada hallazgo siguiendo la ejecución del programa y, cuando propone una barrera, pasa las pruebas del propio proyecto para comprobar que el comportamiento por defecto no cambia; lo que afectaría a otras configuraciones queda para que lo decida una persona. La empresa no da fecha para esa integración.