Ir al contenido
por InfinyAI EN

IA en un minutoNoticiasSeguridad

Seguridad

Amazon detecta registros de agentes de IA que intentaron robar claves de IA

Redacción de IA en un minuto · Editor: Jon Elgezabal

En 30 segundos

Los sensores señuelo de Amazon, que se hacen pasar por servicios de IA, recibieron peticiones de agentes automáticos con el historial de sus propias operaciones. Entre octubre y noviembre revelaron un plan para robar credenciales de modelos de IA y otro para burlar con vídeo falso el control de identidad en dos casas de criptomonedas. Amazon no presenció los ataques y no puede comprobar lo que los agentes anotaron como logrado.

Amazon ha contado que sus sensores señuelo registraron a agentes de IA que intentaban hacerse con claves de acceso a modelos de IA. Lo explica en una entrada de su blog de seguridad de AWS del viernes 13 de noviembre.

Los registros salieron de MadPot, la red mundial de sensores señuelo de Amazon. Entre el 3 de octubre y el 5 de noviembre, algunos de esos sensores, configurados para parecer interfaces habituales de modelos de lenguaje, recibieron peticiones de agentes que los trataban como un servicio real de IA. A menudo cada petición llevaba el historial completo de la campaña. Amazon no presenció esa actividad mientras ocurría y no puede comprobar los resultados que los agentes anotaron; lo que sí muestran los registros es qué perseguían sus operadores.

La campaña más destacada consistía en robar claves de acceso a modelos de IA. Los agentes buscaban aplicaciones expuestas en internet que guardan claves de varios proveedores, como las pasarelas de modelos LiteLLM y One API o las herramientas para crear aplicaciones Dify, Langflow y Open WebUI, comprobaban si las claves funcionaban y las guardaban en una reserva común. Las claves robadas pasaban a la pasarela de modelos del propio marco y pagaban los modelos que movían a los agentes que seguían buscando más. Según Amazon, lo más probable es que quisieran usar esos modelos mientras otro pagaba. Las instrucciones pedían tratar como material de poco valor las claves expuestas en público desde hacía más de 30 días.

Amazon evalúa con confianza moderada que los agentes usaban ARTEX, un marco de código abierto para pruebas de penetración con IA, por las referencias a esta herramienta en las instrucciones y en otros restos técnicos. Con la misma confianza moderada, atribuye la actividad a grupos distintos con vínculos con China, por el chino simplificado de las instrucciones, las zonas horarias configuradas, los objetivos elegidos y las herramientas que esos grupos suelen usar.

Una segunda campaña intentó saltarse la verificación de identidad (KYC) de dos casas de criptomonedas con vídeo falso en tiempo real y fotos de documentos falsificadas. Según Amazon, el servidor del proveedor de verificación rechazó el deepfake en todos los intentos registrados.

Amazon dice que avisó, cuando correspondía, a los clientes de AWS que podían estar afectados. Como no pudo confirmar actividad contra otras organizaciones, publicó indicadores de compromiso para que quien use las tecnologías señaladas revise sus propios entornos. Su conclusión es que ninguna de las técnicas era nueva: lo que cambian los agentes de IA es la velocidad y la persistencia del atacante, que tuvo éxito donde faltaba la higiene básica, como credenciales por defecto, claves olvidadas en el código o software sin actualizar.

Por qué importa · análisis y opinión

Lo útil de este informe no es el ataque, sino que Amazon lo viera desde dentro, a través de los propios registros de los agentes. La lección práctica es que las pasarelas de modelos y las herramientas de IA que una empresa monta por su cuenta ya son un objetivo, como lo fue en su día un servidor de correo mal configurado. Si un panel de administración está abierto a internet, conserva la contraseña de fábrica o guarda claves de proveedores a la vista, alguien lo encontrará pronto, y la factura de ese uso llegará a quien lo montó. Conviene revisar qué herramientas de IA se han desplegado, quién puede entrar, qué claves guardan y si hay alertas de gasto inusual. Falta saber qué parte de lo que los agentes decían haber logrado es cierta: Amazon no puede verificarlo.

Fuente oficial: Amazon · Redactada con ayuda de IA: cómo hacemos las noticias

La IA en tu correo, cada día o cada viernes

Las noticias que importan, cada una en un minuto. Con su fuente de cada una.

Elige uno o los dos:

Te apuntas y listo: el diario te llega cada noche y el semanal, los viernes por la mañana. Puedes darte de baja en cualquier envío.