Ir al contenido
por InfinyAI EN

IA en un minutoNoticiasSeguridad

Seguridad

UK AISI logró un jailbreak universal contra versiones previas de GPT-6.2 Astra, según la tarjeta de OpenAI

Redacción de IA en un minuto · Editor: Jon Elgezabal

En 30 segundos

UK AISI, el organismo británico que evalúa la seguridad de la IA, encontró la forma de burlar las defensas de GPT-6.2 Astra en consultas sobre ciberseguridad antes de su salida. OpenAI asegura que ya lo ha resuelto con nuevas instrucciones y salvaguardas en el modelo. UK AISI todavía no ha verificado que ese arreglo funcione, según el documento técnico que acompaña al lanzamiento.

El Instituto de Seguridad de la IA del Reino Unido (UK AISI) consiguió un jailbreak universal contra dos versiones previas al lanzamiento de GPT-6.2 Astra, el modelo de OpenAI. Un jailbreak es una técnica para sortear las protecciones de un modelo; este servía para preguntas de ciberseguridad de un solo turno, y un experto del instituto lo desarrolló con ataques automatizados.

Lo cuenta la propia OpenAI en la tarjeta del sistema del modelo, publicada el 17 de noviembre según The Defiant. En las dos versiones, UK AISI necesitó la mitad de consultas al modelo que con GPT-6 Astra, y después uno de sus expertos llevó el ataque a tareas de ciberseguridad con agentes, también por aproximadamente la mitad del coste. El instituto detectó un retroceso considerable en la robustez frente a GPT-6 Astra y afirma que el jailbreak sacaba a la luz capacidades notables de ciberseguridad con agentes. En sus resultados preliminares no superaba a los principales modelos de código abierto, aunque UK AISI cree que con más trabajo el ataque podría mejorar mucho.

OpenAI explica que, a raíz de esas pruebas, cambió las instrucciones de seguridad del modelo y la forma en que sus salvaguardas evalúan las conversaciones y el uso de herramientas, y que en sus pruebas internas esos cambios frenaron el jailbreak concreto. La empresa cree que la regresión está mitigada. El 6 de noviembre presentó sus resultados a UK AISI y le ofreció repetir la evaluación durante tres días hábiles más; según la tarjeta, el instituto aún no ha probado por su cuenta esos últimos cambios.

La tarjeta añade que otras cuatro organizaciones privadas pusieron a prueba las defensas de ciberseguridad de GPT-6.2 Astra y no comunicaron hallazgos de nivel alto o crítico. Lo encontrado por UK AISI afecta a versiones previas al lanzamiento y OpenAI dice haberlo corregido, pero falta la confirmación externa.

Por qué importa · análisis y opinión

Lo relevante no es solo el fallo, sino que se conozca. Que un organismo público pruebe un modelo antes de su salida y que la empresa publique el resultado, incluido lo que salió mal, permite a los clientes saber a qué atenerse. También deja claro que un modelo nuevo puede ser más fácil de engañar que su predecesor, aunque sea más capaz. Para quien use GPT-6.2 Astra en tareas sensibles, sobre todo con agentes que ejecutan acciones, lo prudente es no confiar solo en las protecciones del proveedor: limitar permisos, revisar lo que hacen los agentes y estar atento a si el instituto británico confirma la corrección.

Fuente oficial: OpenAI · Redactada con ayuda de IA: cómo hacemos las noticias

La IA en tu correo, cada día o cada viernes

Las noticias que importan, cada una en un minuto. Con su fuente de cada una.

Elige uno o los dos:

Te apuntas y listo: el diario te llega cada noche y el semanal, los viernes por la mañana. Puedes darte de baja en cualquier envío.