IA en un minutoNoticiasSeguridad
OpenAI firma un acuerdo con el instituto polaco NASK para investigar la seguridad de la IA
Redacción de IA en un minuto · Editor: Jon Elgezabal
En 30 segundos
OpenAI trabajará con el centro de NASK dedicado a la seguridad de la IA para buscar maneras de medir modelos cada vez más potentes y de protegerlos mejor. CERT Polska, que forma parte de NASK, ya usó en julio modelos de OpenAI para descubrir seis fallos en routers de MikroTik, que el fabricante ha corregido. OpenAI añade así un socio polaco a los organismos con los que ya colabora en Estados Unidos y Reino Unido.
OpenAI y NASK, el Instituto Nacional de Investigación de Polonia, han firmado un acuerdo para estudiar cómo colaborar en seguridad y protección de la IA y en investigación técnica. OpenAI lo anunció el viernes 23 de octubre.
El trabajo se hará con el Centro de Investigación sobre Seguridad de la IA de NASK, que ejerce de instituto polaco de seguridad de la inteligencia artificial. Las dos partes buscarán maneras de evaluar sistemas de IA cada vez más capaces, detectar posibles vulnerabilidades y reforzar las salvaguardias. Según el director de NASK, Radosław Nielek, ese centro investiga protecciones frente a riesgos nuevos, la detección de contenido sintético generado con IA, los usos maliciosos de esta tecnología y lo que cambia cuando el problema afecta a varios idiomas.
El acuerdo tiene un antecedente. En julio, CERT Polska, el equipo de respuesta a incidentes que funciona dentro de NASK, obtuvo acceso a los modelos de OpenAI preparados para tareas de ciberseguridad a través de Daybreak, el programa de ciberseguridad de la empresa. Con su ayuda descubrió seis vulnerabilidades en RouterOS, el sistema de los routers de MikroTik; algunas, combinadas, permitían hacerse con el control de los equipos afectados sin autenticarse. El fabricante publicó correcciones y CERT Polska confirmó que frenaban los ataques que había observado.
OpenAI ya trabaja con organismos públicos como el CAISSI de Estados Unidos y el AI Security Institute del Reino Unido, y ha pedido a Estados Unidos que acuerde con otros países normas técnicas internacionales para la IA más avanzada. Tom Duff Gordon, vicepresidente de OpenAI y responsable de sus políticas para Europa, Oriente Medio y África, sostiene que es fundamental recurrir a conocimientos de fuera de la empresa para cuestionar sus supuestos y poner a prueba sus sistemas. Nielek defiende que la seguridad de la IA no se consigue en solitario y que exige la cooperación entre los institutos públicos y quienes desarrollan los modelos más avanzados.
Por qué importa · análisis y opinión
Lo más revelador del anuncio no es la firma, sino su antecedente: un equipo público de respuesta a incidentes usó modelos de IA para encontrar fallos graves en equipos de red, y el fabricante tuvo que corregirlos. La IA ya no solo se evalúa desde fuera: también se pone a trabajar en defensa, y los institutos públicos quieren estar dentro para comprobar de primera mano lo que estos modelos pueden hacer. Quien tenga routers o cortafuegos en su oficina hará bien en saber qué modelo usa y en instalar las actualizaciones del fabricante en cuanto salgan, porque los fallos se encuentran cada vez más deprisa. Del acuerdo con NASK falta lo esencial: qué evaluaciones concretas harán, con qué acceso a los modelos y si publicarán los resultados.
Fuente oficial: OpenAI · Redactada con ayuda de IA: cómo hacemos las noticias
