IA en un minutoNoticiasSeguridad
La Casa Blanca restablecería el acceso del Reino Unido a pruebas de modelos de IA, según The Telegraph
Redacción de IA en un minuto · Editor: Jon Elgezabal
En 30 segundos
El AI Security Institute británico sigue recibiendo los sistemas de IA punteros antes de que salgan al público, y ya examina Gemini 4 Argon, según confirmó en Londres el ministro Kanishka Narayan. The Telegraph sostiene que la Casa Blanca levantó la restricción que había llevado a Anthropic a limitar la revisión de Claude Mythos 5.1. Narayan reclamó a los laboratorios que no saquen un sistema cuyos riesgos no puedan controlar.
El instituto público británico que examina la IA vuelve a tener los modelos más potentes antes de que lleguen al mercado.
El Reino Unido conserva el acceso a los modelos de IA más potentes antes de su lanzamiento para someterlos a pruebas de seguridad. Lo confirmó el lunes 12 de octubre el ministro británico de Inteligencia Artificial, Kanishka Narayan, en un discurso en el Imperial College de Londres. Según dijo, los científicos del AI Security Institute (el instituto público británico que evalúa los riesgos de estos sistemas) ya están evaluando la última generación de modelos, entre ellos Gemini 4 Argon, de Google.
El domingo 11, The Telegraph había publicado (el artículo, reproducido por AOL) que la Casa Blanca ha devuelto ese acceso al instituto tras las gestiones de ministros británicos. Según el diario, la orden de dejar de compartir los modelos partió de la Oficina del Director Nacional de Ciberseguridad de la Administración de Donald Trump, y a raíz de ella Anthropic restringió la revisión de su nuevo Claude Mythos 5.1. The Decoder, que resume la información del Telegraph, sitúa esa instrucción en septiembre y precisa que el instituto volverá a recibir antes de su lanzamiento los modelos de Anthropic, Google DeepMind y OpenAI.
Narayan explicó que su Gobierno ha trabajado en las últimas semanas con el de Estados Unidos y con los laboratorios para mantener ese acceso, en contactos que fueron desde el encuentro de desarrolladores de IA convocado por el rey en Dumfries House (Escocia) hasta la Asamblea General de Naciones Unidas en Nueva York. Describió el instituto como un equipo de más de cien expertos técnicos.
También contó que, en dos proyectos piloto del Gobierno británico, la IA más avanzada ha ayudado a detectar y corregir más de mil vulnerabilidades, además de otras amenazas para los servicios públicos, y que el servicio central de vigilancia de vulnerabilidades ha ayudado a reducir de 50 días a ocho el tiempo que se tarda en arreglar los fallos detectados. Anunció además que el instituto tendrá un papel destacado a la hora de fijar un criterio común sobre estándares técnicos.
A las empresas que desarrollan estos sistemas les pidió que escuchen a sus científicos cuando adviertan de peligros graves, que investiguen los comportamientos inesperados y que, si no pueden controlar los riesgos de forma adecuada, no publiquen el sistema.
Por qué importa · análisis y opinión
Que un Gobierno pueda examinar un modelo antes de que llegue al público es una de las pocas comprobaciones externas que existen sobre los sistemas más potentes, y este episodio enseña lo frágil que es. Por lo publicado, depende de que los laboratorios quieran compartir y de que Washington lo permita: bastó una instrucción para que una empresa cerrara la puerta al instituto británico. El acceso vuelve, pero por la misma vía por la que se fue, la gestión política. Quien se apoye en esas evaluaciones como garantía hará bien en no darlas por permanentes. Queda por ver si Londres convierte el acceso en una obligación o sigue pendiente de la buena voluntad de las empresas y de la Casa Blanca, y si el aviso de Narayan a los laboratorios pasa de las palabras a una norma.
Fuente oficial: GOV.UK · Redactada con ayuda de IA: cómo hacemos las noticias
