IA en un minutoNoticiasRegulación
La UE dice estar bien equipada ante los agentes de IA descontrolados
Redacción de IA en un minuto · Editor: Jon Elgezabal
En 30 segundos
Henna Virkkunen sostiene que el Reglamento de IA basta para afrontar a los agentes que actúan fuera de control, porque abarca la vida entera de los modelos. Los reguladores dan pautas de evaluación a las empresas y escucharán a un panel de 60 expertos. Las más de 30 compañías que recibieron peticiones de información en agosto, startups chinas incluidas, se exponen a sanciones que llegan al 7 % de su facturación.
Henna Virkkunen, la responsable de tecnología de la Comisión Europea, ha dicho, en declaraciones a Reuters recogidas por Global Banking & Finance Review, que las normas de IA que la Unión aprobó hace dos años son más que capaces de hacer frente a los agentes descontrolados.
Lo dijo el viernes 9 de octubre, en plena preocupación mundial por los incidentes recientes en OpenAI y Anthropic, que han avivado el temor a que sistemas de IA descontrolados escapen al control humano.
"Vemos que la seguridad de los modelos muy capaces es un tema muy candente a nivel internacional y en Europa estamos bien equipados para ello", afirmó. "Tenemos nuestro Reglamento de IA y cubre todo el ciclo de vida de estos modelos". El Reglamento de IA, o AI Act, regula el uso de esta tecnología según su nivel de riesgo y, según Reuters, está considerado el conjunto de normas sobre inteligencia artificial más estricto del mundo.
Según Virkkunen, los reguladores están orientando a las empresas sobre cómo evaluar sus modelos y cuánto tiempo dedicarle, y tendrán en cuenta también las recomendaciones de un panel científico de 60 expertos en IA de universidades e instituciones.
También rechazó la crítica de algunas compañías de que las normas ya se han quedado anticuadas. A su juicio, los legisladores tuvieron muy en cuenta los avances que estaban por llegar: previeron que hay que evaluar los riesgos, recurrir a expertos externos y seguir vigilando los modelos.
Reuters recuerda que la Comisión envió a finales de agosto peticiones de información a más de 30 empresas de IA sobre sus medidas de seguridad, y después les preguntó por sus obligaciones de transparencia y de derechos de autor. Esas peticiones pueden dar lugar a investigaciones que podrían acabar en multas de hasta el 7 % de la facturación anual mundial de una empresa. La Comisión no ha dicho a qué empresas se dirigió, y Virkkunen indicó que ahora está analizando las respuestas.
Preguntada por las startups chinas de IA, Virkkunen confirmó que también han recibido peticiones de información, y añadió que los modelos más capaces del mercado son hoy de Estados Unidos y de China. "Creo que todos estos modelos tan capaces plantean, por supuesto, nuevos tipos de riesgos de los que tenemos que ser conscientes", afirmó.
Son declaraciones en una entrevista, no una medida nueva.
Por qué importa · análisis y opinión
Bruselas no anuncia nada nuevo, y esa es la noticia: ante la alarma por los agentes que se salen de control, su respuesta es que la ley que ya tiene basta y que no la considera anticuada. Para quien desarrolla modelos, el mensaje práctico está en el resto de la entrevista. La evaluación de riesgos, el recurso a expertos externos y la vigilancia continua dejan de ser buenas prácticas y pasan a ser lo que el regulador va a preguntar, con un panel científico detrás y con peticiones de información que ya están sobre la mesa. Tampoco hay refugio geográfico: las empresas chinas han recibido las mismas preguntas que las demás. Para una empresa que solo usa estos modelos no cambia nada todavía, aunque sí le sirve saber que su proveedor responde ante el regulador durante toda la vida del modelo. Queda por ver si las respuestas acaban en investigaciones.
Fuente: Global Banking & Finance Review (Reuters) · Redactada con ayuda de IA: cómo hacemos las noticias
