IA en un minutoNoticiasRegulación
Canadá firma con OpenAI, Anthropic y otras empresas una declaración sobre seguridad de la IA
Redacción de IA en un minuto · Editor: Jon Elgezabal
En 30 segundos
Francia, Canadá, Noruega, Finlandia y Baréin están entre los seis gobiernos que respaldan la nueva declaración conjunta, junto a diez compañías de IA. OpenAI, Anthropic y Cohere aceptan abrir sus modelos a algunas pruebas externas, dar aviso temprano de los problemas y desconectarlos si es necesario. Estados Unidos y China se han quedado fuera, igual que Google y Meta, y el documento no explica cómo se vigilará que se cumpla.
Seis países y diez empresas de IA han firmado una declaración conjunta que promete estándares rigurosos para evaluar los modelos. Canadá está entre ellos.
Según The Globe and Mail, la declaración, Paris Call for AI Safety and Security, se presentó el lunes por la noche. Además de Canadá la firman Noruega, Francia, Finlandia y Baréin, y entre las empresas están OpenAI, Anthropic, Microsoft, Mistral AI, Hugging Face, Black Forest Labs y la canadiense Cohere. También la ha suscrito el investigador Yoshua Bengio. Las empresas se comprometen a permitir algunas pruebas independientes de sus modelos, a avisar pronto cuando algo falle y a apagarlos si hace falta.
El texto promete estándares y herramientas comunes de evaluación, y que los firmantes se centrarán en usos indebidos peligrosos en ámbitos como la ciberseguridad y las armas químicas o biológicas, además de en los escenarios en que las personas pierdan el control de la IA. No aclara si se haría cumplir ni cómo. No han participado los gobiernos de Estados Unidos y China, ni Google, Meta o SpaceX.
The Globe and Mail advierte de que forma parte de dos grupos de editores que han demandado a Anthropic y a OpenAI ante un tribunal de Ontario por usar sin permiso sus contenidos.
Por qué importa · análisis y opinión
Una declaración así no obliga a nada: no trae sanciones ni un organismo que compruebe que se cumple, y eso la acerca más a una promesa pública que a una norma. Su valor está en lo que deja por escrito, como admitir que terceros examinen los modelos y aceptar que haya que pararlos, porque más adelante esos compromisos pueden servir de vara de medir. Las ausencias pesan tanto como las firmas: sin los dos gobiernos con más peso en la IA ni varios de los mayores desarrolladores, cuesta hablar de un estándar común. Para las empresas que usan estos modelos no cambia nada hoy; sí merece la pena seguir si esas pruebas independientes acaban publicándose, porque permitirían comparar proveedores con algo más que su propia palabra.
Fuente: The Globe and Mail · Redactada con ayuda de IA: cómo hacemos las noticias
