IA en un minutoNoticiasRegulación
OpenAI y Anthropic piden al Parlamento británico leyes obligatorias para la seguridad de la IA
Redacción de IA en un minuto · Editor: Jon Elgezabal
En 30 segundos
OpenAI y Anthropic pidieron a un comité de diputados británicos normas de obligado cumplimiento para controlar los riesgos de la IA. Google DeepMind y Meta, presentes en la misma comparecencia, no se sumaron a esa petición. El director del AISI reconoció que hoy no tiene forma de frenar un modelo aunque lo juzgue demasiado peligroso.
OpenAI y Anthropic defendieron el martes 13 de octubre, ante el Parlamento británico, que la seguridad de la IA necesita leyes de obligado cumplimiento y que los compromisos voluntarios de las empresas ya no bastan. Google DeepMind y Meta, que comparecieron en la misma sesión, no apoyaron una nueva legislación.
La audiencia la celebró el Comité de Negocios, Innovación, Ciencia y Comercio de la Cámara de los Comunes, formado por diputados de varios partidos. Además de las cuatro empresas, declararon altos funcionarios británicos y cuatro antiguos empleados de esos laboratorios que han denunciado sus prácticas. Uno de ellos, Daniel Kokotajlo, que trabajó en OpenAI, dijo a los diputados que no cree que se pueda confiar en que las empresas se regulen solas.
Liam Booth-Smith, responsable de Anthropic para Europa, respondió que «las reglas deberían ser vinculantes» cuando le preguntaron si la seguridad de la IA necesita ya un marco legal, y recordó que su empresa siempre ha defendido que los compromisos voluntarios no son suficientes. Tom Duff Gordon, vicepresidente de OpenAI, fue más prudente: apoyó un marco legal y un convenio internacional, y pidió que algunos elementos sean obligatorios, empezando por la notificación de incidentes.
Las otras dos empresas no les siguieron. Preguntado directamente por un marco legal, Owen Larter, de Google DeepMind, contestó que su empresa se centraría en los estándares. Rob Sherman, de Meta, recordó que el Reino Unido ya tiene sus propios reguladores y que no se parte de cero.
En la última parte de la sesión, los funcionarios reconocieron lo poco que obliga el sistema actual. El Instituto de Seguridad de la IA del Reino Unido (AISI) evalúa los modelos más avanzados antes de que salgan, pero solo si las empresas deciden dejárselos. Su director, Henry de Zoete, admitió que el instituto depende por completo de la colaboración de las empresas y de gobiernos extranjeros, y que no podría impedir que una compañía lanzase un modelo que el AISI considerase demasiado peligroso. Cat Little, la funcionaria de más rango de la Oficina del Gabinete, de la que depende el instituto, confirmó que, por ahora, todo el sistema es voluntario.
Booth-Smith contó que Anthropic no pudo dar en su momento al AISI acceso completo y sin restricciones a su modelo Mythos 5.1, una cuestión que remitió al Gobierno de Estados Unidos, y añadió que el instituto ya tiene ese acceso. Duff Gordon explicó que OpenAI entrega sus modelos antes de lanzarlos al CAISI, el organismo equivalente en Estados Unidos, y al AISI británico, y que seguirá haciéndolo mientras el Gobierno estadounidense se lo permita.
La comparecencia se anunció en septiembre, dentro de una investigación del comité. Su presidente, Liam Byrne, invitó entonces a las cuatro empresas y les preguntó, entre otras cosas, si aceptarían notificar de forma obligatoria los incidentes graves, según publicó City AM.
Tras la audiencia, Byrne dijo a WIRED que el comité quería sacar a la luz las grandes diferencias de opinión entre estas empresas y demostrar que no se puede confiar en la autorregulación voluntaria. También quiere que el Gobierno británico aproveche su próxima presidencia del G20, a la que seguirá la de Corea del Sur, para impulsar un convenio internacional sobre la IA que no dependa de la actual Casa Blanca.
Por qué importa · análisis y opinión
Nada de esto obliga todavía a nadie: en el Reino Unido, que un modelo se pruebe antes de salir sigue dependiendo de la voluntad de cada empresa, y una audiencia solo deja constancia de posturas. Lo nuevo es que la división entre los grandes laboratorios queda por escrito ante un parlamento, con dos de ellos pidiendo normas vinculantes y los otros dos confiando en los estándares y en los reguladores que ya existen. Que el organismo que evalúa los modelos reconozca que no puede pararlos explica por qué el comité empuja hacia la vía legal y hacia un acuerdo internacional. Para quien usa estas herramientas no cambia nada de inmediato; la pista que merece seguirse es la notificación obligatoria de incidentes, la primera medida que propuso OpenAI y una de las preguntas que el comité ya había hecho a las cuatro empresas.
Fuente: WIRED · Redactada con ayuda de IA: cómo hacemos las noticias
