IA en un minutoNoticiasRegulación
Anthropic habría presentado a congresistas un borrador de ley para frenar modelos de IA que amenacen vidas o causen daños
Redacción de IA en un minuto · Editor: Jon Elgezabal
En 30 segundos
Anthropic ha llevado en privado a congresistas de Estados Unidos su propia propuesta de ley sobre los modelos de IA más potentes, según Politico. Solo permitiría bloquear un modelo ante un riesgo inminente de daños superiores a 1.000 millones de dólares o de más de 50 muertos o heridos graves, por armas biológicas, ciberataques o pérdida de control. Comercio tendría que acudir a un juez federal y ningún otro organismo podría frenarlo.
El viernes 16 de octubre, Politico informó de que representantes de Anthropic han presentado con discreción a congresistas de Estados Unidos un borrador de ley propio sobre la seguridad de los modelos de IA más avanzados. El medio cita a tres personas al tanto de esas gestiones.
Según ese borrador, el Gobierno solo podría bloquear el lanzamiento o el uso de un modelo si supone un riesgo previsible e inminente de causar más de 1.000 millones de dólares en daños, o de matar o herir de gravedad a más de 50 personas. Ese riesgo tendría que venir de la creación o liberación de un arma biológica, de un ciberataque o de que el modelo escape al control de la empresa que lo desarrolla.
Unos evaluadores independientes, registrados en el Departamento de Comercio, revisarían cada cierto tiempo al laboratorio y a sus modelos más avanzados. Las empresas podrían pagarles, siempre que el pago no dependa del resultado de la evaluación. Si detectan un riesgo inminente de los que enumera el texto, tendrían que avisar a Comercio en un plazo de 72 horas desde que terminan la evaluación.
Comercio, tras determinar que existe ese riesgo, podría pedir a un juez federal del Tribunal de Distrito del Distrito de Columbia, en Washington, que ordene suspender un modelo. El texto prohíbe expresamente que cualquier otro departamento, agencia o cargo del Gobierno de Estados Unidos suspenda su desarrollo, su despliegue o su uso interno.
Ni Anthropic ni el Departamento de Comercio respondieron de inmediato a las peticiones de comentario de Reuters, cuya información sobre la exclusiva de Politico ha publicado The Economic Times.
Por qué importa · análisis y opinión
El borrador dice tanto por lo que permite como por lo que impide. Anthropic propone que evaluadores externos revisen a los laboratorios y que haya avisos obligatorios, pero a cambio concentra el poder de frenar un modelo en un solo departamento y un solo tribunal, y solo ante riesgos catastróficos muy concretos. Los peligros que no lleguen a ese nivel no bastarían para detener un modelo por esta vía, y ninguna otra agencia podría hacerlo por su cuenta. Además, es un texto que se ha enseñado en privado, así que puede cambiar mucho antes de tramitarse, si llega a hacerlo. Para quien usa estos modelos en su empresa, la señal es que el debate en Washington ya no está en si regular la IA más avanzada, sino en quién tiene la última palabra y con qué límites.
Fuente: Politico · Redactada con ayuda de IA: cómo hacemos las noticias
