Ir al contenido
por InfinyAI EN

IA en un minutoNoticiasRegulación

Regulación

Newsom propone que California pueda ordenar el apagado de emergencia de un modelo de IA peligroso

Redacción de IA en un minuto · Editor: Jon Elgezabal

En 30 segundos

Gavin Newsom quiere que California tenga margen para parar de inmediato un sistema de IA cuando exista un peligro inminente y la empresa responsable no actúe. California plantea intervenir por capas, desde el cómputo hasta el despliegue, con planes de contención revisados por verificadores externos. CalMatters recuerda que nada de esto es ley todavía y que la Legislatura podrá debatirlo a partir del 7 de diciembre.

El gobernador de California, Gavin Newsom, presentó el miércoles 18 de noviembre el informe AI Safety in 2026 and Beyond, preparado por la Agencia de Operaciones Gubernamentales del estado con un grupo de cuatro expertos y con la Oficina de Servicios de Emergencia de California. Una de sus recomendaciones es que el estado tenga potestad para ordenar el apagado inmediato de emergencia de un modelo de IA cuando haya motivos creíbles para ver una amenaza inminente y el desarrollador se niegue a contenerla.

Según el informe, no se trata de un único botón de encendido y apagado, lo que algunos llaman kill switch, sino de poder actuar en varios niveles: el cómputo, los agentes, el acceso interno y el despliegue del modelo. Cada gran desarrollador de modelos de frontera tendría que preparar un protocolo de contención de riesgos, que una organización independiente de verificación pondría a prueba de forma continuada.

En cuanto a los incidentes, propone recortar de 15 días a 48 horas el plazo para comunicar la mayoría de los críticos, mantener las 24 horas cuando haya un riesgo catastrófico inminente y que se notifiquen también las pérdidas de control de un modelo aunque no haya muertos ni heridos, una condición que hoy pone la ley SB 53, firmada en 2025. Entre las demás recomendaciones están las normas de seguridad obligatorias, las auditorías independientes en todas las fases de un modelo y la posibilidad de limitar la IA capaz de diseñar a su sucesora sin intervención humana.

El grupo de expertos lo forman Jason Goldman, Gillian Hadfield, Alondra Nelson y Rob Reich. Son recomendaciones, no leyes: según CalMatters, los legisladores podrán presentar nuevos proyectos cuando la Legislatura vuelva a Sacramento el 7 de diciembre.

Por qué importa · análisis y opinión

El cambio de fondo es quién decide. Hasta ahora, la ley californiana pedía a los grandes desarrolladores publicar sus marcos de seguridad y avisar de ciertos incidentes, pero la última palabra sobre parar un modelo seguía siendo suya. Con estas recomendaciones, el estado se reservaría esa decisión en casos extremos y pondría a terceros a comprobar que las empresas saben frenar sus propios sistemas. Las obligaciones recaerían sobre los laboratorios de frontera, no sobre quien usa sus herramientas, aunque cualquier apagado afectaría a los servicios construidos encima. Falta lo principal: que la Legislatura lo convierta en ley y fije umbrales concretos. El gobernador ya pide a Washington que tome este marco como punto de partida.

Fuente oficial: Gobierno de California · Redactada con ayuda de IA: cómo hacemos las noticias

La IA en tu correo, cada día o cada viernes

Las noticias que importan, cada una en un minuto. Con su fuente de cada una.

Elige uno o los dos:

Te apuntas y listo: el diario te llega cada noche y el semanal, los viernes por la mañana. Puedes darte de baja en cualquier envío.