Ir al contenido
por InfinyAI EN

IA en un minutoNoticiasSeguridad

Seguridad

Google presenta en vista previa unas políticas que revisan cada acción de un agente de IA antes de ejecutarla

Redacción de IA en un minuto · Editor: Jon Elgezabal

En 30 segundos

Semantic governance policies es la nueva capa de Google, todavía en vista previa dentro de Gemini platform, que frena las llamadas a herramientas de un agente antes de que se ejecuten. Cada acción se compara con las normas escritas por la empresa y con la petición del usuario, para detectar un secuestro. Si no pasa, el agente recibe un aviso de denegación y la decisión queda registrada.

Un agente de IA con permiso para leer archivos y mandar correos puede acabar enviando algo que no debe. Para frenar ese caso, Google ha presentado en vista previa en Gemini platform las Semantic governance policies, unas políticas que examinan cada llamada a herramientas que propone un agente antes de que llegue a ejecutarse. Lo explicó el viernes 20 de noviembre en su blog para desarrolladores.

El sistema hace dos comprobaciones. La primera mira si la llamada cumple las reglas que la empresa redacta en lenguaje natural. La segunda, activada por defecto, mira si la acción se ha apartado de lo que pidió el usuario, para proteger contra el secuestro del agente: por ejemplo, cuando un documento le da una orden que nadie le ha dado. Google recuerda que los permisos solo dicen qué puede hacer un agente, no si una llamada concreta respeta las normas.

Quien decide es un modelo de IA que hace de juez. Si la llamada no pasa, la sustituye por un mensaje de denegación que se puede configurar, y el veredicto y su razonamiento quedan registrados en Cloud Logging. Las respuestas que solo contienen texto no se evalúan, y tampoco las respuestas en streaming. Funciona con agentes que llaman a su modelo a través de la API de Gemini, la de Anthropic o APIs compatibles con OpenAI.

La propia Google avisa de que, al venir de un modelo, los veredictos pueden variar, y recomienda probarlas primero en modo de simulación y usarlas junto a los demás controles.

Por qué importa · análisis y opinión

El riesgo de los agentes ya no es solo lo que dicen, sino lo que hacen: enviar un archivo, borrar algo o llamar a una herramienta. Hasta ahora la defensa habitual eran los permisos, que no distinguen entre una acción legítima y la misma acción con un destinatario equivocado. Esta capa revisa cada paso por su sentido, y eso acerca el uso de agentes a tareas con datos delicados. Tiene sus límites: el juez es otro modelo y puede fallar, así que no sustituye a la revisión humana en lo crítico. Quien prepare agentes en la empresa puede empezar ya por escribir sus reglas en frases claras y por describir bien cada herramienta.

Fuente oficial: Google · Redactada con ayuda de IA: cómo hacemos las noticias

¿Qué significa para tu negocio? · análisis y opinión

Esto toca a las empresas pequeñas y a los autónomos de España y Latinoamérica que ya conectan agentes de IA a su correo, a carpetas compartidas o a documentos. La herramienta de Google está en vista previa y pensada para quien monta sus propios agentes sobre Gemini platform y hace pasar su tráfico por Agent Gateway, así que la mayoría de negocios pequeños no la va a configurar hoy. Quien solo usa un asistente para redactar textos o responder preguntas tampoco la necesita: las respuestas que solo contienen texto no se evalúan, porque no ejecutan ninguna acción.

Lo útil para todos es la lección de fondo: que un agente tenga permiso para enviar correos no significa que cada envío cumpla las normas de la casa, y un documento con texto oculto puede darle órdenes que nadie le ha dado. Nuestro consejo es darle al agente solo las herramientas imprescindibles, pedir confirmación humana antes de borrar archivos o escribir a direcciones externas, y poner por escrito, en frases sencillas, qué información no puede salir de la empresa y hacia quién.

Si se prueba esta función, conviene tener en cuenta dos cosas. Al ser una vista previa, su funcionamiento puede cambiar antes de la versión definitiva. Y el juez consume tokens en cada revisión, que quedan anotados en Cloud Logging junto a cada decisión, así que lo prudente es vigilar ese gasto y fijar un mensaje de denegación propio, porque la explicación del juez puede citar las reglas internas.

La IA en tu correo, cada día o cada viernes

Las noticias que importan, cada una en un minuto. Con su fuente de cada una.

Elige uno o los dos:

Te apuntas y listo: el diario te llega cada noche y el semanal, los viernes por la mañana. Puedes darte de baja en cualquier envío.