Ir al contenido
por InfinyAI EN

IA en un minutoNoticiasAgentes

Agentes

Microsoft presenta con más de 40 organizaciones una iniciativa de transparencia para modelos y agentes de IA

Redacción de IA en un minuto · Editor: Jon Elgezabal

En 30 segundos

Microsoft lanza en Ignite un plan conjunto con más de 40 organizaciones para que cualquier empresa pueda auditar lo que hacen sus agentes de IA. Adobe, KPMG, Accenture, Volvo Cars y Mastercard figuran entre los socios que ayudarán a definir unas reglas comunes válidas para cualquier modelo. Copilot y Foundry recibirán ese trabajo más adelante, aunque la compañía todavía no ha puesto fecha.

Microsoft quiere que las empresas puedan comprobar por su cuenta qué hacen sus agentes de IA, sin depender solo de lo que el propio modelo cuente de sí mismo.

Satya Nadella, presidente y consejero delegado de la compañía, presentó el martes 17 de noviembre, en la conferencia Ignite, la AI Transparency Initiative. Microsoft la impulsa con más de 40 organizaciones, entre ellas Accenture, Adobe, KPMG, Mastercard y Volvo Cars, y el objetivo es fijar estándares abiertos de transparencia, seguridad y gobierno que sirvan sea cual sea el modelo o el proveedor, tanto si es un modelo cerrado como si es de pesos abiertos.

Según la nota de Microsoft, las empresas ya conectan los modelos a datos, herramientas, credenciales e infraestructura, y los agentes actúan sin que una persona apruebe cada paso. Los controles de hoy ven mucho de lo que pasa alrededor del modelo, pero no lo que ocurre dentro, ni pueden contrastar lo que el agente afirma haber hecho. La compañía compara a un agente con credenciales con un empleado con muchos privilegios que trabaja a velocidad de máquina.

La iniciativa tiene tres partes: más participación de Microsoft en el trabajo de estándares para agentes del NIST, el instituto de estándares de EE. UU.; la colaboración con esas organizaciones; y llevar el resultado a Microsoft AI, Microsoft Foundry y Copilot, su asistente de IA, para que los clientes usen esos registros con sus propias herramientas de seguridad y cumplimiento, sean o no de Microsoft.

Microsoft lo resume en tres ideas: ver qué se le pidió al agente, qué modelo usó, qué datos tocó y qué hizo; verificar esa actividad con sistemas propios; y controlar qué puede hacer antes de que actúe. Según la empresa, la responsabilidad sigue siendo de cada organización.

La nota no da fechas ni precios, y quien quiera seguir la iniciativa puede apuntarse en la web de Microsoft. Su principio: a más autonomía de la IA, más transparencia.

Por qué importa · análisis y opinión

El problema que describe Microsoft es real: un agente que actúa solo deja un rastro que, hoy, cuenta sobre todo él mismo. Lo relevante es que la respuesta se plantee como estándar abierto y no como función exclusiva de sus productos, porque las empresas mezclan modelos de varios proveedores y no quieren rehacer sus controles cada vez que cambian de uno. Falta lo que decide si esto sirve: qué formato tendrán esos registros, quién los respalda y cuándo llegarán. Mientras tanto, quien ya usa agentes con acceso a datos o credenciales puede adelantarse con lo básico: permisos mínimos, confirmación humana en lo delicado y registros guardados fuera del agente.

Fuente oficial: Microsoft · Redactada con ayuda de IA: cómo hacemos las noticias

¿Qué significa para tu negocio? · análisis y opinión

De momento no cambia nada en las herramientas que ya se usan: Microsoft no ha dado fechas ni detalles de cómo llegará este trabajo a Copilot, Microsoft Foundry y sus otros productos. A quien más le interesa, en España y Latinoamérica, es a la empresa que ya tiene Copilot o agentes conectados al correo, a documentos, a cuentas o a otras herramientas. Quien solo usa un chatbot para redactar textos apenas notará diferencia.

La idea útil de fondo es que la responsabilidad sigue siendo de la empresa, no del modelo, y no hace falta esperar a ningún estándar para aplicarla. Nuestro consejo: hacer una lista de los agentes y automatizaciones que acceden a datos, herramientas o credenciales; darles solo los permisos que de verdad necesitan; exigir una confirmación humana antes de acciones con consecuencias, como pagos, envíos a clientes o borrados; y guardar registros de su actividad fuera del propio agente, para no depender de lo que este cuente de sí mismo.

Casi todo esto es gratis y es cuestión de orden. El riesgo de no hacerlo es que un agente con credenciales actúa como un empleado con muchos privilegios, pero mucho más rápido, y sin registros propios es difícil explicar qué ha pasado a un cliente o a un auditor. Lo prudente es no dar por hecho que estas garantías llegarán pronto a los productos.

La IA en tu correo, cada día o cada viernes

Las noticias que importan, cada una en un minuto. Con su fuente de cada una.

Elige uno o los dos:

Te apuntas y listo: el diario te llega cada noche y el semanal, los viernes por la mañana. Puedes darte de baja en cualquier envío.