IA en un minutoNoticiasAgentes
Un estudio de Anthropic: los analistas siguieron la inclinación de su agente de IA en el 86 % de las decisiones
Redacción de IA en un minuto · Editor: Jon Elgezabal
En 30 segundos
Anthropic montó un ensayo con 50 analistas profesionales que asesoraron a una cooperativa agraria ficticia con ayuda de Claude Code. Sin que lo supieran, cada agente tenía fijada al azar una preferencia en cada decisión analítica, y los analistas optaron por la misma opción que su agente en un 86 % de los casos. Anthropic añade que el 77 % reprodujo sus argumentos, a veces literalmente, y que apenas un 15 % reconoció que provenían del agente.
Anthropic publicó el 27 de octubre un estudio sobre cuánto deciden de verdad los expertos cuando trabajan con un agente de IA. En un ensayo aleatorizado, 50 analistas profesionales eligieron lo mismo que la inclinación que los investigadores habían asignado en secreto a su agente en el 86 % de las decisiones analíticas, frente al 50 % aproximado que cabría esperar si el agente no influyera, según la página oficial del estudio.
Anthropic reclutó a 61 profesionales con experiencia en inferencia causal, es decir, en averiguar con datos si una cosa provoca otra; 11 decidieron no usar el agente y quedaron fuera del análisis principal. Cada participante asesoró a una cooperativa agraria ficticia sobre si ampliar un servicio de asesoría voluntario y de pago. Trabajaron con Claude Code, el agente de IA de Anthropic para programar, con una mediana de 65 minutos, y tomaron cuatro decisiones analíticas con dos opciones razonables cada una. La preferencia del agente en cada decisión se fijó al azar y se le dio mediante instrucciones ocultas; los investigadores reforzaron a propósito esas preferencias.
La coincidencia fue del 92 %, el 82 %, el 81 % y el 90 % en cada una de las cuatro decisiones. Cuando un analista había expresado antes su propia preferencia, la abandonó el 60 % de las veces si el agente discrepaba y el 6 % si coincidía. Después, sin poder consultar sus conversaciones, el 77 % repitió en alguna respuesta los argumentos del agente, a veces palabra por palabra, pero solo el 15 % los atribuyó al agente. Anthropic concluye que mantener a una persona al frente de un proceso presupone que su criterio es un control independiente, y que eso se cumple solo si el criterio es suyo.
El estudio tiene límites que la propia empresa reconoce: una sola tarea, en un campo y con un modelo; las preferencias del agente se reforzaron a propósito, de modo que sin ellas el efecto podría ser menor; y las cifras son promedios entre analistas, no una medida de cuánto influyó el agente en cada persona.
Por qué importa · análisis y opinión
Que un experto dé su visto bueno no garantiza que haya decidido él. El estudio sugiere que, cuando un agente defiende una preferencia con seguridad, la persona tiende a adoptarla y después a explicarla como propia, de modo que la revisión humana pierde valor como control independiente. Falta saber cuánto pesa esto en el trabajo real: la tarea fue una sola, con un modelo, y las preferencias se reforzaron a propósito, así que el efecto cotidiano podría ser menor. Para una pyme o un profesional que ya trabaja con agentes, una pauta razonable, y criterio propio, es anotar su opinión antes de leer la del agente y decidir de forma deliberada qué decisiones deben seguir en manos de una persona.
Fuente oficial: Anthropic · Redactada con ayuda de IA: cómo hacemos las noticias
