Ir al contenido
por InfinyAI EN

IA en un minutoNoticiasAgentes

Agentes

Anthropic lanza en beta pública los hilos de mensajes para reducir la espera de los agentes en sesiones largas

Redacción de IA en un minuto · Editor: Jon Elgezabal

En 30 segundos

Anthropic estrena en Claude Platform una beta abierta de los hilos de mensajes: el agente manda una vez toda la conversación y luego solo lo nuevo de cada turno, pensado para sesiones muy largas. Anthropic calcula que en peticiones de 500.000 a 1M tokens la espera mediana hasta la primera respuesta baja alrededor de un 35%. El uso de tokens y las tarifas se quedan como estaban.

Anthropic ha abierto en beta pública los hilos de mensajes (message threads) de la API de Mensajes en Claude Platform, su plataforma para desarrolladores. En lugar de reenviar toda la conversación en cada petición, el agente manda el historial completo una sola vez y después únicamente los mensajes nuevos, junto con el identificador de la respuesta anterior.

El problema que ataca es el de las sesiones largas. Un agente de programación puede hacer cientos de peticiones en una sesión y cada una arrastra todos los mensajes y resultados de herramientas anteriores; cuando la conversación alcanza cientos de miles de tokens, reenviarla retrasa el momento en que Claude empieza a responder. Según Anthropic, con la función activada por defecto para la mayoría de usuarios de Claude Code (su herramienta de programación), las peticiones de entre 500.000 y 1 millón de tokens tardan en dar su primer token, de mediana, alrededor de un 35% menos.

Para usarla hay que añadir el parámetro thread a las peticiones. Anthropic guarda cada hilo en memoria, cifrado y sin escribirlo en disco, y lo deja caducar 5 minutos después de la última petición; entonces el cliente debe volver a enviar la conversación entera para abrir uno nuevo. Aunque cada petición pese menos, el modelo recibe igualmente la conversación completa en cada turno; por eso el consumo de tokens es el mismo y rigen las tarifas y los límites de uso de siempre. La empresa lo recomienda para agentes de programación que trabajan durante mucho tiempo, para los que manejan el ordenador (las capturas de pantalla se quedan en el hilo en vez de subirse de nuevo) y para tareas cargadas de documentos o imágenes.

La beta está disponible en Claude Platform y en sus versiones para AWS, Microsoft Foundry y Google Cloud (esta última, gestionada por Anthropic). Según Unite.AI, que repasa la documentación técnica, cada aplicación tiene que guardar por su cuenta el historial de mensajes, los hilos quedan fuera de la retención cero de datos y del uso con HIPAA, y de cada respuesta solo puede salir una continuación.

Por qué importa · análisis y opinión

El cambio no hace que Claude piense menos: evita que el cliente tenga que empaquetar y mandar una y otra vez lo que ya dijo. Es una mejora de fontanería, pero en agentes que encadenan cientos de llamadas esa fontanería marca la sensación de agilidad que percibe quien los usa. Tiene contrapartidas antes de adoptarla: sigue en beta, los hilos caducan pronto y la aplicación debe guardar su propia copia de la conversación para reabrirlos, así que la complejidad no desaparece, se traslada al código del cliente. Tampoco abarata nada, porque el consumo de tokens es el mismo, y quien maneje datos sensibles debe comprobar que las condiciones de retención de los hilos encajan con sus requisitos. Un equipo que ya construya agentes de programación puede probarla midiendo con sus propias sesiones largas.

Fuente oficial: Anthropic · Redactada con ayuda de IA: cómo hacemos las noticias

La IA en tu correo, cada día o cada viernes

Las noticias que importan, cada una en un minuto. Con su fuente de cada una.

Elige uno o los dos:

Te apuntas y listo: el diario te llega cada noche y el semanal, los viernes por la mañana. Puedes darte de baja en cualquier envío.