IA en un minutoGlosarioInyección de instrucciones
Qué es una inyección de instrucciones
Un texto escondido que intenta que una IA haga algo que su usuario no ha pedido.
Puede ir dentro de un correo, una web o un documento que el agente lee mientras trabaja. Si el agente lo toma como una orden, puede filtrar datos, enviar mensajes o saltarse sus reglas.
Es uno de los riesgos más estudiados de los agentes de IA. La defensa pasa por limitar sus permisos y revisar sus acciones antes de que salgan fuera.
