curso-langchain/slides/pages/agents/16.md

layout

layout
default

summarizationMiddleware: Resumir Historial

import { createAgent, summarizationMiddleware } from "langchain";

const agent = createAgent({
  model: "mistral:mistral-large-latest",
  tools: [searchTool, calculatorTool],
  middleware: [
    summarizationMiddleware({
      model: "mistral:mistral-small-latest",  // Modelo para resumir (más barato)
      trigger: { tokens: 4000 },              // Resumir cuando supere 4000 tokens
      keep: { messages: 20 },                 // Mantener los últimos 20 mensajes
    }),
  ],
});

Funcionamiento automático:

1. Detecta cuando el historial supera el límite de tokens
2. Resume los mensajes antiguos usando el modelo especificado
3. Reemplaza permanentemente los mensajes antiguos por el resumen
4. Mantiene los mensajes recientes intactos para contexto