curso-langchain/slides/pages/models/06.md

layout

layout
default

Batch: Procesamiento en Lote

¿Cuándo usar batch?

• ✅ Procesar múltiples inputs a la vez
• ✅ Optimización de costos (algunos proveedores ofrecen descuentos)
• ✅ Mejor throughput que llamadas individuales

import { ChatOpenAI } from "@langchain/openai";

const model = new ChatOpenAI({ model: "gpt-4.1-mini" });

const inputs = [
  "¿Qué es un agente?",
  "¿Qué es RAG?",
  "¿Qué es LangSmith?"
];

const responses = await model.batch(inputs);

responses.forEach((response, i) => {
  console.log(`Pregunta ${i + 1}:`, response.content);
});