initial commit: slides ready + upgraded

This commit is contained in:
2026-05-24 10:37:53 +02:00
commit f6f46972c3
173 changed files with 16756 additions and 0 deletions
+24
View File
@@ -0,0 +1,24 @@
---
layout: default
---
# Reranking self-hosted
<v-clicks>
### BAAI/bge-reranker-v2-m3
- Modelo open source (Apache 2.0), 0.6B params, multilingüe
- Funciona en **CPU** — no necesitas GPU
- Primera descarga ~600MB, luego se cachea
### Runtimes para servir el modelo
| Runtime | Descripción |
|---------|-------------|
| **Infinity** | Runtime ligero y sencillo de configurar. Soporta embeddings y reranking. Ideal para empezar |
| **TEI** (Text Embeddings Inference) | Runtime de HuggingFace, más optimizado. Tiene imágenes Docker separadas para CPU y GPU |
Ambos se despliegan con Docker y exponen una API REST compatible
</v-clicks>