Un millón de tokens vs. buscador de documentos: cómo debe leer tus archivos la IA

Los modelos tope de 2026 llegaron con una cifra que suena a exageración: un millón de tokens de ventana de contexto. Traducido: unas 750 mil palabras, alrededor de 1,500 páginas, en una sola conversación.

La pregunta práctica para una empresa es si eso vuelve innecesario montar un buscador de documentos, que hasta hace poco era el camino obligado. La respuesta corta: resolvió un problema y dejó el otro intacto.

Los dos enfoques

Contexto largo es lo más simple que existe: le pasas al modelo el documento completo —o los treinta documentos— y le haces tu pregunta. Él tiene todo delante y responde.

Buscador de documentos es el enfoque de dos etapas: primero un sistema busca en tu acervo los fragmentos relevantes para la pregunta, y solo esos se le pasan al modelo. El modelo nunca ve el acervo completo, solo la selección.

Comparativa directa

Cuándo gana el contexto largo

• Analizar un expediente completo. Un contrato marco con sus veinte adendas, un pliego de licitación con anexos, un caso legal entero. La pregunta —"¿hay contradicciones entre estos documentos?"— exige que el modelo vea todo a la vez. Un buscador que le pase tres fragmentos jamás va a encontrar la contradicción que está entre la página 12 y la 340.
• Consultas ocasionales sobre material grande. Cuatro contratos al mes, una licitación al trimestre. No tiene sentido construir infraestructura para eso: subes el archivo y preguntas.
• Prototipos y pruebas. Antes de invertir en un buscador, valida con contexto largo si la IA de verdad resuelve tu caso. Muchos proyectos descubren así que el buscador nunca hizo falta.
• Trabajo exploratorio. Cuando aún no sabes qué preguntar, tener todo el material delante permite descubrir lo que no sabías buscar.

Cuándo gana el buscador

• Tu acervo supera el millón de tokens, que es lo normal en una empresa con años de operación. Diez años de contratos, todo el histórico de tickets de soporte, la base de conocimiento completa: eso no cabe, y trocearlo a mano no es un plan.
• Consultas repetidas sobre el mismo material. Aquí el costo decide. Si mandas 1,500 páginas cada vez que alguien pregunta algo, pagas por leerlas de nuevo en cada consulta. El buscador manda tres páginas y cobra por tres páginas.
• Necesitas saber de dónde salió cada dato. Un buscador bien montado te dice "esto viene del contrato X, cláusula 14". Con contexto largo el modelo también puede citar, pero la trazabilidad es menos verificable.
• El acervo cambia constantemente. Un catálogo que se actualiza a diario, una base de conocimiento viva. Reindexar es automático; volver a subir todo, no.

La cuenta que decide: cuánto cuesta cada uno

Supongamos un manual de operación de 500,000 tokens (unas 750 páginas) y un modelo de gama insignia a 5 dólares por millón de tokens de entrada.

Con cinco consultas al mes, construir un buscador es un desperdicio de tiempo: pagas doce dólares y te ahorras semanas de trabajo. Con quinientas, no construirlo es tirar más de mil dólares mensuales.

Y hay un matiz que cambia la tabla: el caché de prompts. Si mandas exactamente el mismo manual una y otra vez, el proveedor lo guarda y cobra esa porción a una fracción del precio. Con caché bien aprovechado, el contexto largo aguanta bastante más volumen antes de que el buscador se justifique. Es una de las palancas que desglosamos en cuánto cuesta realmente la IA por token.

El enfoque que usamos en la práctica: los dos

Los proyectos que mejor funcionan no eligen — combinan:

1. El buscador reduce el acervo de diez mil documentos a los cinco más relevantes.
2. El contexto largo digiere esos cinco documentos completos, no en fragmentos sueltos.

Así evitas los dos problemas: no pagas por leer todo el archivero en cada consulta, y el modelo no se queda con tres párrafos descontextualizados que le hacen sacar la conclusión equivocada.

Es la arquitectura que la ventana de un millón de tokens hizo posible. Antes había que trocear los documentos en pedacitos y el modelo trabajaba con retazos; hoy el buscador puede pasarle documentos enteros y el modelo los procesa con visión de conjunto.

Cómo empezar sin equivocarte

1. Mide tu acervo. ¿Cuántas páginas son? Divide entre 1,500: si el resultado es menos de uno, cabe en una ventana y no necesitas nada más.
2. Cuenta tus consultas mensuales. Menos de veinte sobre el mismo material: contexto largo, sin dudar.
3. Prototipa con contexto largo aunque planees un buscador. Sube un documento representativo y prueba tus preguntas reales. Si la IA no resuelve tu caso con todo el material delante, tampoco lo va a resolver con fragmentos — y acabas de ahorrarte un proyecto.
4. Construye el buscador solo cuando la aritmética lo pida. El volumen o el costo te van a avisar. Adelantarte es la forma más común de gastar tres meses en infraestructura que no hacía falta.
5. Cuida qué documentos subes. Si contienen datos personales de clientes, aplican las mismas reglas de siempre: plan empresarial, anonimización cuando se pueda y revisión de la política de retención de datos.

Veredicto

La ventana de un millón de tokens eliminó el proyecto de infraestructura para el caso más común — analizar un documento grande— y lo convirtió en algo que cualquiera hace en cinco minutos con una suscripción. Ese es un cambio enorme para las PyMEs: el análisis de un expediente completo dejó de ser un proyecto de TI.

Lo que no eliminó es la necesidad de organizar la información cuando el acervo es grande y las consultas son constantes. Ahí el buscador sigue siendo el camino, solo que ahora trabaja mejor porque puede entregarle al modelo documentos enteros en vez de retazos.

La regla final es la misma que aplica a casi todo en tecnología: empieza con lo simple, mide, y construye infraestructura solo cuando los números te lo pidan.