Qué es RAG y cómo conecta un modelo con documentos propios

Un modelo de lenguaje responde con lo que aprendió durante su entrenamiento, y ahí no están tus contratos, tus apuntes ni el manual de la caldera que guardas en una carpeta. RAG es la técnica que conecta el modelo con esos documentos: antes de contestar, el sistema busca en ellos los fragmentos que tienen que ver con la pregunta y se los entrega junto a ella. La documentación de Amazon Web Services la describe como una técnica popular que consiste en sacar información de un almacén de datos para ampliar las respuestas que generan los grandes modelos de lenguaje.

Repasamos qué es RAG, qué problema resuelve, de dónde viene el término, cada pieza del proceso, en qué se diferencia del ajuste fino y de una ventana de contexto larga, dónde falla y cómo se lleva a los documentos de casa, con el artículo científico original de 2020 y la documentación técnica de cinco plataformas de IA, consultados el 21 de octubre de 2026.

---

Qué problema resuelve RAG

La página que dedica Google Cloud a esta técnica va al grano: los grandes modelos de lenguaje están limitados a los datos con los que se entrenaron, y eso da lugar a respuestas desfasadas y potencialmente inexactas. RAG lo supera dándoles información actualizada.

El segundo problema son los datos privados. La página de RAG Engine, el componente de Gemini Enterprise Agent Platform que se encarga de esto, lo dice sin rodeos: un problema habitual de los modelos es que no entienden el conocimiento privado, es decir, los datos de tu organización. Si se enriquece su contexto con esa información, el modelo puede reducir las alucinaciones y responder con más precisión.

El tercero es el coste. La documentación de Bedrock, el servicio que monta estas bases de conocimiento, añade que una base de conocimiento sale más rentable porque elimina la necesidad de entrenar el modelo una y otra vez para que use tus datos privados. La guía de Azure AI Search, de Microsoft, lo resume como un patrón que amplía lo que sabe hacer un modelo anclando sus respuestas en tu contenido propio, con un matiz: aunque la idea es sencilla, ponerla en marcha tiene retos importantes.

---

De dónde viene el término

El término viene de un artículo científico: «Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks», de Patrick Lewis y otros once autores, publicado en arXiv el 22 de mayo de 2020 y aceptado en NeurIPS 2020. Las siglas corresponden a «generación aumentada por recuperación».

El resumen parte del mismo problema, visto desde dentro. Los grandes modelos preentrenados guardan conocimiento sobre hechos en sus parámetros, pero su capacidad para acceder a él y manejarlo con precisión sigue siendo limitada. Además, explicar de dónde sale cada decisión y actualizar lo que saben del mundo eran problemas de investigación abiertos.

La propuesta fue combinar dos memorias: la paramétrica, que es el propio modelo generador de texto, y la no paramétrica, un índice vectorial denso de Wikipedia al que se accede con un recuperador neuronal. Con esa receta, los autores lograron el mejor resultado del momento en tres tareas de preguntas y respuestas de dominio abierto, y comprobaron que los modelos RAG generaban un lenguaje más específico, más variado y más fiel a los hechos que un modelo que solo tiraba de sus parámetros.

---

Preparar los documentos: fragmentos, embeddings y base vectorial

Antes de que nadie pregunte nada, hay que preparar el material. La documentación de Bedrock describe la práctica habitual con los datos no estructurados: convertirlos en texto y partirlos en trozos manejables. Es la fragmentación, y RAG Engine la sitúa justo después de ingerir los datos desde sus fuentes, que pueden ser archivos locales o servicios de almacenamiento en la nube.

El tamaño de los trozos se puede elegir. En la guía de recuperación de OpenAI, cada archivo que se añade a un almacén vectorial se fragmenta, se convierte en vectores y se indexa de forma automática, y por defecto se corta en fragmentos de 800 tokens que se solapan 400 tokens con el siguiente, un tamaño que se puede ajustar entre 100 y 4.096 tokens. Con el solapamiento, el final de un trozo se repite al principio del siguiente.

Cada fragmento se convierte después en un embedding, que es como se llama en inglés a esta representación. La guía de Anthropic lo define así: los embeddings de texto son representaciones numéricas del texto que permiten medir la similitud semántica, es decir, lo parecidos que son dos textos en lo que significan. En su ejemplo, cada texto se convierte en una lista de 1.024 números de coma flotante. RAG Engine añade la idea clave: textos parecidos tienden a tener embeddings parecidos, que quedan más cerca en un espacio de muchas dimensiones.

Esos vectores se guardan en una base vectorial. Bedrock los escribe en un índice vectorial y mantiene el enlace con el documento original, un detalle que luego permite saber de dónde sale cada fragmento. RAG Engine llama corpus a ese índice y lo compara con el índice detallado de un enorme libro de consulta. Y hay que decidir cuánto ocupa cada vector: los binarios usan un solo bit por dimensión y ocupan menos que los de coma flotante, que usan 32, pero representan el texto con menos precisión.

---

Al preguntar: búsqueda por similitud y respuesta con contexto

Cuando llega la pregunta, se repite el truco. Un modelo de embeddings la convierte también en vector y se consulta el índice para encontrar los fragmentos semánticamente parecidos, comparando los vectores de los documentos con el de la pregunta.

La gracia es que no hace falta repetir las palabras. La guía de recuperación lo enseña con la pregunta «¿Cuándo fuimos a la Luna?»: la frase sobre el primer alunizaje, en julio de 1969, tiene un 0 % de coincidencia por palabras clave y un 65 % de similitud semántica, mientras que una sobre comerse un pastel de luna saca un 40 % por palabras y un 28 % por significado. El resultado más relevante no contiene ninguna de las palabras de la búsqueda.

Muchos sistemas combinan los dos métodos. Azure AI Search mezcla palabras clave y vectores en consultas híbridas para no perder resultados, y después aplica una clasificación semántica que vuelve a puntuarlos por su significado.

En el último paso, la petición del usuario se amplía con el contexto de los fragmentos recuperados y todo junto se envía al modelo para que genere la respuesta, que según la documentación de Bedrock puede ir con citas literales de las fuentes o redactada a partir de lo encontrado. El recorrido entero, paso a paso:

---

RAG frente al ajuste fino y la ventana de contexto larga

El ajuste fino consiste en volver a entrenar el modelo con datos nuevos, de modo que lo aprendido acaba en sus parámetros, la memoria paramétrica del artículo de 2020. RAG deja ese conocimiento fuera, y la documentación de Bedrock destaca que abarata el sistema al quitar la necesidad de reentrenar el modelo una y otra vez. Si cambia un documento, se vuelve a indexar ese documento: Azure AI Search tiene indexación incremental para mantener el contenido al día.

La otra alternativa es meterlo todo en la conversación. La página de casos de uso de la nube del buscador reconoce que la ventana de contexto larga de Gemini es una gran forma de dar el material de origen al modelo, pero si hay que darle más información de la que cabe, o ganar rendimiento, RAG reduce el número de tokens y ahorra tiempo y dinero. La guía de Azure AI Search pone números al problema: GPT-4 acepta unos 128.000 tokens, pero tienes 10.000 páginas de documentación, y mandarlo todo desperdicia tokens y empeora la calidad. Por eso pide que la recuperación devuelva resultados muy relevantes y concisos, no volcados enteros de documentos.

---

Los límites: si falla la búsqueda, falla la respuesta

La página de casos de uso de la nube del buscador es tajante: el mecanismo de recuperación es de una importancia crítica, porque si la información recuperada no es pertinente, la respuesta puede estar anclada en ella y aun así salirse del tema o ser incorrecta. El modelo puede ser fiel a lo que le has dado y equivocarse igual, porque le has dado lo que no era.

El primer tropiezo suele estar en la pregunta. Azure AI Search pone un ejemplo: alguien pregunta por la política de vacaciones para trabajadores en remoto contratados después de 2023, pero los documentos hablan de «tiempo libre», «teletrabajo» y «contrataciones recientes». La búsqueda clásica por palabras clave falla cuando la consulta no coincide con el vocabulario de los documentos; por eso la guía de recuperación ofrece reescribir las consultas de forma automática.

Ajustar cuánto se recupera es un equilibrio. La búsqueda de esa guía devuelve por defecto como máximo 10 resultados, que se pueden subir hasta 50, y un umbral de puntuación más alto deja solo los fragmentos más relevantes, aunque puede excluir alguno útil. Y un aviso práctico: al quitar archivos de un almacén vectorial, la búsqueda todavía puede devolver durante un breve periodo contenido de un archivo ya eliminado.

La defensa es poder comprobar de dónde sale cada frase. La herramienta de búsqueda en archivos de la guía devuelve la respuesta junto con las citas de los archivos, Azure AI Search incluye un seguimiento de citas que muestra la procedencia, y la documentación de resultados de búsqueda de Claude permite que el modelo cite tu propio contenido igual que cita los resultados de la web, con la fuente y el título que tú le das. Para afinar esas citas, recomienda direcciones de origen claras y permanentes y partir el contenido largo en bloques de texto lógicos. Las plataformas hablan de mitigar y reducir las alucinaciones; por qué un modelo puede afirmar cosas falsas lo contamos en Por qué los modelos de IA generan información falsa.

Queda medirlo. La plataforma de la nube del buscador puntúa el texto generado y los fragmentos recuperados con métricas como la coherencia, la fluidez o el anclaje en las fuentes, y la calidad se mejora configurando el motor de búsqueda, cuidando los datos de origen, afinando la estrategia de fragmentación o puliendo la pregunta antes de buscar.

---

RAG en casa con tus propios documentos

A pequeña escala, las piezas son las mismas: algo que trocee los documentos, un modelo de embeddings, un índice donde guardar los vectores y un modelo de lenguaje que redacte la respuesta. La guía de Claude, que remite a los modelos de Voyage AI, de MongoDB, incluye uno de pesos abiertos, voyage-4-nano, con licencia Apache 2.0, que descargas de Hugging Face y ejecutas tú mismo.

La pieza que falta es el modelo que contesta, y qué pide uno para funcionar en casa lo explicamos en Requisitos para ejecutar un modelo de IA en un PC doméstico. Con todo en local, tus documentos no salen del equipo. Para unir las piezas existen marcos de programación de terceros, como LangChain o LlamaIndex.

Lo que más cuenta es el material. Azure AI Search insiste en que la calidad de un RAG depende de cómo se prepara el contenido: los documentos largos se trocean, y las imágenes y los PDF piden reconocimiento de texto. Una carpeta ordenada, con títulos que describan lo que hay dentro y documentos legibles, es buena parte del trabajo: el modelo solo puede responder bien con lo que el buscador sea capaz de encontrar.

---

Te puede interesar

Tech Planet participa en el programa de afiliados de Amazon. Si compras a través de estos enlaces, recibimos una pequeña comisión sin coste extra para ti, lo que nos ayuda a seguir creando contenido como este.