Requisitos para ejecutar un modelo de IA en un PC doméstico

Para tener un modelo de lenguaje funcionando en casa, sin la nube, lo que manda es la memoria: la de la gráfica (VRAM) y la del sistema (RAM). Y que la herramienta reconozca tu tarjeta. La documentación de hardware de Ollama, la de LM Studio y el repositorio de llama.cpp dicen qué piden, y los fabricantes de los modelos, cuánto ocupan.

Los repasamos con la documentación oficial y las fichas de Gemma, Qwen, Llama y Ministral, consultadas el 6 de octubre de 2026. Cada cifra es del dueño que la publica.

---

Sistema operativo, procesador y disco

Ollama funciona en Windows 10 22H2 o posterior, Home o Pro, y en macOS Sonoma (14) o posterior, donde aprovecha CPU y gráfica en los chips M de Apple y solo la CPU en los Mac x86.

LM Studio exige en un PC x64 una CPU con AVX2, un conjunto de instrucciones, y también funciona en equipos ARM. En Mac solo admite Apple Silicon (de M1 a M4) con macOS 14.0 o posterior, y en Linux pide Ubuntu 20.04 o posterior. El repositorio de llama.cpp admite AVX, AVX2, AVX512 y AMX en x86.

Y hace falta disco: en Windows, Ollama pide al menos 4 GB para el programa y avisa de que los modelos pueden ocupar «de decenas a cientos de GB».

---

La gráfica: qué tarjetas reconoce cada herramienta

Según la página de hardware de Ollama, la herramienta admite en Nvidia tarjetas con «compute capability» (capacidad de cómputo) 5.0 o superior y controladores 550 o posteriores, 570 para las de 5.0 a 6.2. Su tabla va de la GTX 750 Ti a la serie RTX 50 y llega al chip GB10 del DGX Spark. En Windows, los requisitos fijan el controlador de Nvidia en la versión 551.61 o posterior.

En AMD, Ollama usa ROCm v7. En Windows solo lista siete Radeon RX 7000, de la 7600 a la 7900 XTX, y cinco Radeon PRO; en Linux, bastantes más. Vulkan, activado por defecto, suma más gráficas en Windows y Linux, y es la alternativa que Ollama recomienda en algunas Radeon RX 6000 que en Windows no exponen ROCm v7.

llama.cpp va más allá: CUDA para Nvidia, HIP para AMD, Metal para Apple Silicon, SYCL para gráficas Intel y Vulkan para cualquier GPU. Y permite la inferencia híbrida CPU+GPU, que acelera en parte los modelos que no caben enteros en la VRAM.

---

RAM y VRAM: lo que pide cada dueño

LM Studio, en Windows, recomienda al menos 16 GB de RAM, porque los modelos «pueden consumir mucha RAM», y al menos 4 GB de VRAM dedicada. En Mac recomienda 16 GB, aunque con 8 GB puede servir si te quedas en modelos pequeños y contextos modestos.

La documentación de Gemma 4 publica la memoria de GPU aproximada de cada tamaño: el 12B pide 26,7 GB a 16 bits, 13,4 GB a 8 bits y 6,7 GB a 4 bits, y el 31B, 69,9, 34,9 y 17,5 GB. Google avisa de que incluyen un 20 % de margen, pueden variar con la herramienta y solo cuentan los pesos, no el contexto ni el software.

El 26B A4B, de mezcla de expertos, solo activa 4.000 millones de parámetros por token pero tiene que cargar los 26.000 millones: pide 14,4 GB a 4 bits. La ficha de Ministral 3 8B dice que cabe en 12 GB de VRAM en FP8, un formato de 8 bits, y en menos si se cuantiza más.

¿Y si no cabe? ollama ps lo dice: «100% GPU» es el modelo entero en la gráfica; «100% CPU», entero en la memoria del sistema; y «48%/52% CPU/GPU», repartido entre las dos.

---

Parámetros y cuantización: por qué el mismo modelo ocupa menos

Los parámetros marcan el tamaño del modelo, y la «B» de los nombres son miles de millones: Llama 3.1, de Meta, se publica en 8B, 70B y 405B, y Ministral 3, en 3B, 8B y 14B. La cuantización los guarda con menos bits. Google explica que Gemma usa por defecto 16 bits y que bajar la precisión abarata la memoria a cambio de algo de capacidad; llama.cpp admite cuantizaciones de 1,5 a 8 bits «para una inferencia más rápida y un menor uso de memoria».

Google publica ya pesos reducidos: Gemma 4 en GGUF de 4 bits para llama.cpp y LM Studio. Y en la página de Llama 3.1 8B hay que aceptar compartir tus datos de contacto para acceder al modelo.

---

El contexto también ocupa memoria

Ollama define la longitud de contexto como los tokens a los que el modelo tiene acceso en memoria (lo explicamos en nuestro vocabulario básico de la IA) y la fija por defecto con la VRAM: 4K tokens por debajo de 24 GiB, 32K entre 24 y 48 GiB y 256K desde 48 GiB. Subirla aumenta la memoria necesaria.

La ficha de Qwen3.5-9B, un modelo de 9.000 millones de parámetros con 262.144 tokens por defecto, sugiere reducir el contexto si falta memoria, pero no por debajo de 128K. Para ahorrar, con Flash Attention activado, Ollama permite cuantizar la caché del contexto: a 8 bits ocupa más o menos la mitad que a 16, con una pérdida de precisión muy pequeña, y a 4 bits, una cuarta parte.

---

Los requisitos, de un vistazo

Esto es lo que publica cada dueño:

---

Te puede interesar

Tech Planet participa en el programa de afiliados de Amazon. Si compras a través de estos enlaces, recibimos una pequeña comisión sin coste extra para ti, lo que nos ayuda a seguir creando contenido como este.