gputaskman intenta explicar qué ocupa la VRAM: pesos del modelo, caché KV o el navegador

Imagen: Scott Hanselman / GitHub

Scott Hanselman publicó el lunes 9 de noviembre la versión 0.3.4 de gputaskman, una herramienta de código abierto que se presenta en su repositorio de GitHub como «un htop para lo que hay dentro de tu GPU, no solo para lo llena que está». Es una interfaz de terminal que relaciona la memoria y la actividad de la GPU de cada proceso con los entornos de ejecución que tiene cargados, los ficheros de modelo y el desglose de búferes de los modelos de lenguaje (LLM).

El proyecto tiene menos de una semana: su primera versión, la 0.1.0, salió el martes 3 de noviembre, y la 0.3.4 es ya la séptima. Funciona en Windows con gráficas NVIDIA y AMD, en Linux y WSL, y en los Mac con Apple Silicon.

---

La pregunta que intenta responder

El punto de partida que plantea el autor es sencillo: el Administrador de tareas dice «15 GB usados», y gputaskman intenta responder a qué se dedican. ¿Son los pesos del modelo? ¿La caché KV? ¿El navegador? ¿El compositor del escritorio? ¿Y por qué hay tanta memoria de la GPU en la RAM del sistema?

Su terreno son las cargas de trabajo locales: modelos de decisión, visión, voz, inferencia de LLM, entrenamiento y ajuste fino, gráficos y vídeo. Lo que funciona solo con la CPU, solo con una NPU o en la nube queda fuera de su alcance. El repositorio advierte de que es software temprano y experimental: los contadores del dispositivo y de los procesos son mediciones, pero las clasificaciones y los desgloses calculados a partir de ficheros GGUF son estimaciones.

---

Qué enseña en pantalla

La vista del dispositivo muestra el uso de VRAM, la actividad de la GPU y de la memoria, el tráfico PCIe, la temperatura, el consumo y gráficas de historial. La vista de procesos añade la memoria local de la GPU, la RAM del sistema accesible por la GPU, una estimación de la memoria comprometida que no está residente, la actividad de cada motor y los entornos detectados, como CUDA, HIP, Vulkan, Direct3D, ggml y ONNX Runtime.

El inspector de modelos indica qué modelo tiene cada proceso (LLM, de decisión, de incrustaciones, de voz o de difusión), cómo se ha identificado, su arquitectura, cuantización, número de capas, pesos, el coste estimado de la caché KV y los tamaños de búfer que aparecen en los registros de carga compatibles. Con servidores en marcha da además el tamaño de contexto y los nombres de modelo de Ollama o LM Studio. Todo se puede sacar también como una instantánea en texto o en JSON, y la orden gputaskman diff compara dos instantáneas.

La versión 0.3.4 suma una vista reducida opcional, que se activa con la tecla «m» y oculta datos secundarios de cada GPU, como las versiones del controlador y de CUDA, y recupera las GPU después de los cambios de adaptador en Windows.

---

Por qué no basta con nvidia-smi

El autor explica que en las GeForce bajo WDDM es Windows quien gestiona la memoria de la GPU, y NVML puede devolver la memoria por proceso como «N/A». Los contadores de GPU de Windows, en cambio, sí permiten atribuir la memoria y la actividad a través de Direct3D, Vulkan, OpenGL y CUDA. En WSL, según el repositorio, nvidia-smi directamente no lista ningún proceso.

También avisa de una trampa con el compositor: la misma superficie puede aparecer a la vez en la aplicación, en csrss.exe y en dwm.exe, y sumar esas filas cuenta la memoria dos veces. En una muestra en vivo, el contador antiguo de DWM marcaba unos 15,3 GiB, mientras que el de uso local se quedaba en unos 1,4 GiB. La columna de desbordamiento (Spill) es RAM del sistema accesible por la GPU y no demuestra por sí sola que la VRAM se haya llenado.

---

Dónde funciona y cómo se instala

La forma más directa es instalarlo desde PyPI con uv tool install gputaskman o con pipx, con Python 3.11 o posterior; además del nombre completo, responde a la orden corta gtm. Para Windows sin Python hay dos ZIP portátiles, uno para equipos Intel y AMD y otro para ARM64 nativo, que de momento no van firmados. Las de Linux piden glibc 2.35 o posterior y funcionan también en contenedores. La licencia es MIT.

Entre las pruebas en vivo que recoge el repositorio están una RTX 4080 SUPER, una Radeon 860M y una Radeon de la serie RX 9070.

---

Siete versiones en una semana

La 0.2.0, del martes 3 de noviembre, trajo Linux y WSL, y la 0.3.0, publicada esa misma noche, el soporte de AMD. La 0.3.1, del sábado 7 de noviembre, añadió la orden diff, el soporte de macOS en Apple Silicon, las AMD en Linux nativo y un flake de Nix para NixOS. Varias llegaron de colaboradores externos.

---

Te puede interesar

Tech Planet participa en el programa de afiliados de Amazon. Si compras a través de estos enlaces, recibimos una pequeña comisión sin coste extra para ti, lo que nos ayuda a seguir creando contenido como este.

---

Escrito por Eloy Andrade