RPi 5 + AI HAT+ 2

¿Qué puede ejecutar?

Elige una tarea o un tamaño de modelo. La barra compara lo que necesita con la memoria útil de esta máquina.

• Pesos del modelo
• Caché de contexto
• Motor + extras (Whisper, embeddings)

Cómo lo calculamos

Pesos = parámetros × bits por peso / 8 (Q4_K_M ≈ 4,85; Q8_0 ≈ 8,5). Caché = tokens de contexto × tamaño por token del modelo de referencia (capas × cabezas KV × dimensión × 2 × 2 bytes). Más 1,5 GB de motor. Memoria útil = total menos lo que se queda el sistema (3–6 GB en memoria compartida, 0,5 GB en una GPU). Holgado = cabe en el 85 %. Es una estimación de ±20 %: mídelo en tu máquina antes de decidir. Cómo elegir el archivo GGUF

¿Cuándo sale más barato que la nube?

Ajusta tu uso. Comparamos la compra más la luz con lo que pagarías a una API en la nube.

Coste acumulado por mes

Mes	Equipo propio	Nube

• Equipo propio (compra + luz)
• API en la nube

Supuestos: 0,25 €/kWh (media en España, editable), 1 USD = 0,92 €, 3 tokens de entrada por cada 1 de salida, y la máquina a consumo máximo todas las horas que está encendida (el peor caso). Precios de API verificados el 9-9-2026. No incluye tu tiempo ni el mantenimiento. Ojo: la nube compara con un modelo de frontera y aquí correrías uno abierto más pequeño; es una comparación de coste, no de calidad.