Ollama: guía completa en español (instalar, modelos, API)
Que es Ollama
Ollama es una herramienta que permite correr modelos de lenguaje (LLMs) en tu propio equipo. Sin coste de API, sin enviar datos a terceros, sin límites de uso. Funciona en macOS, Linux y Windows.
Antes de Ollama, correr un LLM local requeria instalar CUDA, compilar llama.cpp, descargar pesos manualmente y configurar parámetros. Ollama reduce todo eso a un comando: ollama run qwen3:8b.
Instalación
En macOS: brew install ollama. En Linux: curl -fsSL https://ollama.com/install.sh | sh. En Docker: docker run -d --gpus all -p 11434:11434 ollama/ollama.
Ollama detecta automáticamente tu GPU (NVIDIA, AMD, Apple Silicon) y optimiza la inferencia.
Modelos recomendados para empezar
qwen3:8b (4.9GB): el mejor para empezar. Multilingue, código, razonamiento. ~40 tokens/s en RTX 4090.
llama3.2:3b (2GB): rápido, ideal para tareas simples. ~80 tokens/s.
phi4:14b (9.1GB): excelente en razonamiento matemático. Compite con modelos de 70B en lógica.
codestral:22b (12GB): especializado en código. 338 lenguajes. Ideal para asistentes de desarrollo.
API REST
Ollama expone una API compatible con OpenAI en http://localhost:11434. Esto significa que cualquier aplicación que use el SDK de OpenAI puede apuntar a Ollama sin cambiar código:
from openai import OpenAI
client = OpenAI(base_url="http://localhost:11434/v1", api_key="ollama")
response = client.chat.completions.create(
model="qwen3:8b",
messages=[{"role": "user", "content": "Que es Docker?"}]
)
print(response.choices[0].message.content)
Modelfiles: modelos custom
Un Modelfile es como un Dockerfile pero para LLMs. Define un modelo con system prompt y parámetros fijos:
FROM qwen3:8b
SYSTEM "Eres un experto en ciberseguridad. Responde en español."
PARAMETER temperature 0.3
PARAMETER num_ctx 8192
Crear: ollama create mi-asistente -f Modelfile. Usar: ollama run mi-asistente.
Embeddings para RAG
Ollama puede generar embeddings locales con nomic-embed-text (274MB). Combinado con Qdrant, tienes un stack RAG completo sin coste de API y con privacidad total.
Ollama + n8n
En Docker Compose, n8n puede comunicarse con Ollama usando un nodo HTTP Request apuntando a http://ollama:11434/v1/chat/completions. Esto permite clasificar emails, generar respuestas y procesar documentos en workflows automatizados.
Cuando usar Ollama vs vLLM
Ollama: desarrollo local, aplicaciones internas con pocos usuarios, prototipos. vLLM: producción con alta concurrencia, tensor parallelism, máxima velocidad. Ambos usan API OpenAI-compatible: cambiar de uno a otro solo requiere cambiar la URL.