▸ IA localPaso 1 gratis
Habla con un modelo de Hugging Face con una sola orden: llama.cpp desde cero
Instalas llama.cpp, el motor que usan por dentro muchas apps de IA local. Descargas un modelo de Hugging Face con una orden, chateas con él en la terminal y abres su página web y su API, sin app intermedia.
Al terminar tendrás
- llama.cpp instalado.
- Un modelo GGUF de Hugging Face funcionando en la terminal.
- Su página de chat y su API en tu navegador.
En esta misión · 5 pasos · 20 min
Lo que vas a usar
20 min €0 8 GB RAM · sin GPU macOS · Windows
Antes de empezar
- Haber abierto la terminal alguna vez (lo explica la misión de la terminal).
1Paso 01 de 05 · ~4 min
Instala llama.cpp
Pones el motor con el gestor de paquetes de tu sistema.
- 1
Abre la terminal. En Mac: pulsa Cmd+Espacio, escribe Terminal y pulsa Enter. En Windows: pulsa la tecla Windows, escribe PowerShell y pulsa Enter.
TerminalmacOS$brew install llama.cppAsí debería verse
llama.cpp se puede instalar ya compilado con Homebrew (brew install llama.cpp) en Mac y con winget (winget install llama.cpp) en Windows.
- 2
Cierra la terminal y ábrela otra vez.
Truco
🎉 Si la instalación termina sin errores, ¡nivel 1 superado! Ya tienes el mismo motor que usan muchas apps de IA.
¿Tu Mac dice «brew: command not found»? Instala Homebrew una vez
Homebrew es el instalador de programas que usamos en todas las misiones de Mac. Pega esto en la Terminal (es el comando oficial de brew.sh). Te pedirá la contraseña del Mac: al escribirla no se ve nada, es normal.
Instala HomebrewmacOS$/bin/bash -c "$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/HEAD/install.sh)"Al terminar, copia y ejecuta las líneas que salen bajo «Next steps», cierra la Terminal y ábrela de nuevo. Comprueba con brew --version.
Comprueba que funcionabrew o winget dicen que llama.cpp se ha instalado.
Si algo falla (2)
- Sale «brew: command not found»
- Te falta Homebrew. Instálalo con el comando de su web oficial, brew.sh, cierra la terminal, ábrela otra vez y repite.
- En Windows dice que no reconoce el comando nuevo
- Cierra PowerShell y ábrelo otra vez: la ventana vieja no sabe que acabas de instalar algo. Si lo que no reconoce es winget, actualiza «Instalador de aplicación» desde Microsoft Store.
¿Sigues atascado? Pregunta en la comunidad Avisar de un error en este paso
- 1
Lo que desbloqueas
4 pasos · 4 comandos · 2 errores típicos resueltos
- 2Descarga y chatea con una orden~5 min
Con -hf, llama.cpp baja el modelo de Hugging Face y lo abre.
1 comando · 1 error resuelto · comprobación incluida
- 3Abre su chat en el navegador~4 min
llama.cpp trae su propia página web de chat.
1 comando · 1 error resuelto · comprobación incluida
- 4Llama a su API~4 min
La misma API que usan los programas compatibles con OpenAI.
2 comandos · comprobación incluida
- 5Cambia de modelo~3 min
Pruebas otro GGUF y comparas.
Pasos 2–5 con el plan Anual
Primeros logros
Ya lo tienes funcionando. Pruébalo con esto:
Elige el siguiente modelo
Pide ayuda para escoger otro GGUF.
Tengo un ordenador con [RAM] GB de RAM y [procesador]. Quiero usar llama.cpp para [tarea]. Recomiéndame 3 modelos GGUF de Hugging Face que quepan, con su tamaño y por qué.
Explica la orden
Que la IA te explique cada parte de lo que has escrito.
Explícame como a alguien que empieza qué hace cada parte de esta orden: llama serve -hf ggml-org/Qwen3.5-0.8B-GGUF
Siguiente nivel: el modelo que cabe en tu RAM
Aprende a elegir tamaño sin probar a ciegas.
Siguiente misiónCómo deshacerlo
Los modelos descargados ocupan espacio en la caché; desinstala con la orden de abajo y borra la caché si quieres recuperarlo.
$brew uninstall llama.cppHaciendo esta misión juntos
Sé de los primeros en terminarla. Si te atascas, pregunta: quien ya la hizo te puede ayudar.