llama.cpp
El motor que hace correr la IA en tu ordenador
El motor en C/C++ que está debajo de muchas apps de IA local. Ejecuta modelos GGUF desde la terminal, levanta un servidor de chat y sirve para cuantizar modelos.
El recorrido
Recorrido · 5 pasos · ~20 minPaso 1 gratis
- 1Instala llama.cpp~4 min
- 2Descarga y chatea con una orden~5 min
- 3Abre su chat en el navegador~4 min
- 4Llama a su API~4 min
- 5Cambia de modelo~3 min
- llama.cpp instalado.
Qué puedes hacer con llama.cpp
- Entender cómo funciona la IA local
- Servidor de chat ligero
- Cuantizar modelos para que quepan
El tutorial completo
- 01Instala llama.cpp~4 minGRATIS
- 02Descarga y chatea con una orden~5 min PASE FORJA
- 03Abre su chat en el navegador~4 min PASE FORJA
- 04Llama a su API~4 min PASE FORJA
- 05Cambia de modelo~3 min PASE FORJA
Habla con un modelo de Hugging Face con una sola orden: llama.cpp desde cero~20 min5 pasos
Abrir misión
