Directorio › IA local › llama.cpp
> JOYA IA LOCAL · DESARROLLO
llama.cpp
por ggml-org (Georgi Gerganov)
El motor de inferencia en C/C++ que ejecuta LLM en cualquier sitio; la base de muchas herramientas locales.
Ver en GitHub →Qué hace
- Formato GGUF y cuantización de 1,5 a 8 bits
- Servidor compatible con OpenAI con interfaz web integrada
- Optimizado para Apple Silicon, CUDA, AMD, Vulkan y CPU
Instalarlo
Requisitos: Sin requisitos: binarios listos para usar.
Instalar (macOS / Linux)
curl -LsSf https://llama.app/install.sh | shInstalar (Windows PowerShell)
irm https://llama.app/install.ps1 | iexIniciar un servidor con un modelo de Hugging Face
llama serve -hf ggml-org/Qwen3.5-0.8B-GGUF
El prompt para tu agente
Pégalo en tu agente de código: comprueba los requisitos y lo instala por ti.
Claude CodeCodexCursorGemini CLIopencode
Prompt
Instala llama.cpp (https://llama.app) en mi equipo.
1. Comprueba los requisitos: Sin requisitos: binarios listos para usar. Si falta algo, avísame antes de instalar nada.
2. Sigue el método oficial:
- Instalar (macOS / Linux): curl -LsSf https://llama.app/install.sh | sh
- Instalar (Windows PowerShell): irm https://llama.app/install.ps1 | iex
- Iniciar un servidor con un modelo de Hugging Face: llama serve -hf ggml-org/Qwen3.5-0.8B-GGUF
3. Comprueba que funciona y explícame cómo iniciarlo y por dónde empezar.
Revisa siempre lo que tu agente va a ejecutar, sobre todo los comandos de instalación.