KoboldCpp

por LostRuins (Concedo)

Un único ejecutable para correr modelos GGUF con interfaz web, ideal para escritura y rol.

12 k estrellas GitHub AGPL-3.0 Gratis en localLocalOpen sourcePesos abiertos

Ver en GitHub →

Qué hace

Sin instalación: un archivo para descargar y ejecutar
Basado en llama.cpp, con aceleración CUDA, Vulkan o CPU
También gestiona generación de imágenes y voz

Instalarlo

Requisitos: Un modelo en formato GGUF.

Descargar (Windows / macOS / Linux)

https://github.com/LostRuins/koboldcpp/releases/latest

Linux en una línea

curl -fLo koboldcpp-linux-x64 https://github.com/LostRuins/koboldcpp/releases/latest/download/koboldcpp-linux-x64 && chmod +x koboldcpp-linux-x64 && ./koboldcpp-linux-x64

El prompt para tu agente

Pégalo en tu agente de código: comprueba los requisitos y lo instala por ti.

Claude CodeCodexCursorGemini CLIopencode

Prompt

Instala KoboldCpp (https://github.com/LostRuins/koboldcpp) en mi equipo.
1. Comprueba los requisitos: Un modelo en formato GGUF. Si falta algo, avísame antes de instalar nada.
2. Sigue el método oficial:
- consultar https://github.com/LostRuins/koboldcpp/releases/latest
- Linux en una línea: curl -fLo koboldcpp-linux-x64 https://github.com/LostRuins/koboldcpp/releases/latest/download/koboldcpp-linux-x64 && chmod +x koboldcpp-linux-x64 && ./koboldcpp-linux-x64
3. Comprueba que funciona y explícame cómo iniciarlo y por dónde empezar.

Revisa siempre lo que tu agente va a ejecutar, sobre todo los comandos de instalación.