KoboldCpp

par LostRuins (Concedo)

Un seul exécutable pour faire tourner des modèles GGUF, avec interface web, idéal pour l'écriture et le jeu de rôle.

12 k étoiles GitHub AGPL-3.0 Gratuit en localLocalOpen sourcePoids ouverts

Voir sur GitHub →

Ce que ça fait

Aucune installation : un fichier à télécharger et lancer
Basé sur llama.cpp, accélération CUDA, Vulkan ou CPU
Gère aussi la génération d'images et la voix

L'installer

Prérequis : Un modèle au format GGUF.

Télécharger (Windows / macOS / Linux)

https://github.com/LostRuins/koboldcpp/releases/latest

Linux en une ligne

curl -fLo koboldcpp-linux-x64 https://github.com/LostRuins/koboldcpp/releases/latest/download/koboldcpp-linux-x64 && chmod +x koboldcpp-linux-x64 && ./koboldcpp-linux-x64

Le prompt pour ton agent

Colle-le dans ton agent de code : il vérifie les prérequis et installe pour toi.

Claude CodeCodexCursorGemini CLIopencode

Prompt

Installe KoboldCpp (https://github.com/LostRuins/koboldcpp) sur ma machine.
1. Vérifie les prérequis : Un modèle au format GGUF. S'il manque quelque chose, dis-le-moi avant d'installer quoi que ce soit.
2. Suis la méthode officielle :
- consulter https://github.com/LostRuins/koboldcpp/releases/latest
- Linux en une ligne : curl -fLo koboldcpp-linux-x64 https://github.com/LostRuins/koboldcpp/releases/latest/download/koboldcpp-linux-x64 && chmod +x koboldcpp-linux-x64 && ./koboldcpp-linux-x64
3. Vérifie que ça fonctionne, puis explique-moi comment le lancer et par quoi commencer.

Relis toujours ce que ton agent s'apprête à exécuter, surtout les commandes d'installation.