garak

par NVIDIA

Le scanner de vulnérabilités pour LLM : il bombarde ton modèle de sondes pour trouver ses failles.

9 530 étoiles GitHub Apache-2.0 GratuitOpen sourceLocal

Voir sur GitHub →

Ce que ça fait

Teste jailbreaks, injections de prompt, fuites de données, toxicité, hallucinations…
Compatible avec les modèles locaux et les principales API
Rapports détaillés pour suivre la robustesse de ton modèle

L'installer

Prérequis : Python 3.11 à 3.13

Installer

python -m pip install -U garak

Lister les sondes disponibles

garak --list_probes

Le prompt pour ton agent

Colle-le dans ton agent de code : il vérifie les prérequis et installe pour toi.

Claude CodeCodexCursorGemini CLIopencode

Prompt

Installe garak (https://github.com/NVIDIA/garak) sur ma machine.
1. Vérifie les prérequis : Python 3.11 à 3.13. S'il manque quelque chose, dis-le-moi avant d'installer quoi que ce soit.
2. Suis la méthode officielle :
- Installer : python -m pip install -U garak
- Lister les sondes disponibles : garak --list_probes
3. Vérifie que ça fonctionne, puis explique-moi comment le lancer et par quoi commencer.

Relis toujours ce que ton agent s'apprête à exécuter, surtout les commandes d'installation.