Directorio › IA local › SGLang
> JOYA IA LOCAL · DESARROLLO
SGLang
por LMSYS / sgl-project
Un motor de servicio de LLM muy rápido, usado en producción para grandes modelos abiertos.
Ver en GitHub →Qué hace
- RadixAttention: reutilización de la caché entre solicitudes
- Gran rendimiento con modelos MoE como DeepSeek
- API compatible con OpenAI e imagen Docker oficial
Instalarlo
Requisitos: Linux con GPU NVIDIA o AMD, Docker o Python.
Imagen Docker
docker pull lmsysorg/sglang:latestO con pip (uv)
uv pip install --prerelease=allow sglangDocumentación
https://docs.sglang.io
El prompt para tu agente
Pégalo en tu agente de código: comprueba los requisitos y lo instala por ti.
Claude CodeCodexCursorGemini CLIopencode
Prompt
Instala SGLang (https://docs.sglang.io) en mi equipo.
1. Comprueba los requisitos: Linux con GPU NVIDIA o AMD, Docker o Python. Si falta algo, avísame antes de instalar nada.
2. Sigue el método oficial:
- Imagen Docker: docker pull lmsysorg/sglang:latest
- O con pip (uv): uv pip install --prerelease=allow sglang
- consultar https://docs.sglang.io
3. Comprueba que funciona y explícame cómo iniciarlo y por dónde empezar.
Revisa siempre lo que tu agente va a ejecutar, sobre todo los comandos de instalación.