Claude Code con modelos open source, sin pagar la API de Anthropic

Elige el modelo

Para un agente de código conviene un modelo con buen razonamiento y buen manejo de herramientas: glm-5.3-nvfp4 o qwen-3.8-27b son buenas opciones. Para tareas ligeras y respuestas rápidas, qwen-3.5-9b.

Las herramientas (function calling) son lo que usa el agente para leer y editar tus ficheros y ejecutar comandos, así que sin ellas no hace su trabajo. En el catálogo vienen marcadas; elige uno que las tenga.

Esto vale si vas a configurarlo en tu máquina, el paso siguiente. Si prefieres el Sandbox ya montado, el modelo lo fija la plantilla y te lo contamos ahí.

Configúralo en tu máquina

Claude Code lee de variables de entorno la URL base, la key y los modelos. Pon en GPUFLOW_MODEL el modelo del paso anterior, y en ANTHROPIC_AUTH_TOKEN la key que creaste en el panel: así viaja como Authorization: Bearer y Claude Code no te pide confirmarla al arrancar.

El resto de líneas evita dos sorpresas. Claude Code no usa un solo modelo: los subagentes y las tareas de fondo (títulos, resúmenes) tiran de los alias opus, sonnet y haiku, y si no los apuntas a tu modelo pedirán modelos de Anthropic que Token Factory no sirve. Y en modo automático, Claude Code pide que el servidor revise cada acción, algo que solo hace la API de Anthropic: las dos variables de auto mode hacen que la revise tu modelo y quitan el aviso de sesión no compatible.

export GPUFLOW_MODEL="glm-5.3-nvfp4"

export ANTHROPIC_BASE_URL="https://api.gpuflow.ai"
export ANTHROPIC_AUTH_TOKEN="$GPUFLOW_API_KEY"
export ANTHROPIC_MODEL="$GPUFLOW_MODEL"
export ANTHROPIC_DEFAULT_OPUS_MODEL="$GPUFLOW_MODEL"
export ANTHROPIC_DEFAULT_SONNET_MODEL="$GPUFLOW_MODEL"
export ANTHROPIC_DEFAULT_HAIKU_MODEL="$GPUFLOW_MODEL"
export CLAUDE_CODE_AUTO_MODE_MODEL="$GPUFLOW_MODEL"
export CLAUDE_CODE_AUTO_MODE_SERVER=0

claude

O arráncalo ya montado en un Sandbox

Si creas un Sandbox con una de las plantillas de asistente, el entorno arranca ya configurado contra la inferencia del clúster: la API key se inyecta sola. Entras por SSH y a trabajar.

Ojo con el modelo, que aquí no lo eliges igual. La plantilla de Claude Code va con tu propia cuenta de Anthropic o con tokens nuestros usando GLM 5.3 NVFP4, que es su modelo fijo. La que te deja elegir cualquier modelo del catálogo es la de Open Code.

Aun así suele ser la vía más limpia: no manejas claves a mano.

Comprueba que funciona

Lanza una tarea sencilla ("resume este repo" o "añade un test a esta función") y verifica en el panel que el consumo de tokens aparece bajo tu cuenta. Si ves gasto, Claude Code está hablando con Token Factory.