Aprende a usar GPU Flow, paso a paso.

1.1¿Qué es una API de inferencia?

«Inferencia» es simplemente el momento en que un modelo de IA ya entrenado responde a una pregunta. Una «API» es la puerta por la que tu software le habla a otro software. Juntando ambas: tu aplicación envía una petición con tu texto, nuestro servidor se la pasa al modelo que corre en una GPU y te devuelve la respuesta, normalmente en menos de un segundo y, si quieres, palabra a palabra (streaming).

Lo bueno: como hablamos el mismo «idioma» que OpenAI y Anthropic, no reescribes tu código. Cambias la dirección a la que apunta y listo.

El recorrido de una petición (ida y vuelta):

¿Y los «tokens»? El modelo no lee letras ni palabras enteras, sino trozos llamados tokens (una palabra corta suele ser 1 token; una larga, 2-3). Cuentas tokens de entrada (lo que envías) y de salida (lo que responde). Así se calcula el precio:

Tres cosas que conviene entender del consumo por API:

• 1Entrada y salida se cobran por separado. La salida suele costar más por token: generar texto cuesta más que leerlo.
• 2Cada llamada es independiente. El modelo no recuerda nada entre peticiones. Si mantienes una conversación, reenvías el historial en cada llamada y ese historial también cuenta como tokens de entrada, así que las conversaciones largas consumen más.
• 3El streaming no cambia el precio. Pagas los mismos tokens; solo ves la respuesta aparecer antes, palabra a palabra.

1.2Empieza en 3 minutos

1.3Tu primera llamada

Con el SDK de OpenAI en Python. Solo cambian dos líneas: base_url y api_key.

from openai import OpenAI

client = OpenAI(
    base_url="https://api.gpuflow.ai/v1",
    api_key="gpf-...",
)

response = client.chat.completions.create(
    model="deepseek-v4-pro",
    messages=[{"role": "user", "content": "Hola, mundo"}],
    stream=True,
)

for chunk in response:
    print(chunk.choices[0].delta.content or "", end="")

curl https://api.gpuflow.ai/v1/chat/completions \
  -H "Authorization: Bearer gpf-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "qwen-3.5-9b",
    "messages": [{"role": "user", "content": "Hola, mundo"}],
    "stream": false
  }'

1.4Endpoints principales

URL base: https://api.gpuflow.ai/v1 · autenticación con Authorization: Bearer gpf-…

1.5Catálogo de modelos

Modelos servidos hoy en España. Precios en EUR por millón de tokens, con IVA incluido, desglosados en entrada (tu prompt) y salida (la respuesta). El símbolo ★ marca los destacados.

• A¿No sabes cuál? Empieza por un modelo ★ destacado (DeepSeek V4 Pro): equilibrio entre calidad y precio para la mayoría de tareas.
• BMucho volumen o respuestas simples: elige un modelo pequeño (Qwen3.5 9B, Gemma 4 E2B): más barato y casi instantáneo.
• CRazonamiento o código complejo: usa los grandes (DeepSeek V4 Pro, GLM 5.2 FP8). Cuestan más por token pero aciertan más.

¿Necesitas otro modelo? Si encaja en la GPU, lo desplegamos; escríbenos a [email protected].

1.6Saldo y facturación

Modelo prepago: recargas cuando quieres y se consume según uso real (tokens). Cada recarga lleva factura española con IVA.

El importe que pagas se muestra arriba; el crédito que recibes incluye el bonus. ¿Volumen mayor o uso B2B? Hay tramos enterprise; consúltanos.

2.1¿Qué es un Sandbox?

Te conectas a él por SSH, una conexión segura, con tu propio editor o terminal, e instalas lo que necesites. Es ideal para desarrollar, ejecutar notebooks y conectar tus agentes a la inferencia, sin montar infraestructura.

La clave para no gastar de más es entender sus tres estados y qué se cobra en cada uno:

2.2Por qué sobre nuestro clúster

Un Sandbox de GPU Flow no es solo una máquina remota cualquiera: corre sobre el mismo clúster soberano que el resto de la plataforma, y de ahí salen sus ventajas.

Más detalle sobre certificaciones y residencia de datos en la seguridad de la web.

2.3Conceptos clave

2.4Crear un Sandbox, paso a paso

2.5Conectarte por SSH

SSH es el método estándar para entrar de forma segura a un ordenador remoto. En lugar de usuario y contraseña, usa un par de claves: dos archivos que solo funcionan juntos. Entender esta pareja es lo único «nuevo» que necesitas:

Paso 1: genera tu clave (si aún no tienes). El archivo sin .pub es tu clave privada: nunca la compartas. Solo pegas la .pub en el panel.

# 1 · crea la carpeta de claves
New-Item -ItemType Directory -Force -Path "$HOME\.ssh" | Out-Null
# 2 · genera tu clave (Enter para sin contraseña)
ssh-keygen -t ed25519 -C "gpuflow"
# 3 · copia y pega esto para obtener tu clave y consultarla luego
Get-Content "$HOME\.ssh\id_ed25519.pub"

# 1 · crea la carpeta de claves
mkdir -p ~/.ssh && chmod 700 ~/.ssh
# 2 · genera tu clave (Enter para sin contraseña)
ssh-keygen -t ed25519 -C "gpuflow"
# 3 · copia y pega esto para obtener tu clave y consultarla luego
cat ~/.ssh/id_ed25519.pub

Pega la línea que empieza por ssh-ed25519 en el campo de clave pública del asistente.

Paso 2: conéctate. Pasas por nuestro bastion público, sin VPN. El bastion comprueba la huella de tu clave y te lleva a tu Sandbox.

# conéctate por el bastion (sin VPN) · cambia <tu-entorno> por el nombre de tu Sandbox
ssh -J ssh.gpuflow.ai developer@devpod-<tu-entorno>

2.6Ciclo de vida del volumen persistente

Esto es lo que más sorprende y lo más útil: borrar el Sandbox no borra tus datos. El volumen sobrevive y lo reutilizas cuando quieras.

2.7Cómo se factura

Tres reglas sencillas, y siempre verás el coste estimado antes de confirmar:

3.1¿Qué es una GPU dedicada?

Es una GPU reservada en exclusiva para tu proyecto, frente al Sandbox donde el acelerador se asigna bajo demanda. Te interesa cuando tienes una carga continua (entrenamiento largo, inferencia en producción) y quieres rendimiento estable y predecible.

3.2Configuraciones

Ofrecemos la B200 completa (180 GB) y fracciones MIG (porciones de una B200 aisladas entre sí) para cargas más pequeñas. Las configuraciones y precios exactos están en la página de precios; el detalle del producto, en la página de GPU dedicada.

3.3Cómo solicitarla

En el configurador de GPU dedicada eliges el modelo de GPU; el resto de opciones quedan fijadas por ahora. Al enviar, te pedimos tus datos y te contactamos para reservar y montar tu nodo. Una vez activa, te conectas por SSH igual que en un Sandbox (mismo bastión, misma clave pública).

3.4Cómo se factura

Al ser capacidad reservada, el precio es a medida según la configuración y el periodo de reserva — te lo confirmamos en el contacto. Las tarifas de referencia (B200 completa y fracciones MIG, por hora o reservada) están en la página de precios.

3.1Conceptos generales

3.2Sandboxes e infraestructura