En resumen
- Una GPU de 2 dólares por hora que genera 1,500 tokens por segundo y trabaja la mitad del tiempo produce 1,971 millones de tokens al mes.
- Esa GPU cuesta 1,460 dólares al mes y 0.74 dólares por millón de tokens; la misma carga en una API a 0.60 dólares por millón costaría 1,182.60.
- Con ese precio de API, la GPU alquilada empata a partir de un 61.7 % de uso; al 100 % de uso baja a 0.37 dólares por millón de tokens.
- La GPU se cobra por hora aunque esté parada: de cada 100 horas alquiladas, solo cuentan las que generan tokens.
¿Cuánto cuesta un millón de tokens con una GPU alquilada?
Con una GPU de 2 dólares por hora que genera 1,500 tokens por segundo y trabaja la mitad del tiempo, cada millón de tokens cuesta unos 0.74 dólares. La clave es el uso: pagas todas las horas alquiladas, pero solo produces tokens en una parte.
Un token es un trozo de texto, más o menos tres cuartos de una palabra. La inferencia es el momento en que el modelo responde. Si alquilas la GPU, pagas por hora y tú te encargas del modelo; con una API pagas por token y no te ocupas de nada.
Cómo se calcula
coste al mes = precio por hora × GPUs × horas millones de tokens = GPUs × tokens por segundo × 3,600 × horas × uso / 1,000,000 coste por millón = coste al mes / millones de tokens
- 3,600 son los segundos de una hora.
- Uso es la parte de las horas en que la GPU genera tokens (50 % = 0.5).
- Para comparar con la API: coste de la API = millones de tokens × precio por millón.
- El uso de equilibrio es el uso en que ambos costes se igualan.
Cómo usar la calculadora
- Precio de la GPU por hora. Tu tarifa. El valor de ejemplo es una estimación.
- Tokens por segundo. El rendimiento total de la GPU atendiendo varias peticiones a la vez.
- Uso. De cada 100 horas alquiladas, cuántas trabaja de verdad.
- Precio de la API. Dólares por millón de tokens de salida de la API con la que comparas.
En las opciones avanzadas puedes cambiar el número de GPUs y las horas alquiladas al mes (730 es un mes entero).
Ejemplo
Una GPU, 2 dólares por hora, 1,500 tokens por segundo, 50 % de uso, 730 horas al mes y una API a 0.60 dólares por millón:
| Concepto | Resultado |
|---|---|
| Millones de tokens al mes | 1,971.0 |
| Coste de la GPU al mes | $1,460.00 |
| Coste por millón con la GPU | $0.741 |
| Misma carga en la API | $1,182.60 |
| Diferencia (API menos GPU) | -277.4 dólares |
| Uso de equilibrio | 61.7 % |
En este caso la API sale más barata. Si subes el uso al 100 %, la GPU produce 3,942 millones de tokens, baja a 0.37 dólares por millón y gana a la API. Para empatar necesitas unos 2,433 millones de tokens al mes.
Por qué el uso lo cambia todo
El alquiler es un coste fijo: lo pagas con tráfico o sin él. Si duplicas el uso, el coste por millón se reduce a la mitad. Una API, en cambio, cobra siempre lo mismo por token.
Por eso una GPU suele compensar con mucho tráfico constante, y una API con tráfico pequeño o muy irregular. La calculadora te dice dónde está tu punto de empate.
Qué no incluye
- Los tokens de entrada, que también se procesan.
- Almacenamiento, tráfico de red y montaje del servidor.
- El tiempo de quien mantiene el sistema.
- Que el rendimiento real baja con textos muy largos.
Es una estimación para comparar órdenes de magnitud. Mide el rendimiento real de tu modelo y contrasta los precios con los de tu proveedor.
Preguntas frecuentes
¿Sale más barato alquilar una GPU que usar una API?
Depende del uso. En el ejemplo, la GPU solo gana desde un 61.7 % de uso. Con poco tráfico, la API suele salir más barata.
¿Qué uso debo poner si no lo sé?
Empieza con 30 o 50 %. Una GPU rara vez trabaja el 100 % del tiempo: hay horas sin peticiones. Mira tus registros reales para afinar.
¿De dónde saco los tokens por segundo?
De probar tu modelo con varias peticiones a la vez. La cifra de una sola petición es mucho menor y daría un coste por millón demasiado alto.
¿Qué pasa si apago la GPU cuando no la uso?
Baja las horas alquiladas en las opciones avanzadas. Pagas menos, pero produces menos tokens: el efecto sobre el coste por millón depende de cuántas horas apagas.
¿Sirve para comparar varias GPUs?
Sí. Calcula cada una con su precio y su rendimiento y compara el coste por millón de tokens.
¿Los precios del ejemplo son oficiales?
No. No hay una tarifa oficial única. Son valores de ejemplo editables: cámbialos por los de tu proveedor.