Marketplace GPU
Explora, compara y renta GPUs de diferentes proveedores directamente desde AstrApp. Lanza entrenamientos con un clic o accede a las máquinas vía SSH para trabajo personalizado.
¿Qué es el Marketplace GPU?
El Marketplace GPU es la sección de AstrApp donde puedes rentar GPUs de diferentes proveedores para entrenamiento o experimentación. Accede desde Dashboard → GPU Marketplace.
Dos proveedores integrados: Vast.ai (marketplace dinámico) y RunPod (catálogo curado). El marketplace te permite comparar precios y especificaciones antes de rentar.
Proveedores
AstrApp integra dos proveedores de GPU con modelos de negocio distintos. Elige según tu prioridad: costo, confiabilidad o flexibilidad.
Vast.ai
Marketplace Dinámico- Marketplace dinámico con precios variables.
- Amplia variedad de GPUs de múltiples proveedores.
- Precios generalmente más bajos que la competencia.
- Hardware diverso de múltiples proveedores independientes.
- Disponibilidad variable según oferta del momento.
RunPod
Catálogo Curado- Catálogo curado de 6 GPUs pre-seleccionadas.
- Precios estables y predecibles.
- Hardware verificado y confiable.
- Alta disponibilidad garantizada.
- Ideal para trabajos de producción.
Tabla Comparativa de GPUs
Referencia rápida de las GPUs disponibles en el marketplace con sus precios aproximados y casos de uso recomendados.
| GPU | VRAM | Proveedor | Precio/hr (aprox.) | Mejor Para |
|---|---|---|---|---|
| RTX 3090 | 24 GB | Vast.ai | $0.20–$0.40 | Modelos ≤13B con QLoRA |
| RTX 4090 | 24 GB | Ambos | $0.35–$0.75 | Modelos ≤13B, inferencia rápida |
| A100 40GB | 40 GB | Ambos | $1.00–$1.80 | Modelos 13B–34B |
| A100 80GB | 80 GB | Ambos | $1.50–$2.50 | Modelos 34B–72B |
| H100 | 80 GB | RunPod | $2.50–$3.50 | Modelos grandes, máximo rendimiento |
| L40S | 48 GB | Vast.ai | $0.80–$1.20 | Balance costo/rendimiento |
Nota: Los precios de Vast.ai son dinámicos y varían según oferta/demanda. Los rangos mostrados son aproximados y pueden cambiar en cualquier momento.
Filtros del Marketplace
Usa los filtros para encontrar la GPU que mejor se ajusta a tus necesidades y presupuesto sin revisar cada oferta manualmente.
Proveedor
- Vast.ai
- RunPod
- Todos
VRAM mínima
- 16 GB
- 24 GB
- 40 GB
- 48 GB
- 80 GB
Precio máximo por hora
- Rango deslizable ($0–$5)
Reliability score mínimo
- Solo aplica para Vast.ai
- 90%, 95%, 98%
Ordenar por
- Precio ascendente
- VRAM descendente
- Reliability score
Requisitos de Elegibilidad
Para rentar GPUs desde el marketplace debes cumplir los siguientes requisitos:
- Perfil completo (nombre y organización configurados).
- Email verificado en tu cuenta de AstrApp.
- Teléfono verificado.
- Balance mínimo de $15 USD en tu cuenta.
- Plan Starter o superior activo.
Flujo de Renta vs Entrenamiento Directo
Desde el marketplace puedes elegir entre dos modos de uso según lo que necesites.
Renta Directa
Acceso SSH completo a la máquina- 1Selecciona GPU
- 2Configura (Docker image, SSH access)
- 3Confirma renta
- 4Instancia activa con acceso SSH
Tienes acceso SSH completo a la máquina. Ideal para experimentación libre, notebooks y trabajo con infraestructura propia.
Entrenamiento Directo
AstrApp gestiona el despliegue- 1Selecciona GPU
- 2Se abre el wizard de entrenamiento
- 3Configura modelo, dataset, hiperparámetros
- 4AstrApp despliega automáticamente
- 5Monitoreo en tiempo real
AstrApp despliega automáticamente la infraestructura. No necesitas configurar nada manualmente; el wizard te guía en cada paso.
Configuración de Entrenamiento desde el Marketplace
Al lanzar un entrenamiento directamente desde el marketplace, AstrApp te pide los siguientes parámetros antes de desplegar la instancia.
Modelo base
Selecciona del registro de modelos disponibles en tu plan.
Hiperparámetros
Learning rate, epochs, batch size y configuración de LoRA.
Dataset
Selecciona un dataset existente en tu cuenta o sube uno nuevo.
Docker image
Pre-configurada con Axolotl. No necesitas modificarla.
Estimación previa al lanzamiento
Antes de confirmar, AstrApp muestra una estimación del costo total y el tiempo esperado de entrenamiento según la GPU seleccionada, el tamaño del modelo y el número de epochs. Puedes ajustar los parámetros hasta que el costo se ajuste a tu presupuesto.
Tips de Optimización de Costos
- Usa Vast.ai para experimentación y RunPod para trabajos de producción.
- Las GPUs con reliability >98% en Vast.ai son casi tan confiables como las de RunPod.
- Para modelos ≤7B, una RTX 4090 es suficiente y mucho más económica que una A100.
- Entrena en horarios de baja demanda (noches y fines de semana) para mejores precios en Vast.ai.
- Activa QLoRA para reducir requisitos de VRAM y usar GPUs más económicas.