RunPod - Infraestructura GPU
AstrApp usa RunPod como proveedor de GPUs para entrenamiento de modelos. Accede a GPUs de alto rendimiento sin configurar infraestructura.
¿Cómo Funciona?
Cuando inicias un entrenamiento en AstrApp, automáticamente provisionamos una GPU en RunPod según tu plan y tamaño de modelo. No necesitas configurar nada - el costo de GPU está incluido en tu suscripción mensual.
Incluido en tu Plan
Los costos de GPU para entrenamiento están incluidos en tu suscripción mensual. No hay cargos adicionales por hora dentro de los límites de tu plan.
GPUs Disponibles
NVIDIA T4
Free+Modelos ≤7B con QLoRA
NVIDIA A10G
Starter+Modelos 7B-13B
NVIDIA A100 40GB
Professional+Modelos 13B-34B
NVIDIA A100 80GB
Professional+Modelos 34B-72B
NVIDIA H100
EnterpriseMáximo rendimiento
| GPU | VRAM | Costo Ref. | Mejor Para | Plan Mínimo |
|---|---|---|---|---|
| NVIDIA T4 | 16 GB | ~$0.50/hr | Modelos ≤7B con QLoRA | Free+ |
| NVIDIA A10G | 24 GB | ~$1.00/hr | Modelos 7B-13B | Starter+ |
| NVIDIA A100 40GB | 40 GB | ~$2.00/hr | Modelos 13B-34B | Professional+ |
| NVIDIA A100 80GB | 80 GB | ~$3.50/hr | Modelos 34B-72B | Professional+ |
| NVIDIA H100 | 80 GB | ~$5.00/hr | Máximo rendimiento | Enterprise |
Tiempos de Entrenamiento Estimados
Estos son tiempos aproximados para entrenamientos con 1000 ejemplos usando LoRA:
Phi-3 (3.8B)
Llama 3.1 8B
Qwen 2.5 14B
Llama 3.1 70B
Qwen 2.5 72B
Custom 70B+
Nota: Los tiempos varían según el tamaño del dataset, número de epochs, y configuración de hyperparameters. Modelos más grandes requieren más tiempo.
Límites por Plan
Free
- Entrenamientos: 3/mes
- Tiempo máx: 1 hr/entreno
- GPU: T4
Starter
- Entrenamientos: 20/mes
- Tiempo máx: 4 hr/entreno
- GPU: Hasta A10G
Professional
- Entrenamientos: Ilimitado
- Tiempo máx: 12 hr/entreno
- GPU: Hasta A100 80GB
Enterprise
- Entrenamientos: Ilimitado
- Tiempo máx: Sin límite
- GPU: Todas + Multi-GPU
Regiones Disponibles
AstrApp selecciona automáticamente la mejor región según disponibilidad de GPUs. Para usuarios de LATAM, recomendamos US East para menor latencia.
US East
Baja para LATAM
US West
Media para LATAM
EU West
Alta para LATAM
Asia Pacific
PróximamenteAlta para LATAM
Seguridad de Datos
- Tus datos se transmiten de forma encriptada (TLS 1.3)
- Los datos de entrenamiento se eliminan automáticamente después del job
- Los modelos entrenados se almacenan en tu cuenta privada
- Enterprise: Opción de GPUs dedicadas y aislamiento de red