Entrenamiento
Entrena (fine-tune) un modelo abierto con tus conversaciones. Eliges modelo, datos y GPU en una sola página; AstrApp renta la máquina, entrena y guarda el adapter LoRA en tu cuenta.
¿Qué es el fine-tuning?
Es adaptar un modelo ya entrenado (como Qwen o Gemma) a tu caso con tus propios datos. No entrenas desde cero: partes de lo que el modelo ya sabe y lo especializas. El resultado es un adapter LoRA, una capa ligera que se monta sobre el modelo base.
¿Prefieres que el equipo de AstrApp lo haga por ti? Revisa Entrenar por mí.
Antes de empezar
- Perfil completo: nombre completo, teléfono y correo confirmado. Sin ellos el lanzamiento se rechaza antes de rentar la GPU.
- Saldo para al menos una hora de la GPU que elijas. Cuenta tu saldo de GPU más tus créditos AstrApp: si el saldo de GPU no alcanza, AstrApp pasa los créditos que falten. Compras créditos en Facturación.
- Un dataset con conversaciones válidas (de al menos dos mensajes). Si todavía no lo tienes, sigue la guía Crear datasets.
- Llave SSH: opcional. Entrenar no la necesita. Si registraste llaves en Configuración › Llaves SSH, se instalan en la máquina para que puedas entrar a depurar.
Abre Entrenar › Entrenar modelo
Todo el entrenamiento ocurre en una sola página: Entrenar › Entrenar modelo (/compute/configure). Ahí eliges el proyecto, la GPU, el modelo base, los hiperparámetros, el dataset, la máquina y la evaluación, y ves el costo estimado antes de lanzar. No eliges proveedor: el entrenamiento corre en GPUs de Vast.ai.
Si vienes de Rentar GPU › Marketplace con una GPU elegida, la página la trae ya seleccionada.
Elige la GPU y el modelo base
La lista de GPUs muestra solo las ofertas que tu plan permite rentar. El precio por hora es el de cada oferta de Vast.ai, que cambia con el mercado, e incluye el margen de AstrApp.
Después eliges el modelo. Los que no caben en la memoria (VRAM) de la GPU elegida aparecen deshabilitados. Más abajo están los modelos disponibles y la guía ¿Qué modelo usar? te ayuda a decidir.
Elige tus datos
La sección de dataset tiene tres pestañas:
- Dataset existente: uno de los datasets de tu cuenta.
- Subir archivo: un archivo desde tu equipo.
- Hugging Face: importa un dataset público; queda como un dataset más de tu cuenta. Importar requiere el plan Professional. Para datasets privados o restringidos conecta tu token de Hugging Face en
/settings/integrations.
Ajusta los hiperparámetros
Los valores por defecto sirven para un primer entrenamiento. Si los mueves, el botón Restaurar los regresa. Cada campo tiene su explicación junto al nombre; la tabla de hiperparámetros resume rangos y valores por defecto.
Configura la máquina y la evaluación
- Nombre del entrenamiento, para encontrarlo en el historial.
- Imagen Docker: deja la de AstrApp, que trae el stack preinstalado. Las demás son experimentales o no sirven para entrenar (ver imágenes Docker).
- Disco: el mínimo se calcula según el modelo, hasta 500 GB.
- Auto-apagado: viene activado y se ajusta solo a la duración estimada; puedes fijarlo entre 1 y 48 horas.
Evaluar el modelo tras entrenar es opcional. Eliges entre Held-out del dataset (reserva del 5 al 30% de tus datos como validación; la API acepta del 1 al 50%) o Dataset existente. Al terminar el entrenamiento, eval.py corre en la misma GPU, mide eval_loss y perplexity sobre hasta 200 ejemplos y deja los resultados en el historial. Ese tiempo de GPU también se cobra; la evaluación tiene un tope de 30 minutos.
Revisa el costo y lanza
La tarjeta de costo muestra el precio por hora, el cargo mínimo de una hora y el total estimado (precio × horas de auto-apagado). Si tu saldo no alcanza, el botón de recarga te lleva a Facturación con el monto que falta ya escrito y, al pagar, te regresa a la página con tu configuración guardada. La compra mínima es de $100 MXN: si te falta menos, sube el monto hasta ese mínimo.
Antes de lanzar puedes abrir Ver scripts que se ejecutarán para leer el train.py (y el eval.py) exactos. Al hacer clic en Lanzar Entrenamiento pasas a Rentar GPU › Mis instancias.
Lo que falla, falla antes de cobrar
Antes de rentar, el servidor comprueba tu perfil, tu saldo, que la GPU tenga VRAM suficiente para el modelo, que el disco alcance, que la imagen sirva para entrenar y que el modelo esté en el catálogo. Si algo no cuadra, o si otra persona tomó la GPU un momento antes, el lanzamiento se rechaza sin cobrarte.
Modelos disponibles
AstrApp ofrece 27 modelos abiertos para entrenar: solo los que tienen licencia Apache 2.0 o MIT y soporte de Unsloth. Los exploras con detalle en Entrenar › Modelos abiertos.
| Familia | Modelos | VRAM mínima (4 bits) |
|---|---|---|
| Mistral | Mistral 7B v0.3, Mistral Small 24B, Mistral Small 3.2 24B, Magistral Small 24B | 10–22 GB |
| Qwen | Qwen 2.5 7B, Qwen 2.5 14B, Qwen 2.5 32B, Qwen 3 4B, Qwen 3 8B, Qwen 3 14B, Qwen 3 32B, Qwen 3.5 4B, Qwen 3.5 9B, Qwen 3.6 27B, Qwen 3.8 27B | 7–32 GB |
| DeepSeek | DeepSeek R1 Distill 7B, DeepSeek R1 Distill Llama 8B, DeepSeek R1 Distill 32B | 10–28 GB |
| Phi | Phi-4 Mini 3.8B, Phi-4 14B | 7–15 GB |
| gpt-oss | gpt-oss 20B, gpt-oss 120B | 20–80 GB |
| Gemma | Gemma 4 E2B, Gemma 4 E4B, Gemma 4 12B, Gemma 4 31B, Gemma 4 26B-A4B | 10–22 GB |
Qué limita qué modelo puedes entrenar
Todos los modelos aparecen para cualquier plan. Lo que te limita es la VRAM: cada modelo pide un mínimo y tu plan define qué GPUs puedes rentar. Por ejemplo, gpt-oss 120B pide 80 GB, así que necesitas una GPU de 80 GB que tu plan permita (ver GPUs por plan). El tope por tamaño de modelo de cada plan solo aplica a Entrenar por mí.
Lo que no vas a encontrar
Ningún modelo Llama de Meta ni Gemma 3: sus licencias (Llama Community y Gemma Terms) no son Apache 2.0 ni MIT. DeepSeek R1 Distill Llama 8B sí está porque DeepSeek lo publica con licencia MIT. Tampoco están Kimi K2, Llama 4 ni CodeLlama.
Cómo entrena AstrApp
Todos los entrenamientos usan Unsloth: el modelo base se carga en 4 bits y se entrena un adapter LoRA encima (la técnica conocida como QLoRA). Por eso tus adapters aparecen con tipo QLoRA y cuantización 4bit. El método viene fijo; no lo eliges.
LoRA
Entrena solo una fracción pequeña de parámetros mediante adaptadores de bajo rango. El resultado pesa megabytes, no gigabytes.
4 bits (QLoRA)
Cargar el modelo cuantizado reduce la VRAM que necesitas, así que modelos grandes caben en GPUs más baratas.
Hiperparámetros
Los doce que usa el entrenamiento en GPU, con el nombre que ves en la pantalla y, junto a él, el campo de la API.
| Parámetro | Por defecto | En la pantalla | La API acepta |
|---|---|---|---|
Vueltas al material (epochs) · epochs | 3 | 1–20 | 1–20 (entero) |
Ejemplos por lote (batch size) · batchSize | 4 | 1–128 | 1–128 (entero) |
Tamaño del paso (learning rate) · learningRate | 0.0002 | 0.000001–1 | 0.0000001–1 |
Lotes que junta antes de corregir · gradientAccumulationSteps | 4 | 1–32 | 1–64 (entero) |
Largo máximo de conversación · maxSeqLength | 2048 | 256–8,192 | 128–131,072 (entero) |
Arranque suave (warmup) · warmupRatio | 0.03 | 0–0.5 | 0–1 |
Freno al exceso de confianza (weight decay) · weightDecay | 0.001 | 0–0.1 | 0–1 |
Tope a las correcciones bruscas (gradient clipping) · maxGradientNorm | 1 | 0–10 | 0–10 |
Espacio para lo tuyo (rango de LoRA) · loraR | 16 | 4–64 | 1–256 (entero) |
Fuerza de lo aprendido (alpha) · loraAlpha | 32 | 8–128 | 1–512 (entero) |
Olvido a propósito (dropout) · loraDropout | 0.05 | 0–0.5 | 0–1 |
LR Scheduler · lrSchedulerType | cosine | Cosine, Linear, Constant | cosine, linear, constant |
Válido no es lo mismo que recomendable
El rango de la API es lo máximo que puedes mandar sin que la petición se rechace. Un dropout de 0.9 o un learning rate de 1 pasan la validación y arruinan el entrenamiento.
Campos que el entrenamiento en GPU no usa
El formulario también muestra checkpoints, evaluaciones, min LR ratio, scheduler cycles, módulos entrenables y la opción de entrenar sobre las entradas. El entrenamiento en GPU los descarta: solo aplica los doce de la tabla.
Para elegir valores según tu caso, lee la guía de hiperparámetros.
Sigue el entrenamiento
En vivo: Mis instancias
En Rentar GPU › Mis instancias abre la instancia y entra a la pestaña Entrenamiento. Ves la etapa (descargando modelo, cargando modelo, preparando datos, entrenando, guardando, exportando GGUF, subiendo a Hugging Face), el porcentaje de avance y, mientras entrena, el loss, el learning rate, la época y el paso. La pestaña se actualiza cada 10 segundos.
Después: Historial de entrenamientos
Entrenar › Historial de entrenamientos (/training/history) cuenta tus entrenamientos completados y fallidos, y los filtra por proveedor, estado y fechas. Al abrir uno ves:
- La configuración y los hiperparámetros con que corrió.
- Métricas: loss final, val loss, pasos totales y duración.
- Documentos: los datos de entrenamiento y de evaluación (.jsonl) y un script (.py).
- El adapter LoRA y su botón Descargar adapter (Professional).
Trabajos (/jobs) también lista los entrenamientos junto con el resto de los trabajos de tus proyectos.
Cómo leer el loss
El loss debe bajar con el tiempo. Si el val loss deja de bajar o sube mientras el loss de entrenamiento sigue bajando, el modelo está memorizando tus ejemplos: prueba con menos epochs o más dropout.
Cómo se cobra la GPU
Pagas el tiempo que la máquina está encendida, al precio por hora de la oferta que elegiste.
- El precio por hora es el de la oferta de Vast.ai más el margen de AstrApp. Nunca pagas más que el precio que viste al lanzar.
- Cada 5 minutos se descuenta de tu saldo de GPU el tiempo corrido. Si se agota, AstrApp pasa alrededor de una hora de créditos AstrApp de tu organización; si ya no quedan, destruye la instancia.
- Los créditos incluidos en tu plan se usan igual que los que compras. 1 crédito = 1 USD, y los ves en pesos.
| Plan | Créditos AstrApp al mes | GPUs que puedes rentar | Precio máximo por hora | Instancias a la vez |
|---|---|---|---|---|
| Gratuito | No incluye | RTX 3080, RTX 3090, RTX 4080, RTX 4090, A10, A6000, A100 40GB | $100 MXN ($5.00 USD) | 1 |
| Starter | $15 MXN ($0.75 USD) | RTX 3080, RTX 3090, RTX 4080, RTX 4090, A10, A6000, A100 40GB | $200 MXN ($10.00 USD) | 3 |
| Growth | $84 MXN ($4.20 USD), ~10 h de GPU | Todas las del marketplace | $300 MXN ($15.00 USD) | 5 |
| Professional | $300 MXN ($15.00 USD), ~25 h de GPU | Todas las del marketplace | $400 MXN ($20.00 USD) | 10 |
Las horas de GPU incluidas son una estimación: las reales dependen de la GPU que elijas. El detalle de límites está en GPUs por plan y los planes completos en Planes y precios.
Apagado automático y vigilancia
Una GPU olvidada cobra por hora. Estas protecciones funcionan solas; no tienes que configurarlas.
Auto-apagado
Al cumplirse las horas que elegiste, la máquina se apaga. Si el entrenamiento no había terminado, train.py intenta guardar y subir el adapter que lleve. Como red de seguridad, la máquina se destruye sola 30 minutos después aunque la app no responda.
Liberación al terminar
Cuando el entrenamiento termina, falla o lo cancelas, AstrApp libera la GPU. Si activaste la evaluación, espera a que eval.py arranque (hasta 10 minutos).
Máquinas sin señal
Cada 5 minutos un vigilante revisa tus instancias. Si la máquina de un entrenamiento pasa 30 minutos sin reportar (tras 15 de gracia al arrancar), se destruye; el trabajo se marca fallido a los 45 minutos sin señal.
Saldo y límites de gasto
Si se agota tu saldo o llegas al límite de gasto diario o mensual de tu plan, la instancia se destruye. Recibes un correo cada vez que el vigilante apaga una instancia.
Límites de gasto
Al llegar al 80 % de tu límite diario o mensual recibes un aviso en la app. Al llegar al 100 % no puedes lanzar nuevas instancias y las activas se destruyen. El límite diario se reinicia a medianoche UTC y el mensual el día 1. Más detalle en Historial de rentas GPU.
Reportes firmados
La máquina reporta su avance con un token HMAC-SHA256 que firma la plataforma al lanzar. Vale al menos 72 horas y siempre 12 horas más que el apagado duro de la máquina. No tienes que crearlo ni manejarlo.
Scripts, stack e imágenes
Los scripts que corren en la máquina
- Vista previa exacta: en Entrenar modelo, Ver scripts que se ejecutarán muestra el
train.pyy eleval.pyque corren en la instancia (por API,POST /api/v1/training/preview-scripts). Es de solo lectura: no crea nada ni cobra. - Script del historial: el botón Script de entrenamiento (.py) genera un script a partir de la configuración guardada del trabajo, para correrlo por tu cuenta. No es una copia del
train.pyque corrió en la GPU. - Generador de scripts de curación (
/training/script-generator, fuera del menú lateral): arma un script de Python aparte para que un LLM califique, mejore y divida tus datos antes de entrenar. Sus criterios y personalidades evalúan tus datos, no el modelo. Hoy esa pantalla solo se abre con Starter o Professional.
Versiones del stack
Las versiones fijas que instala AstrApp. Si corres los scripts en tu servidor, usa estas: instalar lo más nuevo rompe la compatibilidad con Unsloth.
| Paquete | Versión |
|---|---|
torch | >=2.4, <2.13 |
transformers | 5.5.0 |
trl | 0.24.0 |
peft | 0.20.0 |
accelerate | 1.14.0 |
datasets | 4.3.0 |
bitsandbytes | 0.50.2 |
huggingface_hub | 1.30.0 |
unsloth | 2026.9.3 |
unsloth_zoo | 2026.9.2 |
Imágenes Docker
| Imagen | Qué implica |
|---|---|
| AstrApp (recomendada — arranca más rápido) | Trae el stack de entrenamiento preinstalado: empieza a entrenar casi de inmediato. |
| Axolotl (experimental) | Experimental: instala el stack completo al arrancar (3-5 min de GPU pagada). |
| Unsloth (no compatible) | No se puede usar para entrenar en AstrApp. |
| PyTorch (experimental) | Experimental: instala el stack completo al arrancar (3-5 min de GPU pagada). |
| Transformers (experimental) | Experimental: instala el stack completo al arrancar (3-5 min de GPU pagada). |
| LLaMA-Factory (experimental) | Experimental: instala el stack completo al arrancar (3-5 min de GPU pagada). |
| Personalizada | La escribes tú. No disponible en el flujo de entrenamiento. |
Después del entrenamiento
Descarga el adapter
Desde el detalle del historial, con el plan Professional y suscripción activa. Todo lo que puedes hacer con él está en Adaptadores LoRA.
Compara corridas
En el historial compara el loss, el val loss y la evaluación de cada corrida para decidir qué cambiar en la siguiente: datos, modelo o hiperparámetros.
Todavía no hay endpoint para tu adapter
AstrApp aún no sirve tu adapter como API y el Playground trabaja con modelos de Together AI, no con los adapters que entrenas en GPU. Para usar tu modelo, descarga el adapter y sírvelo en tu propia infraestructura (por ejemplo, con vLLM) o usa el archivo GGUF con llama.cpp.
Consejos para entrenar mejor
- Calidad y cantidad. Como referencia, Entrenar por mí pide al menos 100 conversaciones y recomienda 400.
- Empieza chico. Valida tu dataset con un modelo de 4B a 9B antes de pasar a uno grande.
- Revisa tus datos. AstrApp los valida, pero lee algunos ejemplos a mano.
- Itera. Entrena, evalúa, mejora los datos y repite.