¿Qué modelo usar?
Cómo elegir un modelo del catálogo de AstrApp según tu caso de uso, la VRAM de la GPU y la licencia.
Cómo elegir
- Define tu caso de uso. Un bot de ventas, un agente que llama herramientas o un asistente que razona paso a paso piden modelos distintos.
- Revisa si necesitas herramientas. Si tu dataset tiene llamadas a herramientas (tool calling), elige un modelo que las soporte: lo indica la columna Herramientas del catálogo.
- Mira la VRAM mínima. Define qué GPU necesitas rentar. Tu plan decide qué GPUs puedes rentar: consulta GPUs por plan.
- Empieza por uno pequeño. Entrenar un modelo chico es más barato y rápido. Si la calidad no alcanza, sube de tamaño con el mismo dataset.
Qué modelos ofrece AstrApp
Solo modelos de uso libre que Unsloth sabe entrenar.
AstrApp ofrece 27 modelos abiertos, todos con licencia Apache 2.0 o MIT y con soporte de Unsloth. El servidor también lo valida al lanzar el entrenamiento: rechaza un modelo fuera del catálogo o con otra licencia antes de rentar la GPU.
No se ofrecen modelos con licencias Llama 3.2 Community, Llama 3.1 Community, Llama 3.3 Community, Gemma Terms. Imponen condiciones propias del proveedor y en Hugging Face exigen aceptar la licencia con un token; sin él, la descarga falla con la GPU ya rentada.
Tu plan no limita el modelo
Al entrenar tú en GPU, el catálogo es el mismo en todos los planes. Lo que limita el modelo es la VRAM de la GPU, y lo que cambia entre planes son las GPUs que puedes rentar. El único tope por tamaño de modelo es el de Entrenar por mí.
Catálogo
La lista completa, agrupada por tamaño. Es la misma que ves en Entrenar › Entrenar modelo y en Entrenar › Modelos abiertos.
- VRAM mínima: la que AstrApp exige para entrenar el modelo con LoRA en 4 bits. En Entrenar modelo, los modelos que no caben en la GPU elegida aparecen deshabilitados.
- Disco mínimo: el que el servidor exige antes de rentar. Es mayor en los modelos sin versión precuantizada a 4 bits, porque bajan los pesos completos en 16 bits.
Hasta 10B
| Modelo | Parámetros | VRAM mínima | Disco mínimo | Licencia | Herramientas |
|---|---|---|---|---|---|
| Phi-4 Mini 3.8B | 3.8B | 7 GB | 18 GB | MIT | No |
| Qwen 3 4B | 4B | 7 GB | 18 GB | Apache 2.0 | Sí |
| Qwen 3.5 4B | 4.7B | 10 GB | 25 GB | Apache 2.0 | Sí |
| Gemma 4 E2B | 5.1B | 10 GB | 19 GB | Apache 2.0 | Sí |
| DeepSeek R1 Distill 7B | 7B | 10 GB | 20 GB | MIT | No |
| Mistral 7B v0.3 | 7B | 10 GB | 20 GB | Apache 2.0 | Sí |
| Qwen 2.5 7B | 7B | 10 GB | 20 GB | Apache 2.0 | Sí |
| DeepSeek R1 Distill Llama 8B | 8B | 10 GB | 20 GB | MIT | No |
| Gemma 4 E4B | 8B | 17 GB | 20 GB | Apache 2.0 | Sí |
| Qwen 3 8B | 8B | 10 GB | 20 GB | Apache 2.0 | Sí |
| Qwen 3.5 9B | 9.7B | 16 GB | 35 GB | Apache 2.0 | Sí |
Más de 10B y hasta 24B
| Modelo | Parámetros | VRAM mínima | Disco mínimo | Licencia | Herramientas |
|---|---|---|---|---|---|
| Gemma 4 12B | 12B | 20 GB | 39 GB | Apache 2.0 | Sí |
| Phi-4 14B | 14B | 15 GB | 24 GB | MIT | No |
| Qwen 2.5 14B | 14B | 15 GB | 24 GB | Apache 2.0 | Sí |
| Qwen 3 14B | 14B | 15 GB | 24 GB | Apache 2.0 | Sí |
| gpt-oss 20B | 21B (3.6B activos) | 20 GB | 28 GB | Apache 2.0 | Sí |
| Magistral Small 24B | 24B | 22 GB | 30 GB | Apache 2.0 | Sí |
| Mistral Small 24B | 24B | 22 GB | 30 GB | Apache 2.0 | Sí |
| Mistral Small 3.2 24B | 24B | 22 GB | 30 GB | Apache 2.0 | Sí |
Más de 24B y hasta 35B
| Modelo | Parámetros | VRAM mínima | Disco mínimo | Licencia | Herramientas |
|---|---|---|---|---|---|
| Gemma 4 26B-A4B | 25.8B | 20 GB | 67 GB | Apache 2.0 | Sí |
| Qwen 3.6 27B | 27.8B | 32 GB | 71 GB | Apache 2.0 | Sí |
| Qwen 3.8 27B | 27.8B | 32 GB | 71 GB | Apache 2.0 | Sí |
| Gemma 4 31B | 31B | 22 GB | 34 GB | Apache 2.0 | Sí |
| DeepSeek R1 Distill 32B | 32B | 28 GB | 35 GB | MIT | No |
| Qwen 2.5 32B | 32B | 28 GB | 35 GB | Apache 2.0 | Sí |
| Qwen 3 32B | 32B | 28 GB | 35 GB | Apache 2.0 | Sí |
Más de 35B
| Modelo | Parámetros | VRAM mínima | Disco mínimo | Licencia | Herramientas |
|---|---|---|---|---|---|
| gpt-oss 120B | 117B (5.1B activos) | 80 GB | 86 GB | Apache 2.0 | Sí |
Ficha de cada modelo
En Entrenar › Modelos abiertos ves la descripción de cada modelo y su repositorio en Hugging Face.
Recomendaciones por caso de uso
Puntos de partida. La descripción de cada modelo es la del catálogo.
Empezar con poco presupuesto
- Gemma 4 E2B (10 GB de VRAM, con herramientas). El más ligero de Gemma 4: arquitectura MatFormer con ~2.3B parámetros efectivos. Entra en una RTX 3080.
- Qwen 3.5 4B (10 GB de VRAM, con herramientas). Reemplazo directo de Qwen3 4B, con mejor soporte multilingüe y contexto largo.
Bots de ventas y soporte con herramientas
- Qwen 3.5 9B (16 GB de VRAM, con herramientas). Reemplazo directo de Qwen3 8B: mejor calidad al mismo costo de GPU.
- Gemma 4 12B (20 GB de VRAM, con herramientas). Gemma 4 denso de 12B: reemplazo directo de Gemma 3 12B, ahora con licencia Apache 2.0 y sin gating.
Mucha calidad en una GPU de 24 GB
- Gemma 4 31B (22 GB de VRAM, con herramientas). El mejor ratio calidad/costo del catálogo: 31B que caben en una RTX 4090 de 24 GB con LoRA en 4-bit.
Máxima calidad
- Qwen 3.8 27B (32 GB de VRAM, con herramientas). El 27B recomendado: la versión más reciente de Qwen en este tamaño, con contexto de 262K y soporte de herramientas.
- Qwen 3.6 27B (32 GB de VRAM, con herramientas). El modelo denso abierto más capaz del catálogo: 201 idiomas y contexto de 262K.
Razonamiento paso a paso
- DeepSeek R1 Distill 7B (10 GB de VRAM, sin herramientas). Modelo destilado de DeepSeek R1 con capacidades de razonamiento chain-of-thought.
- Magistral Small 24B (22 GB de VRAM, con herramientas). Primer modelo de razonamiento open-weight de Mistral, construido sobre Mistral Small 3.1 con chain-of-thought transparente.
Alto volumen de conversaciones
- Gemma 4 26B-A4B (20 GB de VRAM, con herramientas). Mixture-of-experts de 128 expertos: pesa 26B pero solo activa 4B por token, así que responde como un modelo pequeño.
¿Instruct o base?
Una decisión que existe en teoría y que en AstrApp ya viene tomada.
Un modelo base solo aprendió a continuar texto. Un modelo instruct (o de chat) ya pasó por un ajuste para seguir instrucciones y conversar. Con pocos ejemplos, partir de un modelo instruct conserva lo que ya sabe hacer; un modelo base necesita muchos más ejemplos para aprender a conversar.
En AstrApp
No eliges entre base e instruct: cada modelo del catálogo apunta a un repositorio fijo de Hugging Face. Al entrenar, train.py convierte cada conversación a texto con el chat template del propio modelo, así que no tienes que formatear tokens especiales.
Disco y descarga
El servidor calcula el disco mínimo con el tamaño del modelo: unos 0.6 GB por cada mil millones de parámetros si existe versión precuantizada a 4 bits, o unos 2 GB si hay que bajar los pesos en 16 bits, más 15 GB de margen para el adapter, los checkpoints y la caché. Si pides menos disco, la renta se rechaza antes de cobrarte.
Entrenamiento con Together AI
Esta página cubre el catálogo de Entrenar › Entrenar modelo, que renta una GPU. El entrenamiento en Together AI, sin rentar máquina, usa el catálogo de modelos de Together.