English · 简体中文 · 日本語 · Deutsch · Français · Español · Português
Ejecuta un modelo de IA de 125 mil millones de parámetros en tu propio PC gaming
Tarjeta gráfica NVIDIA o AMD (12 GB o más) · Windows o Linux · libre y de código abierto
Un jardín con una pagoda de vóxeles, hecho con un solo prompt en una RTX 5070 con Strata (IQ3_S, contexto de 128K) ·
vídeo completo (49 s)
Strata ejecuta Qwen3.8-Flash-Next en un PC normal. Es un modelo de IA grande e inteligente que normalmente necesita un servidor. Conversa, escribe código, entiende imágenes y funciona con tus aplicaciones y agentes de programación. Nada sale de tu PC.
Lo medimos en dos PC gaming normales. Un token equivale más o menos a ¾ de una palabra.
- Escribe respuestas: lo rápido que aparece la respuesta en un chat corto. 60 tokens por segundo es más rápido de lo que puedes leer.
- Lee tu prompt: lo rápido que procesa lo que le envías (aquí, un documento, código o historial de chat de 32K tokens).
| NVIDIA: RTX 5070 (12 GB), Ryzen 5 7600, 64 GB RAM | AMD: RX 9070 XT (16 GB), Ryzen 9 3900X, 47 GB RAM | ||||||||||||||||||||||||||||||
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
|
|
NVIDIA: Q2_0 con el motor 0.1.36, las demás filas con 0.1.26 (respuestas de 4K, prompts de 32K). Las tablas completas están en DETAILS.md. Una tarjeta con más VRAM es más rápida: una RTX 3090 (24 GB) debería escribir unos 100-140 tokens por segundo. Chats largos y otras tarjetas: velocidad de cada modelo, resultados de la comunidad.
Strata es gratis. Si funciona bien en tu PC, un café ayuda a seguir trabajando en él.
| Tarjeta gráfica | NVIDIA GeForce serie RTX 20, 30, 40 o 50, o AMD Radeon RX 7900 XT / XTX, RX 7800 XT / 7700 XT, RX 9060 XT, RX 9070 / 9070 XT, Radeon AI PRO R9700 o serie RX 6800 / 6900. Necesita 12 GB de VRAM o más. |
| RAM | 32 GB o más. Tu RAM decide qué modelo cabe. Con 64 GB funcionan todos los tamaños. |
| Disco | Unos 80 GB libres. Usa un SSD si puedes: el primer arranque es mucho más rápido. |
| Sistema | Windows 10 / 11 o Linux, y un controlador gráfico actual de NVIDIA o AMD. |
El instalador prepara todo lo demás. Dos o tres tarjetas pueden repartirse el modelo (multi-GPU).
Experimental, escrito y probado por miembros de la comunidad en sus propios equipos:
- Tarjetas gráficas antiguas (Tesla P40 / V100, GTX 10, Radeon VII / MI50, RX 6700 XT, RX 5500 XT): Older GPUs.
- Intel Arc, compilado desde el código fuente en Linux: Intel Arc.
- AMD Ryzen AI Max (Strix Halo), compilado desde el código fuente en Linux: Strix Halo.
- Procesadores antiguos sin AVX2: funcionan, pero despacio. Older CPUs.
La lista completa: docs/INSTALL.md.
¿Usas un asistente de programación con IA (Claude Code, Cursor, Codex, GitHub Copilot, ...)? Pega esto en él:
Set up Strata on this PC for me: https://github.com/Niko1221/Strata - follow docs/AI_SETUP.md in that repository.
Revisa tu tarjeta gráfica, tu RAM y tu disco, y elige el modelo que cabe. Luego lo instala, lo arranca y te explica cómo conectar tus aplicaciones. Las herramientas de IA también pueden instalar, arrancar y detener Strata con su servidor MCP.
Descarga Strata y descomprímelo (o usa git clone).
Windows: haz doble clic en START-HERE.bat. Linux: ejecuta ./setup.sh en la carpeta de Strata.
Los pasos son los mismos para NVIDIA y AMD. El instalador detecta tu tarjeta y prepara el motor adecuado para ella. Te hace unas pocas preguntas:
- qué modelo y qué tamaño,
- cuánto contexto (cuánto texto tiene presente el modelo),
- si debe entender imágenes.
Pulsa Enter cada vez para usar la respuesta recomendada. Después descarga el modelo (unos 70 GB) y lo arranca. Si la
descarga se detiene, vuelve a ejecutarlo: sigue donde lo dejó. Tu navegador abre la aplicación de Strata en
http://127.0.0.1:8080.
Mientras el modelo arranca, tu PC puede ir lento o dejar de responder durante 1-3 minutos (más la primera vez). Strata carga 35-55 GB en tu RAM y reserva una parte para la tarjeta gráfica. Es normal. Espera y no cierres la ventana. La ventana muestra lo que está haciendo Strata.
La próxima vez, vuelve a ejecutar START-HERE.bat (o ./setup.sh). Arranca enseguida y no descarga nada dos
veces. Cierra su ventana para detener el modelo. UPDATE.bat (./update.sh) actualiza Strata sin arrancarlo.
Actualizaciones, Docker, varias tarjetas, dónde se guardan los archivos y todas las opciones: docs/INSTALL.md.
El instalador te recomienda uno según tu RAM. El mismo modelo viene en varios tamaños, más o menos comprimidos. Los tamaños pequeños son más rápidos. Los grandes son algo más inteligentes.
| Tu RAM | Elige | Por qué |
|---|---|---|
| 32 GB | Coder | cabe en 32 GB y está hecho para programar (con una tarjeta de 24 GB también funcionan Q2_0 e IQ2_XS) |
| 48 GB | IQ2_XS (o Q2_0, el más rápido) | los tamaños más grandes no caben |
| 64 GB | IQ2_XS (recomendado), o IQ3_XXS / IQ3_S | caben todos los tamaños; IQ3_S es el mejor y el más lento |
| 96 GB o más | IQ3_S, o el UD-IQ4_XS de Unsloth (~4 bits) | espacio para los tamaños más grandes con todo lo demás abierto |
- Coder: una versión para programar a la que se le quitó la mitad de los expertos. Alcanza el 91% de la puntuación SWE-bench Verified del modelo completo (medido por sus autores) y cabe en 32 GB de RAM. Es más flojo fuera del código, también con chino y otros textos CJK (#438). Para eso, elige Q2_0, IQ2_XS o IQ3_S, que conservan todos los expertos.
- Swift 1.5: un ajuste fino que piensa mucho menos tiempo antes de responder. Recibes la respuesta antes, con más o menos la misma calidad.
- Unsloth UD-IQ4_XS: la versión de ~4 bits de Unsloth, entre IQ3_S y UD-Q4_K_XL en calidad. Una descarga de 94 GB. Con menos de ~80 GB de RAM, Strata lee una parte desde el SSD mientras responde, así que ahí es más lento (un SSD NVMe ayuda).
- Unsloth UD-Q4_K_XL (experimental): el más parecido al modelo completo. Pero Strata lee la mayor parte desde el SSD mientras responde, así que solo escribe 7-8.5 tokens/s en un PC con 64 GB.
- OrcaRouter's Uncensored IQ3_XXS: se instala a mano. No está en el menú del instalador.
Tamaños, descargas y qué cabe dónde: docs/MODELS.md. Para añadir otro modelo más adelante, ejecuta
SETUP.bat (Linux: ./setup.sh --setup).
El Monitor de la aplicación de Strata (izquierda) mientras un agente de programación escribe el jardín de la pagoda del vídeo (derecha)
- En el navegador: abre
http://127.0.0.1:8080. Tiene Chat, un Monitor en vivo del modelo y de tu GPU/CPU/RAM, y About con los ajustes y las direcciones. - Tus aplicaciones y agentes de programación: añade un proveedor "compatible con OpenAI" con la URL base
http://127.0.0.1:8080/v1. Sirve cualquier clave de API y cualquier nombre de modelo.- Aplicaciones que usan la API de Anthropic:
http://127.0.0.1:8080/v1/messages(Claude Code:ANTHROPIC_BASE_URL=http://127.0.0.1:8080). - Codex CLI y otras aplicaciones que usan la API Responses de OpenAI:
/v1/responses(configuración).
- Aplicaciones que usan la API de Anthropic:
- Razonamiento: elige off, low, medium o high en el menú del chat o en el "reasoning effort" de tu aplicación. Off es lo más rápido. High es lo mejor para preguntas difíciles.
- Imágenes: responde que sí a "Images?" en la instalación. Luego haz clic en Picture en el chat, o adjunta imágenes en tu aplicación. Las tarjetas AMD leen imágenes en Linux a través del procesador; en Windows todavía no.
- Desde tu móvil u otro PC:
START-HERE.bat --setup --host 0.0.0.0 --api-key <secret>. Pon siempre una clave. - Una petición cada vez: por defecto Strata responde una petición y las demás esperan. Para responder varias a la
vez, pon
"parallel": 2(BATCHING.md). En una tarjeta de 12 GB, cada respuesta va más lenta. - Prompts largos: Strata lee entero el primer mensaje de un chat, más o menos 1 minuto por cada 30,000 tokens. Los mensajes siguientes empiezan en segundos.
Más: dónde se guardan tus chats, la API.
- Mi PC se congeló la primera vez que arrancó Strata. Es normal mientras carga el modelo. Espera y no cierres la ventana. ¿Sigue congelado después de 10 minutos? Reinicia el PC, cierra otros programas y vuelve a intentarlo, o elige un tamaño más pequeño.
- Se detuvo durante la descarga o la instalación. Vuelve a ejecutar
START-HERE.bat(o./setup.sh). Sigue donde se detuvo. - Va muy lento y la luz del disco no deja de parpadear, o dice "the engine stopped unexpectedly". Tu PC no tiene suficiente RAM libre. Cierra otros programas (los navegadores usan mucha), o elige un tamaño más pequeño (Q2_0 o IQ2_XS).
- Dice que el puerto 8080 ya está en uso. Strata ya está en marcha. Busca su ventana.
Más problemas y sus soluciones: docs/TROUBLESHOOTING.md. ¿Sigues atascado? Abre un
issue y adjunta strata-<model>.log de la carpeta de Strata. ¿Has
encontrado un problema de seguridad? Infórmalo en privado: SECURITY.md.
Los modelos como este suelen funcionar en servidores con cientos de gigabytes de memoria gráfica. Tu tarjeta gráfica tiene 12-24 GB. Strata hace que el modelo quepa repartiendo el trabajo por todo tu PC. Piensa en una cocina: lo que usas todo el rato se queda en la encimera, y el resto espera en la despensa.
- El modelo es un equipo de 24,576 pequeños especialistas ("expertos"). Cada palabra solo necesita 10 de ellos.
- Tu tarjeta gráfica guarda los pocos miles de expertos que más se usan. Tu RAM los tiene todos, y tu procesador trabaja con el resto al mismo tiempo. Tu SSD guarda una gran tabla de consulta.
- Adivinar y comprobar: un pequeño ayudante adivina las siguientes palabras. El modelo grande las comprueba todas a la vez. Recibes la misma respuesta, 1.6-1.8x antes.
- Los textos largos se leen en trozos grandes (hasta 8,192 tokens cada vez), a más de 1,000 tokens por segundo.
La explicación larga: docs/HOW_IT_WORKS.md. Cada parte y sus números: los detalles y el artículo.
El modelo es Qwen3.8-Flash-Next, del equipo de Qwen. Lo comprimieron ISTA-DASLab, UkisAI (Swift 1.5) y Unsloth. Strata usa partes de llama.cpp / ggml. Todos los créditos: docs/HOW_IT_WORKS.md. Strata es de código abierto con la licencia MIT. Algunas partes y cada modelo tienen sus propias licencias (cuáles).
Strata es libre y de código abierto. Si te resulta útil, puedes apoyar su desarrollo: