跳到正文
DEV Community· lu1tr0n·· 4 小時前精選AI 評分80

Meta 開放 Muse Spark Open 權重,模型規模為 816B 參數

Muse Spark Open: 816B parámetros abiertos de Meta

AI 導讀

Meta 公開 Muse Spark Open 的模型權重;這款 MoE 模型共有 816B 參數、每個 token 啟用 42B 參數,並設有 1 million tokens 的上下文窗口。

推薦理由

文章交代 Muse Spark Open 開放權重後的本地部署條件,並比較桌面硬件、資料中心 GPU 與雲端 API 三種使用方式。

正文 · 原文

Meta acaba de liberar los pesos de Muse Spark Open, un modelo de 816.000 millones de parámetros que corre completo en dos Mac Studio con chip M5 Ultra, sin pasar por ningún servidor en la nube.

Es la versión de pesos abiertos del sistema que Meta Superintelligence Labs presentó semanas atrás, y llega con una ventana de contexto de 1 millón de tokens pensada para ingeniería de software de varios pasos y trabajo agéntico prolongado.

TL;DR

  • Meta publicó los pesos de Muse Spark Open, modelo MoE de 816.000 millones de parámetros con 42.000 millones activos.- La ventana de contexto llega a 1 millón de tokens, pensada para tareas de ingeniería de software largas.- Dos Mac Studio con chip M5 Ultra y MLX corren el modelo completo gracias a 512 GB de memoria unificada por equipo.- Los kernels Helion en SGLang aceleran la inferencia entre 1,03 y 3,95 veces en GPU Nvidia y AMD.- El modelo está disponible en Hugging Face y vía APIs de Together AI, Fireworks, Baseten, Groq, Modal, Nebius y OpenRouter.

Qué es Muse Spark Open

Muse Spark Open es el modelo de pesos abiertos derivado de Muse Spark, el sistema multimodal de mezcla de expertos de Meta con 816.000 millones de parámetros totales, 42.000 millones activos por token y una ventana de contexto de 1 millón de tokens, pensado para programación y trabajo agéntico de varios pasos.

El modelo es nativamente multimodal: procesa texto e imágenes dentro de la misma arquitectura de mezcla de expertos (MoE), y activa solo 42.000 millones de los 816.000 millones de parámetros en cada token. Esa activación parcial es lo que distingue a un MoE de un modelo denso, porque el costo de cómputo por token se parece al de un modelo mucho más chico, aunque la memoria necesaria para guardar todos los expertos sigue siendo la de un modelo de 816.000 millones.

Qué pasó

El modelo de pesos abiertos de Meta ya está disponible para descargar en Hugging Face, Amazon SageMaker AI, Google Cloud Model Garden y Microsoft Foundry Models. Para quien prefiera no alojar el modelo, siete plataformas lo sirven como API: Baseten, Fireworks AI, Groq, Modal, Nebius, OpenRouter y Together AI.

Muse Spark Open corre sobre los motores de inferencia más usados del momento: SGLang, vLLM, TensorRT-LLM, Hugging Face Transformers, Apple MLX, llama.cpp y Unsloth, con optimizaciones específicas para silicio de AMD, Apple, Intel y Nvidia. Quien quiera afinar el modelo para un caso propio puede hacerlo con PyTorch, usando el framework de entrenamiento distribuido TorchTitan.
El framework MLX, usado para correr el modelo en Apple Silicon, es de código abierto desde 2023.

Contexto e historia

Meta Superintelligence Labs presentó la versión cerrada de Muse Spark hace unas semanas como el primer modelo de ese laboratorio. La novedad de octubre no es el modelo en sí, sino que Meta decidió abrir sus pesos y lo presenta, según el propio anuncio, como el modelo de pesos abiertos más capaz hecho en Estados Unidos hasta la fecha.

La jugada ubica al modelo de pesos abiertos de Meta en una carrera donde China venía marcando el ritmo: modelos abiertos como los de Moonshot AI, Z.ai o DeepSeek llevaban meses liderando los rankings de pesos abiertos en benchmarks como Artificial Analysis. Meta responde con un modelo grande, pero con un argumento distinto: que corre en hardware de escritorio, algo que ningún rival de ese tamaño ofrecía hasta ahora.

Detalles técnicos: cómo reparten la memoria los dos Mac Studio

El motivo técnico por el que dos Mac Studio alcanzan para correr un modelo de 816.000 millones de parámetros está en la arquitectura de memoria unificada de Apple. Cada chip M5 Ultra permite que la GPU integrada use hasta 512 GB de esa memoria, así que entre los dos equipos suman un terabyte disponible para guardar los pesos del modelo completo.

El ancho de banda es la otra mitad de la ecuación. El M5 Ultra entrega 1,2 TB/s de ancho de banda de memoria, una cifra que alcanza porque un modelo MoE no necesita leer los 816.000 millones de parámetros en cada paso: con el router eligiendo qué expertos activar, cada token solo necesita leer la porción de 42.000 millones de parámetros que le toca. MLX se encarga de repartir esa porción entre las dos máquinas para que, de cara al modelo, se comporten como una sola con el doble de memoria.
El M5 Ultra reparte hasta 512 GB de memoria unificada por chip entre CPU y GPU.

flowchart TD
A["Agente Muse Code"] --> B["Router MoE del modelo"]
B --> C["Mac Studio 1: M5 Ultra, 512 GB"]
B --> D["Mac Studio 2: M5 Ultra, 512 GB"]
subgraph "Memoria unificada combinada: ~1 TB"
C
D
end

Sobre esa base, Meta corrió pruebas agénticas completas en el hardware local, sin tocar la nube: usando Muse Code, su asistente de programación, sobre el modelo de pesos abiertos, el equipo aplicó cambios reales a Ice Cubes, un cliente de Mastodon de código abierto para iOS, con correcciones de bugs, funciones nuevas y compilación completa. En otra prueba, el modelo manejó DaVinci Resolve de punta a punta, revisando metraje fotograma por fotograma para encontrar los mejores momentos y recortarlos en formato vertical.

En el otro extremo del hardware, para quien corre el modelo en GPU de centro de datos, Meta publicó kernels GPU propios llamados Helion dentro de SGLang. Esos kernels autoajustables entregan entre 1,03 y 3,95 veces más velocidad a nivel de kernel en GPU de Nvidia y AMD, y un 3% de mejora de punta a punta en una AMD MI350.
OpciónCuándo usarlaVentajaLimitaciónAPI en la nube (Together AI, Fireworks, Groq, etc.)Para integrar el modelo sin gestionar hardwareSin inversión inicial, escala solaDepende de la disponibilidad y precio del proveedorPesos propios en GPU de centro de datosPara volumen alto o afinado con TorchTitanControl total y los kernels Helion aceleran la inferenciaRequiere GPU Nvidia o AMD de gama altaDos Mac Studio M5 Ultra en localPara correr el modelo completo sin nube ni GPU de servidorPrivacidad total, sin costo recurrente de APIEl hardware ronda varios miles de dólares y hay que mantenerlo

💡 Tip: antes de comprar el hardware, probá el modelo de pesos abiertos de Meta vía API (Together AI u OpenRouter, por ejemplo) para confirmar que el caso de uso lo justifica.

Impacto y análisis

Para un equipo de desarrollo, la diferencia práctica no es el tamaño del modelo sino dónde corre. Un modelo de 816.000 millones de parámetros servido por API no es noticia en 2026: lo distinto es que ahora existe la opción de tenerlo corriendo en una oficina, sin que el código fuente o el footage de un proyecto salgan de la red local. Eso importa para equipos con compromisos de confidencialidad o que simplemente no pueden mandar datos sensibles a un proveedor externo.

La licencia también es parte del cálculo. Meta libera el modelo bajo la Muse Model License, con términos comerciales limitados que permiten a buena parte de los desarrolladores usarlo gratis, aunque no es una licencia open source en el sentido estricto: empresas por encima de cierto umbral de usuarios suelen quedar fuera de la gratuidad, el mismo patrón que Meta ya usó con la familia Llama.

📌 Nota: pesos abiertos no es lo mismo que código abierto. La licencia de Meta restringe el uso comercial a partir de cierta escala, algo que conviene revisar antes de integrar el modelo de pesos abiertos de Meta en un producto.

El otro ángulo es la seguridad. Meta dice haber evaluado el modelo bajo su Meta Superintelligence Scaling Framework y haberle aplicado entrenamiento de seguridad adicional por tratarse de pesos abiertos, ya que una vez publicados los pesos no hay forma de revocarlos ni de parchear el modelo remotamente.

Qué sigue

Meta prometió un reporte de evaluación completo próximamente, además de la ficha de modelo ya publicada en Hugging Face. La compañía invita a compartir trabajos construidos con el modelo en los foros de Hugging Face, el canal que suele usar para medir adopción real antes de iterar en la siguiente versión.

Si la adopción crece, el próximo capítulo lógico es el mismo que ya atravesaron Llama y los modelos abiertos chinos: afinados de la comunidad para tareas específicas, y comparaciones de rendimiento frente a Kimi K3, GLM-5.2 o Qwen3.8 en benchmarks independientes.

📖 Resumen en Telegram: Ver resumen

Si tenés dos Mac Studio M5 Ultra a mano, el camino más corto para probarlo es instalar el adaptador MLX y descargar los pesos directo desde la colección de Muse Spark Open en Hugging Face.

Preguntas frecuentes

¿Qué es Muse Spark Open y quién lo publicó?

Es el modelo de pesos abiertos que Meta Superintelligence Labs derivó de su sistema Muse Spark, con 816.000 millones de parámetros totales y 42.000 millones activos por token.

¿Qué hardware necesito para correr el modelo de pesos abiertos de Meta en casa?

Según el anuncio de Meta, la configuración validada son dos Mac Studio con chip M5 Ultra, usando el framework MLX para repartir el modelo entre ambos equipos.

¿En qué se diferencia el modelo abierto de Meta de la versión cerrada de Muse Spark?

Comparten arquitectura y tamaño, pero la versión abierta publica los pesos para descarga y autoalojamiento, mientras que la versión cerrada solo se usa a través de los productos de Meta.

¿Qué licencia tiene el MoE abierto de Meta?

Se distribuye bajo la Muse Model License, con términos comerciales limitados que permiten uso gratuito a la mayoría de los desarrolladores.

¿Dónde se puede probar la IA abierta de Meta Superintelligence Labs?

Vía API en Baseten, Fireworks AI, Groq, Modal, Nebius, OpenRouter y Together AI, o descargando los pesos desde Hugging Face, Amazon SageMaker AI, Google Cloud Model Garden o Microsoft Foundry Models.

Referencias

  • Meta AI Research: anuncio oficial del modelo, con benchmarks y detalles de licencia.- Hugging Face: colección con los pesos descargables del modelo.- GitHub: ml-explore/mlx: repositorio oficial del framework MLX usado para correr el modelo en Apple Silicon.- PyTorch: framework usado para personalizar el modelo con TorchTitan.

📱 ¿Te gusta este contenido? Únete a nuestro canal de Telegram @programacion donde publicamos a diario lo más relevante de tecnología, IA y desarrollo. Resúmenes rápidos, contenido fresco todos los días.

來源:DEV Community · dev.to