Meta випустила відкриту АІ-модель Muse Spark Open на 816 млрд параметрів

Компанія Meta оголосила про реліз відкритої мультимодальної АІ-моделі Muse Spark Open, назвавши її найпотужнішою відкритою моделлю у США на сьогодні.   Muse Spark Open побудована за архітектурою суміші експертів (MoE) із загальною кількістю 816 мільярдів параметрів (42 мільярди активних) та контекстним вікном у 1 мільйон токенів. Модель розроблена спеціально для складного програмування, багатокрокових міркувань та тривалих автономних агентних завдань.    Головною апаратною особливістю новинки стала оптимізація під фреймворк Apple MLX: Muse Spark Open є першою моделлю свого класу, здатною працювати локально на настільних ПК - для цього достатньо зв'язки з двох комп'ютерів Mac Studio на базі чипів Apple M5 Ultra із 512 ГБ об'єднаної пам'яті на кожен пристрій. Під час тестувань модель успішно виконувала агентні сценарії безпосередньо на пристрої, включаючи внесення змін до коду iOS-додатків та автоматичне монтування відео у DaVinci Resolve.   Ваги моделі вже доступні для завантаження на Hugging Face, Amazon SageMaker AI, Google Cloud Model Garden та Microsoft Foundry за ліцензією Muse Model License з безкоштовним доступом для більшості розробників. Доступ через API надають платформи Together AI, Fireworks, Groq, Modal, Nebius, OpenRouter та Baseten. Оптимізовані кастомні ядра Helion GPU в SGLang забезпечують прискорення на рівнях від 1,03х до 3,95х на графічних процесорах NVIDIA та AMD, а саму модель оцінено на відповідність стандартам безпеки Meta Superintelligence Scaling Framework.   Вихід Muse Spark Open позначає новий етап у демократизації персональних суперобчислень та агентного АІ. Можливість запуску моделі класу 800B+ на локальному настільному обладнанні завдяки об'єднаній пам'яті чипів Apple M5 Ultra створює новий прецедент для розробників ПЗ та дослідників, дозволяючи обходити високі витрати на хмарну інфраструктуру та забезпечуючи повну конфіденційність коду.   Стратегічний крок Meta щодо публікації відкритої мультимодальної моделі з гігантським контекстним вікном посилює тиск на пропрієтарні екосистеми OpenAI та Anthropic. Завдяки високій швидкодії та інтеграції з ключовими інференс-рушіями (vLLM, SGLang, llama.cpp) Muse Spark Open може стати новим стандартом для автономних АІ-агентів у корпоративному сегменті, прискорюючи перехід від простих чат-ботів до локальних автономних інженерних систем.

Як безпечно перейти до системного та керованого використання ChatGPT Business