Meta пусна Muse Spark Open, оптимизиран за Mac Studio

В изненадващ ход, бележещ затопляне на отношенията между двата технологични гиганта, Meta официално представи Muse Spark Open – определян от компанията като „най-способния американски AI модел с отворени тегла (open-weight) до момента“. Голямата новина за екосистемата на Купертино е, че моделът е разработен и специално оптимизиран за локална работа върху настолния компютър Mac Studio, задвижван от чипа M5 Ultra.

Според официалния блог на Meta, новата система е нативно мултимодална и за първи път пренася водещи автономни агентски възможности (agentic capabilities) директно върху локалния десктоп на потребителите, без нужда от облачни сървъри.

1. Технически параметри: 816 милиарда параметъра и 1M контекст

Muse Spark Open е проектиран за тежко софтуерно инженерство, многостъпково логическо разсъждение и дългосрочни автономни задачи:

• Архитектура (MoE): Моделът разполага с внушителните 816 милиарда общи параметъра, от които 42 милиарда са активни при всеки токен.
• Контекстен прозорец от 1 милион токена: Позволява обработката на цели софтуерни хранилища, часове видеоматериал или стотици документи едновременно.
• Пълна оптимизация за Apple MLX: Моделът се възползва от най-новата версия на MLX – фреймуърка с отворен код на Apple, създаден специално за архитектурата с обединена памет на Apple Silicon.

2. Два Mac Studio компютъра като един суперкомпютър с 1TB RAM

В своята документация Meta изрично подчертава предимствата на хардуера на Apple за локален изкуствен интелект:

„Обединената памет на Apple позволява на интегрирания графичен процесор в M5 Ultra да използва до 512 GB на всеки Mac Studio, така че две машини могат да поберат целия модел. Пропускателната способност на паметта от 1.2 TB/s е достатъчно бърза, за да чете малкия сегмент, от който се нуждае всеки токен. Резултатът е, че два компютъра Mac Studio се държат като един суперкомпютър с един терабайт обединена памет.“

В реални тестове на локални работни потоци чрез инструмента Muse Code, екипът е демонстрирал напълно автономно писане на код и компилиране на реални iOS промени в популярния Mastodon клиент Ice Cubes (поправка на бъгове и нови функции). В друг тест моделът управлява професионалния видео софтуер DaVinci Resolve от край до край – преглеждайки суровите кадри фрейм по фрейм, за да открие най-силните моменти и да ги изреже автоматично във вертикален формат.

3. Край на ледената епоха между Apple и Meta

Тясното инженерно сътрудничество между Apple и Meta е огромна изненада на фона на дългогодишните конфликти между двете компании относно поверителността на данните и политиките на App Store. Паралелно с анонса, Apple публикува специална статия в своя портал Machine Learning Research, изтъквайки как MLX на Mac позволява на AI изследователите да експериментират локално с най-новите модели в защитена и частна среда.

В интервю за Axios ръководителят на Meta AI Александър Уанг (Alexandr Wang) коментира с чувство за хумор партньорството: „Развълнувани сме, че мама и татко отново си играят кротко заедно.“ Уанг разкри, че инженерите на двете корпорации работят съвместно от няколко месеца, като основна заслуга за сближаването има Даниел Грос (Daniel Gross) – бивш висш ръководител по изкуствен интелект в Apple.

Обобщение на характеристиките на Muse Spark Open

Смятате ли, че партньорството между Apple и Meta при локалните AI модели ще превърне Mac Studio в безалтернативна работна станция за разработчици? Споделете вашето мнение в коментарите на Kostoff.eu.