Meta于当地时间周四发布开放权重大模型Muse Spark Open,并与苹果合作推动该模型在Mac电脑上本地运行。这款模型采用混合专家架构,总参数量达8160亿,其中活跃参数为420亿,上下文窗口可达100万词元。Meta表示,该模型专为编码与智能代理任务设计,在处理长周期任务、复杂软件工程问题及多步骤推理方面表现突出。
Meta将Muse Spark Open称为“迄今能力最强的美国开放权重模型”。根据其自行公布的测试结果,该模型在工作流程、工具调用、知识推理、知识可靠性、复杂视觉推理和图像事实问答这6项测试中均排名第一。不过数据也显示,在软件开发及其他某些任务上,Kimi、千问、智谱等中国开源模型依然更胜一筹。
此次发布的另一看点是苹果与Meta的罕见联手。在蒂姆·库克掌管苹果期间,双方曾多次公开冲突:库克指责Meta侵犯用户隐私,扎克伯格则嘲讽苹果自iPhone之后缺乏重大发明。但在开源AI竞争的共同利益下,两家公司选择合作。Meta需要证明其模型竞争力,苹果则需展示Mac软硬件适合本地运行AI。
Meta AI负责人汪滔表示,双方大部分积怨形成于他加入公司之前,但恩怨由来已久。他同时指出,Meta算力部门联合负责人、曾担任苹果总监的丹尼尔·格罗斯是促成此次合作的关键人物之一。去年扎克伯格调整AI战略时,格罗斯与GitHub前首席执行官纳特·弗里德曼一同成为重点招揽的人才。
技术层面,Meta利用最新版MLX(针对苹果芯片优化的开源机器学习框架)对Muse Spark Open进行优化,适配配备M5 Ultra处理器的Mac Studio,并称“两者结合是在个人电脑上运行强大模型的最佳方案”。苹果最新的Mac Studio(M5 Ultra)最高支持512GB统一内存,连接两台机器即可运行完整模型。
需要注意的是,扎克伯格已在社交媒体展示用两台顶配Mac Studio运行该模型的照片,但苹果尚未公开发售512GB版本,官方称10月底开售。按目前在售的256GB Mac Studio计算,即便“256GB+1TB SSD”配置,单台售价已超1万美元;若用四台256GB机型组成约1TB内存集群,购机成本超4万美元。
尽管价格不菲,对于长期租用云端算力的开发者,这些电脑仍可能通过节省租赁费用收回购置成本,同时获得本地算力余裕和数据隐私优势。汪滔也坦言,苹果与Meta在某些领域仍存在竞争,但不妨碍合作,在适合携手的领域双方愿意合作。
除苹果芯片外,该模型还针对英伟达、AMD和英特尔芯片进行优化,兼容多种主流推理引擎。开发者既可通过多家平台调用API,也可下载模型权重自行部署。