Meta 公司在面临高达 1.4 万亿美元的巨额索赔之际,似乎正试图通过技术开源来重塑公众形象。该公司旗下社交媒体平台因被指控对未成年人造成成瘾性伤害而面临严厉追责,索赔金额接近其市值。
为了改善声誉,Meta 旗下的 Superintelligence Labs 发布了 Muse Glimmer,一款拥有 300 亿参数的开源 Agent 模型。该模型采用了宽松的 Apache 2.0 许可证,允许自由下载、修改和商业使用。Muse Glimmer 专为“always-on local agent”(常驻本地 Agent)设计,可在 Mac 设备或配备单张消费级 GPU 的 PC 上运行,即使在离线状态下也能处理文件管理、代码编写、截图处理等任务,无需持续连接云端或频繁调用 API。
Muse Glimmer 的 30B 参数规模被认为是“黄金尺寸”,既能保证一定的智能水平,又能适应普通消费级硬件。为实现这一目标,Meta 采用了先进的量化技术,将模型权重压缩至 4-bit 精度,使其体积缩减至 20GB 以下,为显存留出空间用于处理上下文记忆和多模态信息。此外,为了提升本地推理速度,Muse Glimmer 集成了基于 DFlash 的轻量级“drafter”模型,能快速生成初步结果,再由主模型进行校验证,从而摆脱了传统大模型逐词生成的缓慢模式,实现了接近实时的交互体验。
Meta 将 Muse Glimmer 定位为“开源智能体模型”,而非简单的聊天机器人。通过基于 logit 的蒸馏技术,利用大型教师模型(Muse Spark)生成复杂的推理和 Agent 交互数据,来训练 Glimmer。这使得 Muse Glimmer 具备了深入操作系统、管理本地文件、日程安排、调用 IDE 编写代码的能力。在多模态和视觉感知方面,它内置了独立的视觉感知编码器,能够理解屏幕截图和实时屏幕操作。同时,Glimmer 还拥有“容错机制”,在工具调用失败时能自主诊断并尝试修复。
Meta 公司认为,一个真正实用的个人 Agent 需要能够访问用户的文件、日历、照片等私密信息,而完全依赖云端会带来隐私、网络、成本和延迟等问题。因此,未来的 Agent 可能会是云端与本地模型相结合的形态,本地模型负责高频、私密且需要长期驻留设备的工作。Muse Glimmer 的出现,正是为了满足在个人设备上运行强大智能的需求。未来几天,llama.cpp、Ollama、MLX 等开发者常用框架将支持 Muse Glimmer。
Meta CEO 马克·扎克伯格强调,超级智能应普及到每个人手中,而非集中在少数公司。他设想未来每个人都将拥有一个 24 小时工作的个人 Agent,提供强隐私保护。Muse Glimmer 作为一款可在本地运行、具备工具调用能力的 30B Agent,是实现“个人超级智能”的重要组成部分。扎克伯格重申了开源在避免 AI 权力过度集中方面的重要性,并表示 Meta Superintelligence Labs 将加大开源力度。
Meta 此时重新强调开源,也与近年来中国模型在全球开源 AI 生态中的崛起有关。中国团队已成为开源模型的重要参与者,不断提升着竞争强度。Muse Glimmer 的发布,标志着一个更热闹的开源本地 AI 生态正在加速形成,个人的开源 AI 时代正悄然拉开帷幕。


