多台Mac组成算力集群,苹果或进入数据中心市场

在本地部署大模型,从而实现Token自由、隐私安全和自主可控,这是一个AI圈子里的经典meme(模因)。为了满足这类用户的需要,英伟达做了DGX Spark、AMD推出Strix Halo,现在苹果似乎也准备入局了。

多台Mac共组本地算力盒子,苹果也想搞AI机房

日前有消息显示,苹果旗下子公司Claris正在测试一款名为Harbor的应用,旨在将搭载Apple Silicon芯片的Mac电脑变成个人算力盒子。其核心卖点是通过雷雳5(Thunderbolt 5)接口连接多台Mac,将不同设备的统一内存整合为一个更大的计算资源池,从而运行单台Mac无法独立容纳的大规模AI模型。

多台Mac共组本地算力盒子,苹果也想搞AI机房

其实早在2024年,苹果方面就已经意识到Mac在本地部署AI模型方面的优势,时任CEO库克曾表示,“所有由Apple Silicon芯片驱动的Mac,都是非常强大的人工智能机器。事实上,目前市面上用于人工智能的电脑,没有比Mac更好的”。


尽管Mac确实适合在本地部署AI,但单台的能力有限,面对快速变化的用户需求也有力未逮。


全球模型聚合平台OpenRouter联合硅谷顶级风投a16z在去年年末曾发布一份AI行业趋势报告,这份基于全球100万亿次真实API调用、覆盖300余款AI模型、60+家供应商的报告显示,参数量小于15B的模型份额正在暴跌。因为用户发现速度再快也没用,如果AI傻得像个复读机还不如不用,所以中等尺寸模型(15B-70B参数)成为了新宠。 

多台Mac共组本地算力盒子,苹果也想搞AI机房

到了2026年秋季,中等尺寸模型也开始有了“过气”的迹象。这是因为用户的任务正在发生变化,小规模模型在两年前受到欢迎,是因为能低成本实现“本地AI”,解决有无的问题。当用户真正开始用本地AI做视频、写代码的时候,小尺寸模型乃至中等尺寸模型就开始力不从心了,不少中小公司乃至个人用户开始追求在本地运行DeepSeek V4.1 Flash。


众所周知,本地部署AI模型的规模是由设备的内存决定,内存越大,能容纳的模型规模也就越大。比如,96GB统一内存的Mac Studio能流畅运行Qwen3.8-27B,512GB内存的Mac Studio则可以流畅运行Qwen3-235B。所以Harbor就是一个为本地部署大模型服务的应用,其通过串联的方式让Mac组成类似服务器集群的东西。

多台Mac共组本地算力盒子,苹果也想搞AI机房

多设备组队,在本地AI部署上并非新鲜事,目前在GitHub等平台已经有了不少解决方案,但它们都有一个共同点,那就是要求使用者具备一定的技术背景。目前,普通人虽然可以通过LM Studio、Ollama等工具在本地运行开源AI模型,但如果希望将多台电脑连接成一个集群,通常还需要对服务器、Docker、SSH等领域有一定了解,并解决不同设备之间的通信问题。


目前曝光的功能说明显示,Harbor能够自动识别通过Thunderbolt 5连接的Mac设备,并协助建立集群。用户只需要连接设备、启动应用,系统就会自动完成必要的配置,无需使用命令行,用户也不用具备专业的服务器管理经验。


从某种意义上来说,Harbor的核心功能是将普通用户不了解的部署(Deploy),转化为大家熟悉的安装(Install),让多设备串联部署大模型变成即点即用。

多台Mac共组本地算力盒子,苹果也想搞AI机房

有了Harbor,Mac作为本地算力盒子就有了超强的可扩展性。值得一提的是,Harbor的早期体验申请页面要求填写公司名称,这表明苹果可能真的打算进入利润丰厚的数据中心市场。至于数据中心有多赚钱,英伟达靠它成为全球市值第一的公司,AMD近期也宣布公司当前的战略重心已全面转向数据中心领域,未来还将持续加码AI基础设施建设。


从多台Mac搭配Harbor可以部署大规模AI模型为起点,苹果不是没有进入数据中心这个赛道的机会。对于苦于RTX 5090、RTX PRO 6000供不应求,DGX Spark溢价高到不合理的朋友,苹果的入局可能会让大伙缓一口气。


【本文图片来自网络】

踩(0)

最新文章

相关文章

大家都在看