算力荒近在眼前,微软准备用玩家的显卡跑AI

一周前,OpenAI CEO萨姆·奥尔特曼曾在播客节目中吐槽道,“当我们审视全球有限的内存供应链时,会发现资源分配非常糟糕。全球数以亿计的个人电脑中,囤积了海量的内存,但在绝大多数时间里,这些内存的使用率仅仅只有5%左右”。

算力荒近在眼前,微软准备拿玩家的显卡炼AI

普通PC用户买内存是浪费,OpenAI用才是正途,奥尔特曼这番傲慢的“地图炮”很快就一石激起千层浪。然而,他随口说出的却是硅谷的共识,算力闲置在个人电脑里简直是浪费。


几乎在同一时间,微软的一份新专利浮出水面,核心是“共享计算”,他们准备将用户闲置的算力纳入一张大网。


这一专利显示,微软提出建立一个分布式计算网络,将大型AI模型训练任务拆分成大量小型任务,分配给处于空闲状态的游戏电脑、笔记本电脑,甚至是智能手机。愿意向这一网络提供算力的用户,则会获得积分、免费软件、AI模型使用权限,甚至是现金报酬。


事实上,微软这个想法并非空穴来风。如今数据中心的扩张与民生矛盾早已积累到了一定的地步,最终演化成美国各地掀起的反数据中心浪潮,并且AI巨头和数据中心开发商未来大概率要面对更为严厉的监管。所以他们的“算力焦虑”已经不再是杞人忧天,而是成为近在眼前的危机。

算力荒近在眼前,微软准备拿玩家的显卡炼AI

过去两年间,AI模型对算力的需求增长速度远超供给,使得这些巨头不得不在美国、欧洲、中东大规模兴建数据中心。现在随着数据中心的建设极有可能会被按下暂停键,就让算力短缺变得更为紧迫。可是相关厂商已经为AI投入了海量资金,没人敢无视这笔庞大的沉没成本。


微软试图让用户电脑里的显卡参与训练AI模型,算得上是一个不是办法的办法。


众所周知,AI模型的训练往往关联着一个词,那就是“万卡集群”,动辄千万亿参数规模的AI模型训练,通常需要数千甚至数万张计算卡协同工作。


为此,微软从边缘计算这一概念中汲取到了灵感,通过建立不同计算任务之间的依赖关系,再将整个训练过程拆分成多个相对独立的小型任务,也就是所谓的微型任务(Micro-tasks)。系统根据不同设备的GPU性能、显存容量以及可用时间,将这些任务分配给参与网络的个人终端。完成计算后,个人终端再将结果上传,由服务器进行验证、整合,并继续推进后续的训练工作。


简单来说,微软是要建立一个围绕AI模型训练的承包体系,他们作为总包商将任务拆解成一个个零散片段,用户则在“任务公告栏”里领取适合自己设备的散单。

算力荒近在眼前,微软准备拿玩家的显卡炼AI

为了避免不同设备之间性能差异影响整体效率,微软还设计了一套动态任务分配机制。系统会评估任务拆分后的通信成本、额外内存开销以及数据在不同设备间传输的频率,尽可能选择适合分布式执行的任务切分方式。


当然,天上没有白掉的馅饼,想要靠接单赚零花钱的朋友需要注意。为了最大限度地使用算力,微软计划通过Windows持续监测GPU利用率、显存占用、处理器负载、设备温度以及功耗,并根据这些数据预测设备未来一段时间的可用计算能力。


其实从某种意义来说,微软的这个专利并不新鲜,许多玩过PCDN、P2SP的朋友对它肯定非常熟悉。


PCDN的原理,也是将集中部署在数据中心的内容拆成无数小块,让用户的电脑当做微型服务器。比如,当有人想看一部热播剧时,平台就不需要从远在千里之外的数据中心拉流,而是先问问附近有没有“好心人”已经缓存了相关内容。

算力荒近在眼前,微软准备拿玩家的显卡炼AI

“打着人人为我,我为人人”旗号的PCDN,同样也是对用户诱之以利,从而吸引用户主动贡献自己的宽带来作为PCDN的资源。虽然微软的共享算力和PCDN的共享宽带理念接近,但两者的结局恐怕会是南辕北辙。


由于PCDN是互联网内容平台和用户合谋薅运营商的羊毛,以至于运营商的高价商用宽带损失了一大批潜在客户。而微软的共享算力不一样,英伟达、AMD、三星、美光等算力供应链的上游如今处于满负荷状态,算力依然供不应求,并且微软可没说用个人电脑的算力来替代数据中心。

算力荒近在眼前,微软准备拿玩家的显卡炼AI

所以一旦微软这个专利开始落地,势必会成为普通人赚零花钱的好机会。唯一的问题,是这种操作比较费显卡。因为AI模型训练会让显卡长时间接近满载运行,晶体管开关次数剧增就将加速老化。按照60%-70%的高利用率计算,业界普遍预估数据中心的显卡寿命可能只有1-3年,所以挣的钱够不够显卡损耗就需要算笔账了。


【本文图片来自网络】

踩(0)

最新文章

相关文章

大家都在看