2

AI淘金者苦算力短缺久矣,托关系、改模型、共享资源,GPU一等就是半年

 1 year ago
source link: https://www.36kr.com/p/2281347009370112
Go to the source link to view the article. You can view the picture content, updated content and better typesetting reading experience. If the link is broken, please click the button below to view the snapshot at that time.

AI淘金者苦算力短缺久矣,托关系、改模型、共享资源,GPU一等就是半年

36氪的朋友们·2023-05-31 06:31
服务器厂商需等待6个月以上才能获得英伟达最新GPU。短缺之下,客户或将目光投向AMD、英特尔、Cerebras等公司产品。

谷歌CEO曾将人工智能革命比作人类学会用火,但如今AI“火种”供应却难以保证。目前行业内的AI GPU却几乎全部都来自英伟达,而随着需求激增,GPU已陷入供应短缺。

“行业对GPU的需求很强劲。”OpenAI发言人指出。而许多AI创始人预计,这种短缺至少会持续到明年

一些投资公司正在梳理关系网,苦苦寻求空闲算力;另一些投资公司则在努力协调处理器与服务器容量订单,这样自己的人工智能初创公司能共享这些资源

AI初创公司们对于短缺则各有各的解法——或缩减自家AI模型以提高效率,或为自己购买配备GPU的服务器,或转向甲骨文等相对“冷门”的云服务厂商,还有一些创始人则选择乞求亚马逊和微软的销售人员多给点算力

值得一提的是,知情人士透露,今年早些时候,初创公司们正在争抢甲骨文公司算力。但这些公司突然被告知,一个卖家已经抢购了甲骨文大部分备用服务器空间。这个买家是马斯克,他正在建立自己的OpenAI竞争对手公司X.AI。

当然,也有人已经提前“囤货”。AI研究公司Generally Intelligent CEO Kanjun Qiu自去年以来一直在为自家服务器购买先进GPU,因此她得以渡过眼下的短缺。Qiu最近还收到了一位风投家的消息,询问是否有多余的算力容量可以租给其他初创公司,不过Qiu暂未作出决定。

即便付钱抢到了产能,也还是要等。Perplexity AI CEO Aravind Srinivas表示,预付费用后,GPU也不会在第二天或一周内送到,“你只能等着”。

还有服务器厂商及其直接客户表示,他们需要等待6个月以上才能获得英伟达最新GPU

瑞银分析师估计,早期版本的ChatGPT大约需要10000个GPU;马斯克估计,其更新后需求量大约增至3-5倍之多

庞大需求面前,英伟达也正在不断扩大H100等产品供应。在一些零售商处,英伟达高级AI芯片售价已达到33000美元,而这些芯片在二级市场上的售价可能更高。

甚至有初创公司用“疫情期间的卫生纸”比喻这种短缺(此前疫情爆发后,全球多国居民开始抢购卫生纸)。OpenAI CEO Sam Altman表示,处理器瓶颈面前,如果ChatGPT用户少一些就好了。

这种短缺也限制了亚马逊、微软等云厂商向客户提供算力服务。而超微电脑(Super Micro Computer)之前已表示,公司的GPU系统订单处于历史最高水平,公司正急于扩产,并提醒AI服务器出货量可能会受到供应链瓶颈的限制

竞争对手替代品会“上位”吗?

此前曾有消息指出,一些客户没有选择“吊死在英伟达一棵树上”,他们将目光投向了英伟达的竞争对手 ,例如AMD、英特尔、Cerebras。

其中,Cerebras曾表示自家的WSE-2是“地球上最快的AI处理器”。

而AMD的MI300等一系列AI芯片都意在叫板英伟达。其中MI300是AMD首款数据中心/HPC级APU,该芯片正引发巨大兴趣,客户的参与度与关注势头“令人满意”

大摩分析师Joseph Moore认为,AMD已看到来自客户的“稳定订单”,公司2024年的AI相关营收有望达到4亿美元,最高甚至可能达到12亿美元——这一预期是此前的12倍之多 。

从摩尔定律演进,从CPU到GPU,行业对算力的追求始终未变。如今的AI热潮中,对算力的追捧进一步扩大,“算力即权力”不仅成为现实更是演绎到了极致。这场AI时代“权力的游戏”将如何演进,还有待观察。

本文来自微信公众号“科创板日报”(ID:chinastarmarket),作者:郑远方,36氪经授权发布。

该文观点仅代表作者本人,36氪平台仅提供信息存储空间服务。


About Joyk


Aggregate valuable and interesting links.
Joyk means Joy of geeK