新智元报导
修改:拉燕
【新智元导读】微软隐秘自研5nm芯片5年,背面原因令人咋舌,外购芯片本钱每年百亿。
为了练习ChatGPT,微软可谓下了满足多的血本。
ChatGPT耗费的总算力约为3640PF-days,假设每秒核算一千万亿次,需求核算3640天。
微软将3万多个英伟达A100芯片连起来,为OpenAI耗资数亿美元量身打造了超算。
要是这么耗下去,微软腰包恐怕也吃不消。
其实,取代英伟达芯片的计划,现已从2019年起,就开端在公司内部隐秘展开了。
The Information报导称,大约在5年前,微软就开端研制一种芯片,内部代号「雅典娜」(Athena),300人一起研制。
而开始的计划,是用台积电的5nm工艺打造。
自研Athena,挑战英伟达
不用多说,「雅典娜」是专为练习大型语言模型(LLM)而规划的。
而现在,微软想要把GPT-4才能全部装进包含Bing、Microsoft 365和GitHub在内的全家桶中,必定需求很多的算力支撑。
让人震惊的是,开发类似于Athena这种芯片的本钱,或许约为每年1亿美元。
在练习模型时,研讨人员可以凭借「雅典娜」的功能来处理新数据,一起,还能进行推理。
这样一来,以前处理人工智能软件有必要运用专用核算机的局面就得到缓解了,究竟,专门用来跑AI的核算机历来都不够用。
因为,之前只有英伟达才生产这种芯片,而供货量的缺少也就使得整个科技职业都感受到了这种短缺。
也正因如此,微软才不得不专门为一部分内部团队供给专用芯片。
此前,研讨公司SemiAnalysis曾预算,ChatGPT每日烧70万美元,每查询一次,就需求0.36美分。
假如「雅典娜」具有竞赛力,就可以将每颗芯片的本钱降低1/3。
Forrester Research的高档云分析师Tracy Woo表明,AI的爆火让各大公司都涌入其间,而芯片的缺少不只给供货商带来压力,还给AI科技公司带来了压力。
像谷歌和亚马逊这样大体量的科技公司有满足的本钱规划和开发属于自己的芯片,其它的公司也得眸足劲儿紧跟步伐。
说回到微软的「雅典娜」。
其实微软的AI芯片项目发布的机遇纯属偶然,并不是蓄谋已久。
今年年初,OpenAI和微软关于LLM的练习有了质的飞跃。知情人士表明,ChatGPT的发布引爆了网络,也正因如此,微软才急匆匆地加快了「雅典娜」的面世。
要知道,ChatGPT的用户现已超过1亿了。
据猜测,微软或许最早在明年大面积应用「雅典娜」,范围包含微软内部和OpenAI。他们还在犹豫的是,要不要把「雅典娜」供给给Azure云核算服务的客户。
微软方面表明,大多数客户不需求练习自己的LLM,因而也就不需求芯片加持。
然而假如真要给的话,微软可得干过英伟达。究竟,英伟达的芯片现已辛勤耕耘十五载,畅销所有开发者。
研讨公司SemiAnalysis的首席分析师Dylan Patel表明,ChatGPT的运营本钱大约是每天70万美元,大约每次查询0.36美分。而这些本钱的主要来源,就是服务器,实在是太贵了。
但假如OpenAI用上自己研制的「雅典娜」,还能pk过英伟达的话,那么本钱能直降三分之一。
他进一步表明,微软未来还希望在所有旗下的应用程序中都运用LLM,比如Bing、Office 365、GitHub等等。而假如继续运用现在的硬件进行布置,那每年得花数百亿美元。
此外,微软自研芯片还有另一个数据支撑。
微软的高层猜测了究竟需求多少图形处理单元来支撑AI工作。而其间一位知情者表明,完全依赖英伟达的芯片的话,本钱高的吓人。
虽然去年微软和英伟达刚刚达成了一个建设超算的合作项目,但在芯片这方面,「雅典娜」还是和英伟达的产品存在竞赛关系。
不过,关于这一敏感话题,英伟达拒绝置评。
参考资料:
www.theinformation.com/articles/mi…