先抛几个数据:

当下,每天有超过 2 亿的人在张狂地抛出林林总总的问题请求 ChatGPT 回复

假如要完结这 2 亿+ 的咨询量,初始投入需求 3 万+ 块英伟达 A100 GPU 来核算

而 A100 是当下这个星球具有最强 AI 算力的芯片,买一块至少要 7W+ RMB

“ChatGPT 们” 所需算力真是“贵滴夸张”!

意思便是:光核算这些有意义/无意义的问题,就要花费:21 亿+ RMB

这还不算每天的电费/维护费等,众所周知,这种巨大核算类似矿机,很费电

一块 A100,功率 400W,30000 块 A100 ,便是 12_000_000 W,是 12 MW(12 个 100 万瓦)

“ChatGPT 们” 所需算力真是“贵滴夸张”!

现在,“GPT们”就像是井喷一样出现了各类产品,先不管算的成果怎么样,大家先支棱起来、先算起来

有预测:十年后,“GPT们” 一天所需算力的生产功率相当于半个核电站发生的功率,这是离谱且夸大的!全球算力几乎快要无法满意“GPT们”了

“ChatGPT 们” 所需算力真是“贵滴夸张”!

所以,以 ChatGPTPlus(每月20刀) 为代表的 “GPT们” 很贵,因为它本来算力消费就很贵,“用 GPT 编程比招一个一般程序员更贵”的段子并非玩笑。

所以,为什么算力如此重要?为什么微软要和韩国SK集团布局自建核电站?为什么咱们要着重西数东算、云核算等等?从这里也能窥见一斑。

不夸大的说,在未来,国力强弱一方面将通过算力强弱来表现。

“ChatGPT 们” 所需算力真是“贵滴夸张”!

2016年6月的不同国家之间的超级核算机500强的分布

“ChatGPT 们” 所需算力真是“贵滴夸张”!

超级核算机模拟风洞实验

小考虑:在未来,算力的瓶颈将如何打破?

—— 现在芯片仍处在传统冯诺伊曼架构之下,存储和核算区域是分离的,转移数据“从存储到核算”花费巨大的功耗,假如能完成“存算一体”(就像大脑一样)将提高算力进入新的量级。

所以“存算一体”可能是个方向~

推荐阅读:

# 核算型存储/存算一体如何完成? – bonnie的回答

# 5分钟新知重视芯片算力|存算一体为什么是AI年代干流核算架构?



OK,以上便是本次分享,期望各位工友喜欢~ 欢迎点赞、保藏、谈论

我是安东尼 100 万人气前端技术博主 INFP 写作品格坚持 1000 日更文 ✍ 重视我,安东尼陪你一起度过绵长编程岁月

加我微信 ATAR53,拉你入群,定期抽奖、粉丝福利多多。只学习交友、不推文卖课~


本文正在参与「金石方案」