0代码微调一个大模型,本钱不到20美元(人民币约144元)?
进程也非常简略,只需5步。
如LLaMA、GPT、StableLM等爆火的开源生成式模型,都能搞定。
这便是Monster API,一个最新火起来的API平台。
有人觉得这个开源范畴的新工作,能改写AI开发的游戏规则,加速AI运用的速度。
还有人振奋发问,之后会接入GPT-3/GPT-4吗?
所以,它详细是怎么完结的?
五步零代码搞定
简略理解,Monster API便是将微调过程尽可能简易化,让开发者不必再手动进行一系列设置,一起也提供廉价的GPU资源及内存优化。
详细进程如下:
第一步,挑选一个模型进行微调。
比方LLaMA-7B、GPT-J-6B、StableLM-7B等,Monster API提供了至少10个基础大模型。
第二步,挑选或创建微调使命。比方指令微调、文本分类等,或许自定义使命。
第三步,挑选一个HuggingFace数据集。
Monster API能够无缝集成HuggingFace数据集,可挑选范围很大;还能够根据使命类型引荐数据集。
而且不必自己手动操作,就能自动设置好格局。
第四步,设置超参数。
第五步,查看和提交。
在设置好如上所有过程后,确认没有错误就能够提交了。
Monster API表明能够通过WandB上的日志来监测使命。
在其博客中写道,用DataBricks Dolly 15k微调LLaMA-7B完结3个epouch,本钱仅需不到20美元(折合人民币约144元)。
官网显示,注册用户后会赠送2500积分。会员分为三档,收费分别是每月9美元/29美元/39美元。
除了微调以外,Monster API还提供各种生成式AI的API接口,并表明本钱比其他计划低80%。
背面公司已获110万美元融资
消息显示,Monster API背面公司拿下了110万美元的种子前资金(pre-seed funding)。
这家AI草创公司给自己的定位是要做“GPU范畴的爱彼迎”,把全世界分散的GPU资源完结灵活调度,让开发者们能够以更低的价格运用。
创始人是两兄弟Gaurav Vij和Saurabh Vij。
其间Gaurav Vij还创立了一家CV公司,正是因为CV公司需求面临巨大的云核算本钱,才启发了他们要做这样一个平台。
Saurabh Vij之前是欧洲核研讨中心的粒子物理学家,一起也研讨分布式核算。
兄弟俩表明在经过多轮技能迭代后,他们优化了消费级GPU在机器学习使命上的性能,使得运转Whisper AI模型的本钱相较于AWS平台降低了90%,所以他们就想着为什么不利用这个方法来帮助数以万计的开发者们。
一起他们透露公司的一个客户运用他们的分散的GPU核算资源,现已节省了30万美元。
参考链接:
[1]blog.monsterapi.ai/no-code-fin…
[2]www.enterpriseai.news/2023/06/09/…
—完—