近来,咱们将咱们的RAG(基于检索增强的生成,Retrieval Augmented Generation)引擎QAnything开源了 ,用户可以传入doc, pdf, 图片,ppt, excel 等各种类型的文档,就可以基于这些文档问答,像 “chatgpt” 一样的体会。本次开源包括了embedding, rerank, LLM,向量数据库等所有必要的模型和体系模块,用户可以一键下载,纯本地搭建大模型问答体系,马上开始使用。
(QAnything 引擎体系架构图)
QAnything 受到广阔开发者的亲近重视,开源近两周, star迅速涨到接近2000,昨日QAnything进入到了github的trending版。
QAnything开源后,广阔用户给咱们提了很多的定见。咱们研制人员日夜不停的回答用户问题,并紧锣密鼓的改代码。昨日,咱们发布了一个Release更新:
QAnything 版别 V1.1.0 ,让装置进程更简略,体会更流通。
Features:
– 装置进程更简略 –
-优化发动流程,支持一键发动:执行bash run.sh即可
-优化装置进程的交互,提示信息更友爱
– 体会更流通
-优化前端发动速度,秒翻开。感谢网友@jsoncode的奉献!
– 布置挑选更多
-优化显存占用,支持多GPU布置,目前支持单卡或双卡布置,双卡两张卡显存占用分别为11G,5G
– 其他优化
-向量库占用空间削减到本来的1/3
-优化xlsx,html切分chunk时size过大导致的解析失败
-优化常识库内只要单文档时回答的效果
-优化pdf解析效果,pdf解析速度
-供给原始未修改DockerFile
QAnything还在不断迭代晋级中,欢迎我们下载使用并供给宝贵反应!