网易有道近期开源了自研的 RAG 引擎“QAnything”,Anything 是一个本地知识库问答系统,旨在支持多种文件格式和数据库,允许离线安装和使用。QAnything (Question and Answer based on Anything) 是致力于支持任意格式文件或数据库的本地知识库问答系统,可断网安装使用。您的任何格式的本地文件都可以往里扔,即可获得准确、快速、靠谱的问答体验。
目前已支持格式: PDF,Word(doc/docx),PPT,Markdown,Eml,TXT,图片(jpg,png等),网页链接等
GitHub地址:https://github.com/netease-youdao/QAnything
试用地址:https://qanything.ai
特点
- 数据安全,支持全程拔网线安装使用。
- 支持跨语种问答,中英文问答随意切换,无所谓文件是什么语种。
- 支持海量数据问答,两阶段向量排序,解决了大规模数据检索退化的问题,数据越多,效果越好。
- 高性能生产级系统,可直接部署企业应用。
- 易用性,无需繁琐的配置,一键安装部署,拿来就用。
- 支持选择多知识库问答。
必要条件
必要项 | 最低要求 | 备注 |
---|---|---|
NVIDIA GPU Memory | >= 16GB | 推荐NVIDIA 3090 |
NVIDIA Driver 版本 | >= 525.105.17 | |
CUDA 版本 | >= 12.0 | |
docker compose 版本 | >=1.27.4 | docker compose 安装教程 |
下载安装
- step1: 下载本项目
git clone https://github.com/netease-youdao/QAnything.git
- step2: 下载模型并解压到本项目根目录下
cd QAnything
git clone https://www.modelscope.cn/netease-youdao/qanything_models.git
unzip qanything_models/models.zip # in root directory of the current project
- step3:更改配置
vim front_end/.env # change 10.55.163.92 to your host
vim docker-compose.yaml # change CUDA_VISIBLE_DEVICES to your gpu device id
- step4: 启动服务
docker-compose up -d
安装成功后,即可在浏览器输入以下地址进行体验。
-
前端地址: http://{your_host}:5052/qanything
-
api地址: http://{your_host}:5052/api/
详细API文档请移步QAnything API 文档