Ecosyste.ms: Awesome
An open API service indexing awesome lists of open source software.
https://github.com/xerrors/yuxi-know
基于大模型、知识库与知识图谱的问答平台。Llamaindex + VueJS + Flask + Neo4j。大模型适配 OpenAI、国内主流大模型平台的模型调用、本地 vllm 部署。
https://github.com/xerrors/yuxi-know
docker flask kbqa kgqa llms neo4j rag vue
Last synced: 3 months ago
JSON representation
基于大模型、知识库与知识图谱的问答平台。Llamaindex + VueJS + Flask + Neo4j。大模型适配 OpenAI、国内主流大模型平台的模型调用、本地 vllm 部署。
- Host: GitHub
- URL: https://github.com/xerrors/yuxi-know
- Owner: xerrors
- Created: 2024-07-05T10:57:35.000Z (7 months ago)
- Default Branch: main
- Last Pushed: 2024-10-17T08:22:05.000Z (3 months ago)
- Last Synced: 2024-10-19T11:20:31.679Z (3 months ago)
- Topics: docker, flask, kbqa, kgqa, llms, neo4j, rag, vue
- Language: Vue
- Homepage:
- Size: 20.8 MB
- Stars: 6
- Watchers: 0
- Forks: 0
- Open Issues: 0
-
Metadata Files:
- Readme: README.md
Awesome Lists containing this project
README
Yuxi (语析)
> [!WARNING]
> **[WIP]** 当前项目还处于开发的早期。
## 预览
## 准备
提供 API 服务商的 API_KEY，并放置在 `src/.env` 文件中，参考 `src/.env.template`。默认使用的是智谱AI。需要配置 `ZHIPUAI_API_KEY=`。
## 目前已知 Bug
- [ ] refs 获取存在问题
- [ ] 模型切换存在问题
## Dockers 启动
**提醒**：下面的脚本会启动开发版本，源代码的修改会自动更新（含前端和后端）。如果生产环境部署，请使用 ` docker/docker-compose.yml` 启动。
```bash
docker-compose -f docker/docker-compose.dev.yml up --build
```
下面的这些容器都会启动：
```bash
[+] Running 7/7
✔ Network docker_app-network Created
✔ Container graph-dev Started
✔ Container milvus-etcd-dev Started
✔ Container milvus-minio-dev Started
✔ Container milvus-standalone-dev Started
✔ Container api-dev Started
✔ Container web-dev Started
```
关闭 docker 服务：
```bash
docker-compose -f docker/docker-compose.dev.yml down
```
查看日志：
```bash
docker logs # 例如：docker logs api-dev
```
如果需要使用到本地模型，比如向量模型或者重排序模型，则需要将环境变量中设置的 `MODEL_ROOT_DIR` 做映射，比如本地模型都是存放在 `/hdd/models` 里面，则需要在 `docker-compose.yml` 中添加：
```yml
services:
api:
build:
context: ..
dockerfile: docker/api.Dockerfile
container_name: api-dev
working_dir: /app
volumes:
- ../src:/app/src
- ../saves:/app/saves
- /hdd/zwj/models:/hdd/zwj/models # <== 修改这一行
```
## 更新日志
- 2024.10.12 后端修改为 FastAPI，并添加了 Milnvs 的独立部署。
## 相关问题
### 镜像下载问题
如果无法直接下载相关镜像，参考 [DaoCloud/public-image-mirror](https://github.com/DaoCloud/public-image-mirror?tab=readme-ov-file#%E5%BF%AB%E9%80%9F%E5%BC%80%E5%A7%8B)，尝试将前缀替换为：
```bash
# 以 neo4j 为例，其余一样
docker pull m.daocloud.io/docker.io/library/neo4j:latest
# 然后重命名镜像
docker tag m.daocloud.io/docker.io/library/neo4j:latest neo4j:latest
```