https://github.com/ziwang-com/mini-agi
GPT+神器，简单实用的一站式AGI架构，内置本地化，LLM模型，agent，矢量数据库，智能链chain
https://github.com/ziwang-com/mini-agi
agi chatglm gpt llama lora vicuan vicuna
Last synced: 5 months ago
JSON representation
GPT+神器，简单实用的一站式AGI架构，内置本地化，LLM模型，agent，矢量数据库，智能链chain
- Host: GitHub
- URL: https://github.com/ziwang-com/mini-agi
- Owner: ziwang-com
- Created: 2023-06-20T01:40:07.000Z (over 2 years ago)
- Default Branch: main
- Last Pushed: 2023-07-14T22:17:22.000Z (about 2 years ago)
- Last Synced: 2025-04-19T12:29:36.358Z (6 months ago)
- Topics: agi, chatglm, gpt, llama, lora, vicuan, vicuna
- Homepage: http://www.m-f.vip
- Size: 21.2 MB
- Stars: 48
- Watchers: 3
- Forks: 5
- Open Issues: 0
-
Metadata Files:
- Readme: README.md
Awesome Lists containing this project
README
## mini-AGI 迷你AGI
https://github.com/ziwang-com/mini-AGI
GPT+神器，简单实用的一站式AGI架构，内置原生矢量数据库，支持本地化LLM模型，agent，智能链chain，prompt提示词
10行代码，即可复刻经典GPT开源项目：localGPT，privateGPT。
单一py源码模块文件，实现langchain+prompt提示词+llm+矢量数据库+AGI(autoGPT,babyAGI) 80%功能。
矢量数据转换，每秒300条数据，1分钟1.5w，每小时近百万条，中小企业足够了
mini-AGI是zw-AGI的免费开源版本，删除了部分商务模块。
https://github.com/ziwang-com/zwAGI
## 【已完成功能】
* 10行代码，即可即复刻经典GPT开源项目：localGPT，privateGPT，
* 单一py源码模块文件，实现langchain+prompt提示词+llm+矢量数据库+AGI(autoGPT,babyAGI) 80%功能。
* 单文件模块源码，copy工作目录，直接import，无需安装。
* 内置式原生矢量数据库，基于pandas，生态完整。
* 支持：txt，csv，docx, ppt，pdf，markdown等，多种格式文件数据导入。
* 开放式prompts提示词文档，内置多组常用prompts提示词。
* 内置式llm调用：
* 支持清华cgatGLM-6B二代模型，毕竟是国内最强开源llm大模型。
* 首批支持ggml格式，llamcpp纯cpu调用，zw-vicuna-7B，13B，33B实测通过。
* 支持大部分主流开源模型，包括：LLaMA 🦙、Alpaca、 GPT4All、 Chinese LLaMA / Alpaca、 Vigogne (French)、 Vicuna、 GGML、Koala、 OpenBuddy 🐶 (Multilingual)、 Pygmalion / MetharmeB、 WizardLM、 Baichuan and its derivations (such as baichuan-sft)
## 【todo-list，计划完成功能】
* agent代理
* tool工具应用
* 智能链chain
* 开放式免费web搜索，免密匙
* 。。。。。。
## 【mini-agi模块库文件说明】
* 迷你AGI结构很简单，单一python文件结构。保存在mini-xlib目录当中。
* 大部分结构，代码，都是原创，强调工程实用性，约定优先。
* 部分代码，参考了相关开源项目，在此表示感谢。
## 【core核心文件说明】
* mini_agi.py，模块库核心文件
* prompt.yaml，提示词模板，字典格式，采用yaml文件保存，用户可以自己添加。
## 【plungin插件说明】
迷你AGI插件，也是采用单一py文件模式，简单明了。
发布时，内置了3个插件案例源码，方便大家扩展。
* mini_glm.py，清华chatGLM2-6B插件，支持国产llm项目。
* mini_gpt.py，openAI-api接口插件，使用前自己在源码文件设置好网址，key密匙
* mini_llm.py，ggml模型插件，支持zw-vicuan-7B/13B/33B中文汉化版，实测通过。
* 安装llama-cpp-python模块库，需要c语言编译器。
* 具体细节参看：
https://github.com/ggerganov/llama.cpp
https://github.com/abetlen/llama-cpp-python
## 【QA查询demo示例程序】
* tur001-qa.py，不到10行代码，完美复刻经典GPT开源项目：localGPT，privateGPT。
* tur002-gpt.py，GPT3.5-api接口模式
* tur03-llm.py，ggml模型文件调用，支持zw-vicuan-7B/13B/33B中文汉化版，实测通过。
## 【VDB数据库生成demo示例程序】
VDB矢量数据库，采用标准pandas DataFrame格式。
数据库文件扩展名是pkl，存储采用的是feather格式。
* tur011_db8fn.py，从csv文件生成vec矢量数据库
* tur012_db8dir.py，从目录批量生成vec矢量数据库，支持子目录结构，支持多种文件格式，示例程序demo包括：doc，txt，pdf等多种格式
## 【models模型文件说明】
默认模型保存在libs目录下，
* libs\all-MiniLM-L6-v2，文本矢量转换模型
* libs\zw-v7cn.bin，智王zw-vicuna-13B-cn中文汉化版
* libs\zw-v33cn.bin，智王zw-vicuna-33B-cn中文汉化版
* libs\chatglm2-6b，清华ChatGLM2-6B模型
以上模型，可以在智王百度网盘下载，也可以自己在huggingface等网站下载。
## 【智王AI资源库】百度网盘提取码：hiks
https://pan.baidu.com/s/1EH19ablXVLYQP1f-IaPS-Q?pwd=hiks
如有更改，最新下载地址请参见: QQ群文件：655402626（GPT+千人QQ大群）
## 【mini-agi迷你AGI懒人包】
为方便大家使用，稍后会推出【mini-agi迷你AGI懒人包】。
集成了zw-GPT-studio智王GPT集成式python开发平台，基本模型库，解压即用。
windows平台，需安装好cuda12.x运行环境。
linux、mac-os，请用vbox等虚拟机模式加载。
## 【欢迎加盟】
赠人玫瑰，手有余香。
欢迎各位网友，加盟mini-AGI开源项目组。
有意者请扫描上图右侧: zw群主-微信二维码.