Ecosyste.ms: Awesome

An open API service indexing awesome lists of open source software.

Awesome Lists | Featured Topics | Projects

https://github.com/chatlunalab/chatluna

多平台模型接入，可扩展，多种输出格式，提供大语言模型聊天服务的插件 | A bot plugin for LLM chat services with multi-model integration, extensibility, and various output formats
https://github.com/chatlunalab/chatluna

ai bot chatbot chatglm chatgpt claude gemini gpt gpt-4o koishi langchain llm openai plugin qq-bot qwen rwkv spark typescript

Last synced: 2 days ago
JSON representation

多平台模型接入，可扩展，多种输出格式，提供大语言模型聊天服务的插件 | A bot plugin for LLM chat services with multi-model integration, extensibility, and various output formats

Host: GitHub
URL: https://github.com/chatlunalab/chatluna
Owner: ChatLunaLab
License: agpl-3.0
Created: 2023-04-06T09:18:33.000Z (over 1 year ago)
Default Branch: v1-dev
Last Pushed: 2024-11-30T06:50:54.000Z (24 days ago)
Last Synced: 2024-11-30T23:05:23.074Z (23 days ago)
Topics: ai, bot, chatbot, chatglm, chatgpt, claude, gemini, gpt, gpt-4o, koishi, langchain, llm, openai, plugin, qq-bot, qwen, rwkv, spark, typescript
Language: TypeScript
Homepage: https://chatluna.chat
Size: 19.2 MB
Stars: 187
Watchers: 3
Forks: 26
Open Issues: 1
Metadata Files:
- Readme: README.MD
- Funding: .github/FUNDING.yml
- License: LICENSE

Awesome Lists containing this project

README

        




中文 | [English](./README_EN.MD)

#

_多平台模型接入，可扩展，多种输出格式，提供大语言模型聊天服务的机器人插件。_

[![npm](https://img.shields.io/npm/v/koishi-plugin-chatluna)](https://www.npmjs.com/package/koishi-plugin-chatluna) [![npm](https://img.shields.io/npm/dm/koishi-plugin-chatluna)](https://www.npmjs.com/package/koishi-plugin-chatluna) ![node version](https://img.shields.io/badge/node-%3E=18-green) ![github top language](https://img.shields.io/github/languages/top/ChatLunaLab/chatluna?logo=github)

[![Telegram](https://img.shields.io/badge/Join-Telegram_Group-blue)](https://t.me/koishi_chatluna) [![QQ](https://img.shields.io/badge/Join-QQ_Group-ff69b4)](http://qm.qq.com/cgi-bin/qm/qr?_wv=1027&k=eEBVq6GK7HYX2y61x55WD6hnXTIRop-0&authKey=i4pG5%2BJ%2FY8auWprBubhremTkn3vroPigQq5m9RENGBLrLmlj%2BSu3G%2BqllK7Wts2M&noverify=0&group_code=282381753) [![doc](https://img.shields.io/badge/See-Document(WIP)-green)](https://chatluna.chat/)

**项目状态：稳步迭代到 1.0 正式版（目前已进入 Release Candidate 阶段）**



## 截图

| 预设 | 插件模式 & 流式输出 | 图像渲染输出 |

|---------------------|--------------------------|--------------------|

| ![preset](https://s2.loli.net/2024/10/17/hfyoKXtJC5dV2Lg.webp) | ![plugin](https://s2.loli.net/2024/10/17/pcDjSIVMkB1aO6L.webp) | ![code](https://s2.loli.net/2024/10/17/7TBlbDsPM95iwdr.gif) |

## 特性

- 🚀 高度可扩展（基于 LangChain 和 Koishi API）

- 🎭 自定义对话预设

- 🛡️ 速率限制和黑名单系统

- 🎨 多格式输出（文本、语音、图像、混合）

- 🧠 上下文感知和长期记忆

- 🔀 三种模式：聊天、浏览、插件

- 🔒 内容审核（通过 [Koishi 审核服务](https://censor.koishi.chat/)）

## TODO (画饼是吧)

- [x] 基于房间的对话系统

- [x] 回复内容审核 （基于其他插件提供的 censor 服务）

- [x] 语音输出支持（即文字转语音，基于 initialencounter

  佬的 [vits服务](https://github.com/initialencounter/2022-12-24/blob/neat/plugins/Tool/vits/readme.md)）

- [x] 图片渲染回复

- [x] 接入更多模型/平台

- [x] 预设系统

- [x] ~~导入或导出会话记录（实际未完成，已放弃支持）~~

- [x] 重构到 v1 版本

- [x] 流式响应支持

- [x] i18n 本地化支持

## 部署

我们可在 Koishi 下直接安装本插件使用基础功能而无需额外配置。

阅读 [此文档](https://chatluna.chat/guide/getting-started.html) 了解更多。

## 适配支持

我们目前支持以下模型/平台：

| 模型/平台                                                | 接入方式                   | 特性                                           | 注意事项                                  |

|:-----------------------------------------------------|:-----------------------|----------------------------------------------|:--------------------------------------|

| [OpenAI](./packages/openai-adapter/README.md)        | 本地 Client，官方 API 接入    | 可自定义人格，支持插件/浏览模式等聊天模式                        | API 接入需要付费                            |

| [Azure OpenAI](./packages/azure-openai-adapter/README.md) | 本地 Client，官方 API 接入    | 可自定义人格，支持插件/浏览模式等聊天模式                        | API 接入需要付费                                      |

| [Google Gemini](./packages/gemini-adapter/README.md)     | 本地 Client，官方 API 接入    | 速度快，性能超越 GPT-3.5                             | 需要有 Gemini 访问权限账号，可能收费                                      |

| [Claude API](./packages/claude-adapter)                 | 本地 Client,官方 API 接入    | 超大上下文，大部分情况下能超过 GPT 3.5，需要 API KEY，收费        | 可能较贵，不支持 Function Call                                         |

| [通义千问](./packages/qwen-adapter/README.md)          | 本地 Client，官方 API 接入    | 阿里出品国产模型，有免费额度                               | 实测效果比智谱略好                                     |

| [智谱](./packages/zhipu-adapter/README.md)             | 本地 Client，官方 API 接入    | ChatGLM，新人注册可获取免费 Token 额度                   | 实测效果比讯飞星火略好                      |

| [讯飞星火](./packages/spark-adapter/README.md)           | 本地 Client，官方 API 接入    | 国产模型，新人注册可获取免费 Token 额度                      | 实测效果约等于 GPT 3.5                 |

| [文心一言](./packages/wenxin-adapter/README.md)          | 本地 Client，官方 API 接入    | 百度出品系列模型模型                                | 实测效果比讯飞星火略差                           |

| [混元大模型](./packages/hunyuan-adapter/README.md)          | 本地 Client，官方 API 接入    | 腾讯出品系列大模型                              | 实测效果比文心一言好                     |

| [Ollama](./packages/ollama-adapter/README.md)            | 本地 Client，自搭建 API 接入   | 知名开源模型合集，支持 CPU / GPU 混合部署，可本地搭建                                 | 需要自己搭建后端 API，要求一定的配置                  |

| [GPT Free](./packages/gptfree-adapter/README.md)     | 本地 Client，官方 API 接入    | 本地转发使用其他网站的 GPT 模型，项目自动配置网站等配置，无需手动注册        | 可能随时失效，不稳定                            |

| [ChatGLM](./packages/chatglm-adapter/README.md)      | 本地 Client，自搭建后端 API 接入 | 可本地搭建，四舍五入不要钱                                | 需要自己搭建后端 API，要求一定的配置，模型参数不够大导致聊天效果不够好 |

| [RWKV](./packages/rwkv-adapter/README.md)            | 本地 Client，自搭建 API 接入   | 知名开源模型，可本地搭建                                 | 需要自己搭建后端 API，要求一定的配置                  |

[为模型提供网络搜索能力](/packages/search-service/README.md) 我们支持：

- Google (API)

- Bing (API / Web)

- DuckDuckGO (Lite)

- Tavily (API)

## 预设

从 `1.0.0-alpha.10` 版本开始，我们使用更加可定制化的预设。新的人格预设使用 yaml 做为配置文件。

你可以点这里来查看我们默认附带的人格文件：[catgirl.yml](/packages/core/resources/presets/catgirl.yml)

我们默认的预设文件夹路径为 `你当前运行插件的 koishi 目录的路径+/data/chathub/presets`。

所有的预设文件都是从上面的文件夹上加载的。因此你可以自由添加和编辑预设文件在这个文件夹下，然后使用命令来切换人格预设。

如需了解更多，可查看[此文档](https://chatluna.chat/guide/preset-system/introduction.html)。

## Fork & Develop

在任意 Koishi 模版项目上运行下列指令来克隆 ChatLuna：

```bash

# yarn

yarn clone ChatLunaLab/chatluna

# npm

npm run clone ChatLunaLab/chatluna

```

可将上面 `ChatLunaLab/chatluna-koishi` 替换成你自己 Fork 后的项目地址。

然后编辑模版项目根目录下的 `tsconfig.json` 文件，在 `compilerOptions.paths` 中添加 ChatLuna 项目路径。

``` json

{

  "extends": "./tsconfig.base",

  "compilerOptions": {

    "baseUrl": ".",

    "paths": {

      "koishi-plugin-chatluna-*": ["external/chatluna/packages/*/src"]

    }

  }

}

```

由于项目本身比较复杂，初始使用必须构建一次。

``` bash

# yarn

yarn workspace @root/chatluna-koishi build

# npm

npm run build -w @root/chatluna-koishi

```

完成！现在即可在根项目中使用 `yarn dev` 或 `npm run dev` 启动模版项目并二次开发 ChatLuna。

> 虽然 Koishi 支持模块热替换(hmr)，但本项目可能并未完全兼容。

>

> 如果你在使用 hmr 二次开发本项目时出现了 Bug，请在 Issue 中提出，并按上面步骤重新构建项目并重启 Koishi 以尝试修复。

## Help

目前 ChatLuna 项目组产能极为稀缺，没有更多产能来完成下面的目标：

- [ ] Web UI

- [ ] Http Server

- [ ] Project Documentation

欢迎提交 Pull Request 或进行讨论，我们非常欢迎您的贡献！

## 贡献者名单



  



![Alt](https://repobeats.axiom.co/api/embed/d92b5a9398ee02a797355ed9b866aa93231c25b3.svg "Repobeats analytics image")

[![Star History Chart](https://api.star-history.com/svg?repos=ChatLunaLab/chatluna&type=Date)](https://star-history.com/#ChatLunaLab/chatluna)

## 使用须知

本项目由[ChatLunaLab](https://github.com/ChatLunaLab) 开发。

ChatLuna（下称本项目）

是一个基于大型语言模型的对话机器人框架。我们致力于与开源社区合作，推动大模型技术的发展。我们强烈呼吁开发者和其他使用者遵守开源协议，确保不将本项目（以及社区推动的基于本项目的其他衍生产品）的框架和代码以及相关衍生物用于可能对国家和社会造成危害的任何目的，以及未经过安全评估和备案的服务。

本项目不直接提供任何生成式人工智能服务的支持，需要使用者自行从提供了生产式人工智能服务的组织或个人获取使用的算法 API。

如果您使用了本项目，请您遵循当地地区的法律法规，使用在当地地区内可用的生产式人工智能服务算法。

本项目不对算法生成的结果负责，所有结果和操作均由使用者自行负责。

本项目的相关信息存储均由用户自行配置来源，项目本身不提供直接的信息存储。

本项目不承担使用者导致的数据安全、舆情风险或发生任何模型被误导、滥用、传播、不当利用而产生的风险和责任。

## 感谢

本项目在编写时也参考了其他的开源项目，特别感谢以下项目：

[koishi-plugin-openai](https://github.com/TomLBZ/koishi-plugin-openai)

[node-chatgpt-api](https://github.com/waylaidwanderer/node-chatgpt-api)

[poe-api](https://github.com/ading2210/poe-api)

[Bard](https://github.com/muhiris/wgpt)

[chathub](https://github.com/chathub-dev/chathub)

另感谢 [JetBrains](https://www.jetbrains.com/?from=ChatLuna)

为本项目提供 [WebStorm](https://www.jetbrains.com/webstorm/?from=ChatLuna) 等 IDE 的免费开源许可证。

[](https://www.jetbrains.com/?from=ChatLuna)