https://github.com/grt1228/chatgpt-steam-output

Open AI ChatGPT流式输出。Open AI Stream output. ChatGPT Stream output.GPT-3.5
https://github.com/grt1228/chatgpt-steam-output

chatgpt chatgpt-stream gpt-35-turbo gpt-4 spring-boot spring-boot-chatgpt

Last synced: 3 days ago
JSON representation

Open AI ChatGPT流式输出。Open AI Stream output. ChatGPT Stream output.GPT-3.5

• Host: GitHub
• URL: https://github.com/grt1228/chatgpt-steam-output
• Owner: Grt1228
• Created: 2023-02-28T16:35:57.000Z (almost 2 years ago)
• Default Branch: main
• Last Pushed: 2023-04-25T14:52:15.000Z (over 1 year ago)
• Last Synced: 2024-12-21T20:08:30.280Z (10 days ago)
• Topics: chatgpt, chatgpt-stream, gpt-35-turbo, gpt-4, spring-boot, spring-boot-chatgpt
• Language: HTML
• Homepage:
• Size: 68.4 KB
• Stars: 458
• Watchers: 9
• Forks: 171
• Open Issues: 8
• Metadata Files:
  • Readme: README.md

Awesome Lists containing this project

README

        
# 简介

Open AI ChatGPT流式输出。Open AI Stream output. ChatGPT Stream output、

支持Tokens计算。

**此项目只是对[chatgpt-java](https://github.com/Grt1228/chatgpt-java) SDK的一个简单示例项目，实现流式输出，仅做参考仅做参考仅做参考。大家最好还是自己基于SDK动手实现**

---

### 目前本项目支持两种流式输出，支持Tokens计算，基于[ChatGPT-Java SDK](https://github.com/Grt1228/chatgpt-java) 。

流式输出实现方式 | 小程序 | 安卓 | ios | H5 

---|---|---|---|---

SSE参考：[OpenAISSEEventSourceListener](https://github.com/Grt1228/chatgpt-steam-output/blob/main/src/main/java/com/unfbx/chatgptsteamoutput/listener/OpenAISSEEventSourceListener.java) | 不支持| 支持| 支持 | 支持

WebSocket参考：[OpenAIWebSocketEventSourceListener](https://github.com/Grt1228/chatgpt-steam-output/blob/main/src/main/java/com/unfbx/chatgptsteamoutput/listener/OpenAIWebSocketEventSourceListener.java) | 支持| 支持| 支持| 支持

---

**最新版SDK参考：https://github.com/Grt1228/chatgpt-java** 

### 有bug欢迎朋友们指出，互相学习，有疑问加群**免费**解答。

一起探讨chatgpt-java，SDK问题咨询
项目产品开发交流 | 群失效关注公众号恢复：chatgpt-java | 个人微信

---|---|---

  |  | 

---

# SSE

主要是基于[SSE](https://developer.mozilla.org/en-US/docs/Web/API/Server-sent_events/Using_server-sent_events#event_stream_format) 实现的（可以百度下这个技术）。也是最近在了解到SSE。OpenAI官网在接受Completions接口的时候，有提到过这个技术。

Completion对象本身有一个stream属性，当stream为true时候Api的Response返回就会变成Http长链接。

具体可以看下文档：https://platform.openai.com/docs/api-reference/completions/create

![实例2](https://user-images.githubusercontent.com/27008803/224496355-76e94a21-a346-4260-93bf-9088bcb31a18.gif)

## 依赖

最新版参考：https://github.com/Grt1228/chatgpt-java

目前是1.0.12版本

```

    com.unfbx

    chatgpt-java

    1.0.12

```

# 项目部署

## 拉取源代码

```

git clone https://github.com/Grt1228/chatgpt-steam-output

```

## 修改配置

修改application.properties文件

默认8000端口，可以自己修改，修改端口记得将1.html文件的8000端口也替换掉

```

server.port=8000

chatgpt.apiKey=配置自己的key

chatgpt.apiHost=配置opai的Api Host地址

```

## 运行

运行ChatgptSteamOutputApplication

```

com.unfbx.chatgptsteamoutput.ChatgptSteamOutputApplication

```

运行成功后打开浏览器：

```

sse实现：http://localhost:8000/

websocket实现：http://localhost:8000/websocket   

```

能打开此页面表示运行成功



代码其实很简单，小伙伴们可以下载代码来看下。