。

这种通信方式通常用于实时性要求较高的场景#xff0c;如实时更新、通知、或…SSE

SSEServer-Sent

Events服务器发送事件是一种基于HTTP协议的通信技术它允许服务器持续地将数据推送给客户端而无需客户端发起请求。

这种通信方式通常用于实时性要求较高的场景如实时更新、通知、或者数据流式传输。

SSE与传统的Ajax轮询或长轮询相比具有更低的延迟、更高的效率并且更易于实现。

它建立在HTTP协议之上利用HTTP/1.1的持久连接允许服务器在连接建立后持续地向客户端发送数据客户端通过监听一个HTTP连接来接收这些数据。

在Web开发中服务器通常会使用特殊的HTTP响应头如Content-Type:

text/event-stream来指示客户端这是一个SSE流并且按照一定的格式发送事件数据给客户端。

客户端则可以使用JavaScript中的EventSource对象来接收并处理这些事件从而实现实时的数据更新。

SseEmitter

SseEmitter是Spring框架中的一个类专门用于Java。

SSE代表服务器发送事件是一种使服务器能够通过HTTP向Web客户端推送数据更新的技术。

SseEmitter是在Spring应用程序中实现SSE服务器支持的便捷方式。

使用SseEmitter您可以在Spring应用程序中创建一个端点客户端可以连接到该端点服务器可以通过此连接向客户端推送事件。

这对于实时更新非常有用例如显示实时通知、进度更新或流式传输数据。

OpenAI支持Stream流格式接收

{id:chatcmpl-123,object:chat.completion.chunk,created:1694268190,model:gpt-3.5-turbo-0125,

system_fingerprint:

choices:[{index:0,delta:{role:assistant,content:},logprobs:null,finish_reason:null}]}{id:chatcmpl-123,object:chat.completion.chunk,created:1694268190,model:gpt-3.5-turbo-0125,

system_fingerprint:

choices:[{index:0,delta:{content:Hello},logprobs:null,finish_reason:null}]}

...

{id:chatcmpl-123,object:chat.completion.chunk,created:1694268190,model:gpt-3.5-turbo-0125,

system_fingerprint:

choices:[{index:0,delta:{},logprobs:null,finish_reason:stop}]}demo

private

Pattern.compile(\content\:\(.*?)\});private

static

HttpRequest.post(https://api.openai.com/v1/chat/completions).header(Content-Type,

application/json).header(Authorization,

Bearer

API_KEY).body(JSONUtil.toJsonStr(params));//TODO

到shadowsocks

httpRequest.execute();InputStream

inputStream

execute.bodyStream();BufferedReader

bufferedReader

StandardCharsets.UTF_8));String

line;while

{System.out.println(line);Matcher

matcher

contentPattern.matcher(line);if

(matcher.find())

matcher.group(1);System.out.println(content);}}}

SSE发送

chatService;GetMapping(/test)public

SseEmitter

SseEmitter();chatService.question(question,

sseEmitter);return

Pattern.compile(\content\:\(.*?)\});Asyncpublic

void

{\model\:\gpt-3.5-turbo\,\messages\:[{\role\:\user\,\content\:\

question

HttpRequest.post(https://api.openai.com/v1/chat/completions).header(Content-Type,

application/json).header(Authorization,

Bearer

API_KEY).body(JSONUtil.toJsonStr(params)).setProxy(new

new

execute.bodyStream();BufferedReader

bufferedReader

输出响应内容System.out.println(line);//

提取内容Matcher

contentPattern.matcher(line);if

(matcher.find())

matcher.group(1);System.out.println(content);//

SSE

模拟延迟)Thread.sleep(1000);sseEmitter.send(SseEmitter.event().name(answer).data({

content