SSE 实时推流的整体框架

先说说 SSE 是啥玩意儿。

Server‑Sent Events，顾名思义，就是服务器主动往浏览器塞数据。

和 WebSocket 那种双向聊天不一样，SSE 只管单向推送。

好处是协议轻量、兼容性好，客户端只要调个 EventSource 就Neng收。

所以现在hen多 AI 大模型的 UI dou选它来“打字机”式展示答案。

先别慌，我把整个过程拆成三层来聊。

第一层：LLM Provider 把答案拆成一个个 token，塞进 Go 的 <-chan string。

第二层：我们自己的适配器把这个 channel 包装成统一的 StreamReader，顺便把结构体转成统一格式。

第三层：HTTP handler 注册一个 SSE 订阅，把每个 token 再包装成 JSON，写进 data: 行。

这三层kan似独立，却在代码里像水管一样顺滑流动——生产者写，消费者读。

说正题——Token 不是随便编的，它有一套严谨的生成机制。

大模型内部会把输出文本先切分成子词，每个子词对应一个整数 ID，这就是Zui原始的 token。

这些 ID 再经过一次加密签名，防止被篡改。签名算法一般用 HMAC‑SHA256，把密钥藏在服务端。

Zui终返回给前端的其实是一个 JSON 对象：

{
  "token": "12345",
  "text": "你",
  "signature": "a1b2c3..."
}

浏览器收到后只要校验一下 signature 是否匹配，就Neng放心把文字显示出来。

想象一下你在聊天窗口kan到一句话，却不知道它到底是哪来的。

Ru果没有签名，黑客Ke以直接拦截并 token，让 UI 显示恶意内容。

有了签名，只有持有私钥的服务器才Neng生成合法 token，前端一比对就知道有没有被玩坏。

创建 → 加签 → 推送 → 消费 → 丢弃

创建的时候就绑定了会话 ID，这样每条流douNeng唯一定位。

SSE 链接一旦建立，就会把对应会话的 channel 挂到全局 map 里用 s.mu.Lock/s.mu.Unlock 保证线程安全。

SSE 客户端掉线后会自动重连，这时候我们会检查之前的 channel 是否还活着，Ru果Yi经关闭就重新建一个新的通道继续推送。

1）缓冲区大小设为 64 或者 128，这样即使网络卡顿也不会导致 LLM 那边卡死——我们只丢非关键事件，关键事件一定要强制投进去，否则用户根本不知道对话结束了。

2）每条 SSE 数据行必须以两个换行符，否则浏览器会一直等着下一行呢！

咱们这里用的是对称加密，因为速度快且实现简单。

密钥保存在环境变量或者专门的 secret manager 中，绝不Neng硬编码在代码里——不然一泄露全网douNeng伪造 token，那可就闹大事了。

SSE 本身是基于 HTTP/1.1 长连接实现的，没有 TLS 的话信息dou是明文传输，所以务必开启 HTTPS，加上 HSTS 防止降级攻击。

AWS ALB 默认会在超过一定时间没有数据发送后关闭连接，要记得在服务端定期发个心跳，保持连接活跃。

# 为什么百度不收录我的技术博客？

A) 内容太新。搜索引擎爬虫geng新频率有限，新发布的页面可Neng需要几天甚至几周才被抓取到。

B) 缺少外链。没有其他站点指向你的文章，搜索引擎觉得它不够重要，自然就不急着收录啦。 C) robots.txt 配置错误。Ru果误把整个站点屏蔽掉了那爬虫根本进不来。检查一下是否有 User-agent: * .
.

- Ru果你的页面全部靠 JavaScript 动态渲染，而没有提供 SSR或预渲染版本，那么爬虫可Neng只Nengkan到空白页，从而放弃收录。解决办法是加一个静态快照或者使用 控制抓取行为。<\P> SSE 与 WebSocket 的对比小插曲

- SSE 天生单向，只Neng从服务端往客户端推；WebSocket 双向，可实现实时聊天、游戏等复杂交互场景。
- SSE 基于 HTTP/1.1，不需要额外握手；WebSocket 要升级协议，占用一次握手开销。
- Ru果你只是想把 LLM 的回答一点点打出来用 SSE 完全够用了而且实现geng省事儿。

// 注册 SSE
func  Register <-chan Event {
    ch := make
    s.mu.Lock
    s.subs = ch
    s.mu.Unlock
    return ch
}
// 推送事件
func  Emit {
    s.mu.RLock
    ch, ok := s.subs
    s.mu.RUnlock
    if !ok { return }
    // 关键事件必须投递成功
    if ev.Type == "done" || ev.Type == "error" {
        select {
        case ch <- ev:
        case <-ctx.Done:
            // 超时丢弃
        }
        return
    }
    // 非关键事件缓冲满直接丢
    select {
    case ch <- ev:
    default:
        // log warning
    }
}

SSE 客户端如何消费 Token？

- 前端代码hen简洁，一句 , 然后监听 'message'. 每次收到的数据dou是 JSON 包装好的 token 信息。
- 把 JSON parse 后取出 .text, 拼接到 textarea 或者 div 中去显示。
- 当收到 type 为 'done' 时就关闭 EventSource，这样Ke以释放资源。