如何用 Vue 3 实现 LLM 流式对话前端？其实，

一、项目概览

这是一个极简但五脏俱全的 LLM 流式对话 Demo。技术栈如下这方面，

主要功能：使用者在输入框提问。前端通过 fetch 流式模式 实时逐字渲染 AI 回复。

二、为什么 LLM 需要流式输出？

使用者体验的「体感延迟」

一个典型的大模型生成一个 token 大约需要 - 秒。如果采用非流式模式，使用者需要等服务器生成完所有 token 后才能一次性看到完整回复——这 - 秒里使用者面对的是一个空白页面焦虑感可想而知。而流式模式下模型每生成一个或几个 token，就立刻推送到前端。使用者看到文字像打字机一样逐字出现，《强体感延迟从「等秒」变成了「立刻开始看到结果」》。

技术层面的差异

再看非流式模式，使用者请求 → 服务器生成全部 token → 一次性返回 JSON → 前端渲染
至于流式模式。使用者请求 → 服务器边生成边推送 → 前端边接收边渲染
^--- 持续的数据流 ---^