一、为什么大模型需要“流式输出”？

想象一下，你向像 MiMo 这样的大语言模型提出了一个复杂的问题，比如“请详细解释量子计算的基本原理”。如果模型需要等待生成完全部的回答文本，再一次性发送给你，你可能需要盯着一个加载圈长达数十秒，用户体验会非常糟糕。

流式输出（Streaming）正是为了解决这个“等待焦虑”而生的关键技术。它的核心思想是：模型每生成一小段文本（可能是一个词、一个句子），就立即通过网络“流”向你的客户端（如网页或App），客户端则实时地将这些文本片段拼接并显示出来。这样一来，用户几乎感觉不到初始延迟，文本如同“流淌”般出现在屏幕上，交互感与实时感极强。这对于聊天机器人、代码生成等实时交互场景至关重要。

二、理解 SSE：服务器向客户端“推送”的利器

要实现服务器到客户端的持续数据推送，我们有多种选择。SSE（Server-Sent Events）是一种基于标准 HTTP 协议 的单向通信技术，专为服务器向客户端实时推送事件而设计。与更知名的 WebSocket 不同，SSE 是单向的（只有服务器能推消息给客户端），但它的实现更简单，并且天然兼容现有的HTTP基础设施（如代理、负载均衡器）。

SSE 的工作流程非常直观：客户端通过普通的 HTTP 请求向服务器发起连接，服务器在响应头中声明内容类型为 text/event-stream。此后，服务器可以保持这个连接打开，并通过它持续发送格式化的文本消息。这些消息遵循一种简单的文本格式，每条消息都以 data: 字段开头，并以两个换行符 \n\n 结尾。这种设计使得它非常适合大模型流式输出这种“服务器讲故事，客户端边听边记”的场景。

三、MiMo 如何通过 API 提供流式输出？

当我们调用 MiMo 的 API 时，通常需要在请求体（JSON）中设置一个关键参数："stream": true。这个参数就是告诉 MiMo 的服务器：“请不要等我把所有内容都想好，而是给我开启一个流式通道，边生成边发给我。”

服务器收到这个请求后，其行为会立即改变。它不再等待整个回答生成完毕后返回一个完整的 JSON 对象，而是开始一个持续的数据发送过程。它返回的 HTTP 响应体格式将不再是标准 JSON，而是遵循 SSE 协议 的文本流。每一个发送过来的数据块都是一个独立的 SSE 事件，其中包含了一小段模型生成的文本。客户端需要持续监听这个连接，并逐个解析这些事件，最终拼接出完整的回答。

关键提示：与普通请求返回一个状态码 200 的完整 JSON 不同，流式请求的连接会保持“打开”状态（HTTP 状态码仍是 200），直到模型生成结束或客户端主动关闭。

四、动手实践：解析 MiMo 的 SSE 数据流

下面用一个 Python 代码示例，来具体看看如何处理 MiMo 返回的 SSE 流。我们将使用 requests 库，因为它对流式响应的支持非常友好。

import requests
import json

# 假设这是MiMo的API端点
api_url = "https://api.mimo.example.com/v1/chat/completions"
headers = {
    "Authorization": "Bearer YOUR_API_KEY",
    "Content-Type": "application/json"
}
data = {
    "model": "mimo-chat",
    "messages": [{"role": "user", "content": "写一个关于AI的短诗"}],
    "stream": True  # 关键：开启流式输出
}

# 发起流式请求，并设置 stream=True 以保持连接
response = requests.post(api_url, headers=headers, json=data, stream=True)

# 检查响应头，确认是SSE格式
if response.headers.get('Content-Type') == 'text/event-stream':
    print("开始接收流式响应：")
    for line in response.iter_lines():
        if line:  # 跳过空行
            decoded_line = line.decode('utf-8')
            # SSE数据以 "data: " 开头，我们需要解析它
            if decoded_line.startswith('data: '):
                # 去掉前缀，得到可能的JSON字符串
                json_str = decoded_line[6:]
                # 流结束时，服务器会发送 "data: [DONE]"
                if json_str.strip() == '[DONE]':
                    print("\n流式输出结束。")
                    break
                # 解析包含一小段文本的JSON
                try:
                    chunk = json.loads(json_str)
                    # 提取模型生成的文本片段
                    delta = chunk.get('choices', [{}])[0].get('delta', {})
                    content = delta.get('content', '')
                    if content:
                        print(content, end='', flush=True)  # 实时打印，不换行
                except json.JSONDecodeError:
                    # 可能遇到非JSON的SSE注释行，可以忽略
                    pass
else:
    print("未收到流式响应，可能请求失败。")

在这段代码中，我们通过 requests.post(..., stream=True) 建立了持久连接。然后通过 iter_lines() 逐行迭代服务器发送过来的原始字节数据。每一行我们都先解码成字符串，然后根据 SSE 协议寻找以 data: 开头的有效载荷。最后，将载荷中的小段文本提取出来，利用 end='' 和 flush=True 参数实现逐字符的“打字机”效果打印。

五、从体验到架构：流式输出的双重优势

流式输出带来的最直接优势是用户体验的飞跃。用户能立即看到反馈，心理上的“等待时间”大大缩短，这被称为感知性能的提升。尤其是在生成长文本或进行复杂推理时，这种即时反馈让产品感觉更智能、更响应。

从技术架构角度看，流式输出也优化了资源利用。对于服务器而言，它可以在生成第一个 token 后就立即开始发送，无需占用大量内存来缓存整个长回答。对于网络带宽，流式传输避免了因一次传输大文件而可能产生的瞬时高峰压力，使得流量更平稳。对于客户端，尤其是内存有限的移动端或嵌入式设备，流式处理意味着可以边接收边渲染或丢弃已处理部分，有效控制内存峰值。

六、使用流式输出时的注意事项与最佳实践

在享受流式输出便利的同时，也需要注意一些实现细节和潜在问题。

最佳实践：始终在客户端维护一个缓冲区来拼接收到的文本片段，并在一个合适的时机（比如收到句号、问号等标点，或一个完整代码块后）再渲染到UI上，这样可以避免在屏幕上闪烁出不完整的单词或代码行，使输出更自然。