LLM 流式响应的工程化:从代理到协议

SSE 不是’把响应流转发’那么简单:心跳、断线重连、背压、取消传播、事件协议。从 Go 代理到客户端渲染,LLM 流式响应的完整工程实践。

July 7, 2026 · 4 min · 1927 words · IYABAO

AI 模拟面试智能体架构:Go SSE 流式分发与 Prompt 状态机工程

AI 模拟面试智能体的架构设计,基于 Go SSE 流式分发实现实时对话,用 Prompt 状态机约束面试流程,解决长对话模型失控、流式延迟高、计费闭环等问题。

June 10, 2025 · 4 min · 1581 words · 林壮 Allen / IYABAO

SSE vs WebSocket:AI 流式场景怎么选

AI 对话要打字机效果,选 SSE 还是 WebSocket?从协议机制、代理兼容、断线重连、服务端实现四个维度对比,结论:90% 的 AI 场景选 SSE,剩下 10% 才需要 WebSocket。

January 15, 2025 · 4 min · 1567 words · IYABAO