fluxio-mcp 开源项目封面

手写一个信息获取 MCP Server:fluxio-mcp 从零到开源

从零手写一个基于 FastMCP 的信息获取 MCP Server:RSS 解析、网页转 Markdown、免 Key 搜索,让 Claude/Cursor 等 Agent 直接读取任意信息源。含架构设计、踩坑记录、三层验证体系与接入教程。

September 6, 2026 · 5 min · 2253 words · 林壮 Allen / IYABAO

LLM 流式响应的工程化:从代理到协议

SSE 不是’把响应流转发’那么简单:心跳、断线重连、背压、取消传播、事件协议。从 Go 代理到客户端渲染,LLM 流式响应的完整工程实践。

July 7, 2026 · 4 min · 1927 words · IYABAO

Prompt 缓存与预填充:TTFT 优化的工程实践

首字延迟(TTFT)是 AI 产品体验的生死线。Prompt 缓存把重复的系统提示词命中缓存,预填充让模型先想好再开口——TTFT 从 3 秒压到 500ms 的工程实践。

July 8, 2025 · 4 min · 1725 words · IYABAO

AI 评测体系:从准确率到用户满意度

模型准不准,不能靠感觉。离线评测(评测集+指标)、在线评测(A/B+埋点)、业务指标(转化率)——三层 AI 评测体系,让每次优化都有数据背书。

June 10, 2025 · 4 min · 1714 words · IYABAO

语义缓存:LLM 应用的降本增效利器

同样的问题问三遍,token 烧三遍?语义缓存:把相似问题映射到同一答案,命中率 30% 就能省下三成成本、降低一半延迟。实现、阈值、场景边界全解析。

May 20, 2025 · 4 min · 1636 words · IYABAO

AI 应用可观测:LLM 调用的追踪与评估

LLM 应用是个黑盒:为什么回答变差了?为什么 token 花了这么多?Prompt 追踪、成本审计、质量评估、A/B 实验——AI 应用的可观测体系搭建。

December 4, 2024 · 4 min · 1564 words · IYABAO

LLM 幻觉治理:从 Prompt 到 RAG 到评测

幻觉是 LLM 的’天性’,治理是系统工程:Prompt 约束、RAG 兜底、引用强制、评测闭环。把 AI 面试的越级率打到 0% 的幻觉治理体系完整复盘。

October 9, 2024 · 4 min · 1767 words · IYABAO