手写一个信息获取 MCP Server:fluxio-mcp 从零到开源
从零手写一个基于 FastMCP 的信息获取 MCP Server:RSS 解析、网页转 Markdown、免 Key 搜索,让 Claude/Cursor 等 Agent 直接读取任意信息源。含架构设计、踩坑记录、三层验证体系与接入教程。
从零手写一个基于 FastMCP 的信息获取 MCP Server:RSS 解析、网页转 Markdown、免 Key 搜索,让 Claude/Cursor 等 Agent 直接读取任意信息源。含架构设计、踩坑记录、三层验证体系与接入教程。
SSE 不是’把响应流转发’那么简单:心跳、断线重连、背压、取消传播、事件协议。从 Go 代理到客户端渲染,LLM 流式响应的完整工程实践。
首字延迟(TTFT)是 AI 产品体验的生死线。Prompt 缓存把重复的系统提示词命中缓存,预填充让模型先想好再开口——TTFT 从 3 秒压到 500ms 的工程实践。
模型准不准,不能靠感觉。离线评测(评测集+指标)、在线评测(A/B+埋点)、业务指标(转化率)——三层 AI 评测体系,让每次优化都有数据背书。
同样的问题问三遍,token 烧三遍?语义缓存:把相似问题映射到同一答案,命中率 30% 就能省下三成成本、降低一半延迟。实现、阈值、场景边界全解析。
LLM 应用是个黑盒:为什么回答变差了?为什么 token 花了这么多?Prompt 追踪、成本审计、质量评估、A/B 实验——AI 应用的可观测体系搭建。
幻觉是 LLM 的’天性’,治理是系统工程:Prompt 约束、RAG 兜底、引用强制、评测闭环。把 AI 面试的越级率打到 0% 的幻觉治理体系完整复盘。