编程语言
从「能用」到「好用」:LLM 流式响应实现方式的探索之路
本文记录了在 ASP.NET Core 中实现 LLM 流式响应的完整探索历程。从直接操作 Response 的朴素写法,到引入事件抽象,再到 IAsyncEnumerable 的陷阱与中间件方案的局限,最终通过自定义的 SseResult 实现了优雅、可复用且符合框架哲学的 Server-Sent Events (SSE) 流式输出方案。文章对比了五种实现方式的复杂度与适用场景,为需要集成生成式 AI 流式交互的开发者提供了一条从「能用」到「好用」的清晰路径。