Spring AI 流式输出与 SSE 实战
AI 总结
一位掘金作者记录了将 Spring AI 接口从 call() 改为 stream() 的过程,涉及 20 行代码、3 处配置和 6 个坑。文章涵盖 SseEmitter、WebFlux、代理缓冲、超时、取消订阅、SSE 分帧解析及 Advisor 失效问题。在作者的一次测试中,两种方式总耗时均为 3.2 秒,但流式输出在 0.4 秒时便显示首个 token。
深度见解
这份实战记录为开发者排查流式响应被缓冲、超时或错误处理拦截等问题提供了具体检查清单。
上一篇《同一个问题写了 4 遍》里,四种接入方式我都跑了一遍,但全都是 call() —— 问完,等,然后一整段话砸下来。
那时候我没觉得有问题。直到我把这个接口给朋友试,他说了一句:
「点了发送之后,它到底是在思考,还是卡死了?」
这句话把我点醒了。用户看不到「正在发生」,就会认为「坏了」。
于是我花了一个周末把 call() 改成 stream()。原以为只是换个方法名,结果是:代码改了 20 行,配置调了 3 处,踩了 6 个坑,其中 2 个在本地完全测不出来。
一、先把「快」这件事拆开
大多数人以为流式是为了「更快」。不是。
#Spring AI#Spring MVC#Spring WebFlux#Server-Sent Events#Nginx#SseEmitter