一些数据使用分块传输,现在脚本虽然支持修改chunked响应,但是它在处理的时候需要等待所有的数据传输完成再交由脚本引擎处理,最后再将所有的响应传输给客户端。
目前一些需求需要支持以流的方式处理响应:
- chunked 传输一般都是较大的响应,等待数据传输完成会感受到明显的卡顿,完全丢弃了分块传输的优势,并对脚本引擎的内存造成较大压力
- chunked 正在被大规模运用于AI响应,我希望利用surge 构建通用的response转换器来兼容不同服务商的数据结构,但目前做不到流式刷新
希望可以做到:
Server ---chunk--> surge(脚本引擎) ---chunk---> Client