09｜用户体验：JSON数据的流式传输
月影
你好，我是月影。
在前面的内容里，我们讨论了一些让大模型高质量输出内容的方法。其中让大模型输出 JSON 格式的数据，是一个非常有效且方便的方法。
但是，当我们要进一步改善用户体验，希望通过流式传输减少等待时间时，就会发现 JSON 数据格式本身存在一个问题。
对于从事前端行业的你来说，JSON 应该并不陌生，它是一种封闭的数据结构，通常以左花括号“{”开头，右花括号“}”结尾。
封闭的数据结构，意味着一般情况下，前端对 JSON 的解析必须等待 JSON 数据全部传输完成，否则会因为 JSON 数据不完整而导致解析报错。
这就导致一个问题，即使我们在前端用流式获取 JSON 数据，我们也得等待 JSON 完成后才能解析数据并更新 UI，这就让原本流式数据快速响应的特性失效了。
那么有没有办法解决这个问题呢？
JSON 的流式解析
办法是有的。
为了解决这个问题，有些人主张规范大模型的输出，比如采取 NDJSON（Newline-Delimited JSON）的方式，要求大模型输出的内容分为多行，每一行是一个独立的 JSON。但是这么做对大模型的输出进行了限制，不够灵活，而且很可能会影响大模型推理的准确性，有点得不偿失。
另外一些人则使用 JSONStream 库，根据大模型输出的 JSON 配合 JSONStream 使用，这样能一定程度上解决问题，但是也不够通用，必须要事先针对大模型输出的特定结构进行处理，而且只能在 Server 端进行处理，没法直接在前端使用。
公开
同步至部落
取消
完成
0/2000
荧光笔
直线
曲线笔记
复制
AI
- 深入了解
- 翻译
- 解释
- 总结
1. JSON数据格式在前端应用中存在解析等待时间过长的问题，影响用户体验。 2. 解决JSON数据流式传输问题的方法包括采用NDJSON格式、使用JSONStream库，以及自行实现动态解析JSON数据流的parser。 3. 通过自行实现动态解析JSON数据流的parser，可以在前端实现基础的JSON流式解析，提高用户体验。 4. 通过实践学习JSON流式解析的用法，可以在前端项目中应用JSONParser和jsonuri来动态解析数据流，实现流式数据的快速响应和更新UI。 5. 通过JSON流式解析，可以实现在客户端处理不完整的JSON数据，随时更新UI，提高用户体验. 6. 通过两个实战例子，分别学习了如何在客户端和服务端动态解析JSON和实时处理数据流。 7. 结构化JSON数据的流式处理是实现快速实时响应的AI应用非常重要的基础。 8. JSONParser的参数autoFix的作用是什么，需要进行实验验证。 9. 理解data和string-resolve事件的区别，以及为什么在语音合成的时候要在string-resolve事件里处理。 10. 在综合项目实战中，将进一步使用并深入探索JSON流式解析的应用。
仅可试看部分内容，如需阅读全部内容，请付费购买文章所属专栏
《跟月影学前端智能体开发》，新⼈⾸单¥59
《跟月影学前端智能体开发》，新⼈⾸单¥59
立即购买
© 版权归极客邦科技所有，未经许可不得传播售卖。 页面已增加防盗追踪，如有侵权极客邦将依法追究其法律责任。
登录 后留言
精选留言
由作者筛选后的优质留言将会公开显示，欢迎踊跃留言。
收起评论