1. 项目背景
业务场景
某电商公司的客服团队每天要处理上百条重复性问题：“我的订单到哪了？”“退货流程是什么？”"充值什么时候到账？"客服主管老李发现，80%的咨询都可以用标准话术回答，但客服人员每次都要在知识库里手工搜索，平均响应时间3分钟，高峰期经常排队。
技术经理提出用大模型做智能客服，但有两个约束：第一，数据不能离开公司内网；第二，客服系统是Python写的，需要无缝集成。团队已经在本地部署了Ollama，第5章也学会了用curl和HTTP API调用模型——但每次都要拼JSON、手动处理流式响应太麻烦了。
开发小周说：“给我一个Python封装好的客户端，带重试、超时、流式、错误处理，我直接import就能用。”
痛点
- 裸HTTP调用繁琐：每次调用都要手动构造JSON body、设置headers、解析响应、处理错误码。一个简单的问答功能需要50行代码起跳。
- 流式响应难封装：流式响应的chunk拼接、中断处理、异常恢复需要大量样板代码，且容易出错。
- 缺乏会话管理：多轮对话时需要手动维护消息历史、控制上下文长度、裁剪超出窗口的历史记录。
- 错误场景不全：网络超时、模型不存在、Ollama服务挂了、推理超时——每种错误都需要对应的降级策略，原始代码缺乏统一处理。
一句话总结：把Ollama从"能调的通"升级到"好