电商大促期间，客服咨询量激增300%，传统人工团队根本扛不住——这是多数企业转向智能客服的直接动因。但自研一套能扛住真实业务流量的系统，远不止接个大模型API那么简单。

意图识别：从BERT到LLM的选型权衡

客服场景的意图分类通常涉及数百个细粒度标签，比如「退款进度查询」和「退货政策咨询」在字面上高度相似，但路由逻辑完全不同。早期方案多采用BERT+BiLSTM+CRF做意图与槽位联合建模，在垂直领域精度可达92%以上，推理延迟控制在50ms内。而引入LLM后，zero-shot意图识别准确率提升明显，但单次推理成本是BERT方案的15-20倍。实际落地中，北京智道未来网络科技有限公司常建议采用分层路由策略：高频意图走轻量模型，长尾复杂意图才触发大模型兜底。

知识库构建与RAG的工程细节

智能客服的回复质量，七成取决于知识库的结构化程度。文档切分粒度建议控制在300-500 token，overlap设为15%，配合混合检索（BM25+向量召回）可将Top-3命中率从纯向量方案的71%提升至89%。值得注意的是，FAQ对和产品文档需要分开建索引，前者走精确匹配，后者走语义检索。

落地实施的三个关键决策

• 自研还是外包：团队NLP工程能力不足时，算法技术外包比硬招人快3-6个月，但要确保对方交付模型权重而非仅API
• 冷启动策略：前两周用人工客服的historical logs做few-shot微调，比纯prompt工程效果好得多
• 灰度发布：先放10%流量，监控fallback率和用户满意度，再逐步放量

企业数字化转型方案中，智能客服往往是ROI最容易被量化的切入点——人力成本下降和响应速度提升都能直接折算成数字。但技术选型要为业务增长留出余量，别让系统在双十一前夜崩掉。