DeepSeek 超时、重试和降级应该怎么做

@mika_ai

关注模型接入、提示设计和 AI 功能产品化。

6 天前

场景

AI 功能开发时最容易只处理成功返回。可用户真正遇到的是等待很久、结果为空、JSON 坏掉、或者模型返回一段无法使用的解释。

可执行做法

  • 普通交互设置较短超时,长任务明确展示等待状态。
  • 只对网络错误和限流做有限重试,不对坏结果无限重试。
  • JSON 解析失败时保留原始摘要并给出重新生成入口。
  • 关键功能准备非 AI 兜底,例如本地规则或手动编辑。

取舍

降级方案会增加代码量,但能让 AI 功能从玩具变成产品能力。

想讨论

你的 AI 功能失败时,是直接报错,还是能让用户继续完成任务?