Skip to content

生产接入检查表

以下检查表帮助团队把“能调通”升级为“可运营”,覆盖调用方需要落实的密钥、超时、重试、成本和故障准备。

密钥与环境

  • API Key 只放在受控密钥管理系统或部署环境,不放进前端、仓库、截图、日志或工单正文。
  • 按环境分开创建和轮换 Key,失效、人员变动或泄露迹象出现时立即撤销并替换。
  • 使用运行时 API Base 和环境变量,不把测试地址、模型 ID 或权限假设写死进应用。

超时、并发与重试

  • 分别配置连接、首字节和流空闲超时,超时值要与业务等待体验一致。
  • 给调用链设置客户端并发上限和排队策略,不依赖服务端拒绝来实现背压。
  • 遵循流式响应与重试,部分流和未知结果不做无条件重放。

成本与权益保护

  • 通用余额调用启用并审查每日消费上限。
  • Coding Plan 调用监测套餐有效期、模型范围、并发、五小时与周额度,不能假定不足时会自动改扣余额。
  • 将模型选择、最大输出、请求大小和失败重试计入业务侧成本预算。

日志与可观测性

  • 记录脱敏的请求标识、时间、路径、状态、耗时和重试结果。
  • 不记录 API Key、Authorization/Cookie、完整 prompt、完整输出、用户身份标识或可复原敏感内容。
  • 将本地错误与上游开放错误分开统计,避免把供应商错误码当成本地稳定契约。

模型变化与故障准备

  • 每次调用前或按受控缓存周期读取实时模型目录,目录不可用时不以旧价格或旧可售状态兜底。
  • 为模型不可用、余额或套餐不足、上游异常和超时准备用户可理解的降级动作。
  • 上线前演练一次无 Key 泄露的故障告警、回退和恢复流程,并记录责任人和业务决策。

Token Factory · 国产合规 AI Gateway