经验(Experience)
概览
经验是 adaptation 使用的在线 Router Learning 证据。它在请求路径的进程内维护,并根据有界的结果和遥测数据进行汇总。离线配方学习可以导出 seed-pack 工件,用于冷启动分析和未来的预热流程,但首个公开 API 不提供运行时 seed-pack 导入开关。
主要优势
- 避免在请求路径中进行高开销的聚合。
- 将结果和遥测数据转化为紧凑的读取时证据。
- 为 adaptation 提供类型明确的位置,用于存放学习到的模型选择事实。
- 保持 Router Replay 作为事件日志的事实来源。
解决什么问题?
有些路由证据依赖历史请求,例如模型适配度、过度使用、提供商故障、延迟、缓存复用和实际成本。在处理请求时读取所有事件会过于缓慢。路由器会在内存中更新紧凑的模型经验,并将持久证据写入 Router Replay,供离线分析使用。