博客/产品

新模型上线公告:首日可用,并附带可直接试跑的路由预设

模型发布很快,但团队真正用起来通常很慢。我们想做的不是在目录里放一个 logo,而是在首日就给出可以直接测试和回退的可用路线。

产品

编者导读

这次到底上线了什么、怎么接、以及我们建议先用哪几条预设路线试跑,而不是让团队自己从零拼接。

这篇文章的价值

不用重做接入,也能快速试跑新模型。

从界面预设直接试,或者把流量先挂到可随时回滚的路由上。

Abstract blue light visual representing a model launch
Launch Team

这次到底上线了什么、怎么接、以及我们建议先用哪几条预设路线试跑,而不是让团队自己从零拼接。

这次上线了什么

  • 通过统一网关直接调用新模型
  • 附带质量优先、速度优先和成本敏感三条试跑预设
  • 使用日志和计费继续落在同一套控制面里

为什么这件事重要

只有当团队能在真实流量里比较新旧模型、看见成本变化、并且可以平滑回退时,一个新模型才算真正可用。

产品动态

不用重做接入,也能快速试跑新模型。

从界面预设直接试,或者把流量先挂到可随时回滚的路由上。