阿里云百炼 TPM 预留专属 model code 如何使用？溢出策略怎么选？
阿里云百炼TPM预留是什么？英文名Tokens Per Minute，TPM预留用于为指定模型锁定专属的推理吞吐量，确保在业务高峰期调用时不受公共资源共享池的限流影响，详细参考阿里云百炼AI模型官网平台：https://www.aliyun.com/product/bailian如下图：
TPM预留具有以下特性：
容量保障：预留的TPM容量为用户业务专属，不与其他用户共享，实现刚性兑付。专属模型code：创建TPM预留后，系统会自动生成一个专属模型code，用户需将API请求中的model 参数替换为此code才能使用预留容量。溢出策略可选：默认为“自动溢出至按量计费”，超出预留部分继续服务，按标准按量计费；或选择“仅使用预留容量”，超出后返回HTTP 429错误，不产生额外费用。在阿里云CLUB中心免费领取优惠券。该方案适用于流量可预估、且不能接受因公共限流导致服务中断的生产场景。如果还需要延伸了解阿里云百炼TPM预留的说明，请移步到百炼官网查看：https://www.aliyun.com/product/bailian
相关资讯
-
09.22
币安 Android APK 怎么下载？安装前的安全检查清单
-
09.22
币安官网下载在哪里？手机端和电脑端安装方法
-
09.22
币安 iOS 怎么下载？App Store 搜索与安装指南
-
09.22
币安 App 官方下载指南：Android、iOS 与桌面端入口
-
09.22
NHibernate 3 Lambda 配置实体二级缓存教程
-
09.21
LINQ 筛选、排序、分组与联接完整示例
游戏推荐
推荐专题
热门阅读
推荐下载
-
-
下载
- |
-
-
下载
- 《行尸走肉第一章》免安装中文汉化硬盘版下载
- 单机|436 MB
- 一款以动作冒险为主题的游戏
-
-
下载
- 《街头霸王X铁拳》免安装中文汉化硬盘版下载
- 单机|111MB
- 一款非常好玩的格斗游戏
-
-
下载
- |
-
-
下载
- 《暗黑破坏神3》免安装繁体中文正式版下载
- 单机|7630 MB
- 一款以角色扮演为主题的游戏
-
-
下载
- 《马克思佩恩3》免安装硬盘版下载
- 单机|27033 MB
- 一款以第三人称射击为主题的游戏