推理类型 · 第 11 题,共 12 题
一家保险公司提供一个内部审核工具,每天只使用几次。每个请求都很小,一两秒内得到答复即可,且成本应尽可能低。哪个选项最合适?
有 1 个正确答案。 困难 由 AI 生成
显示答案
答案
- A Serverless inference
解析
在请求少且小的情况下,持续运行的端点大部分时间处于空闲,却仍会产生费用。Serverless inference 在空闲时缩容至零,只按实际处理时间计费。这里可以接受偶尔的冷启动,因为一秒的延迟是可以容忍的。
推理类型 · 第 11 题,共 12 题
有 1 个正确答案。 困难 由 AI 生成
在请求少且小的情况下,持续运行的端点大部分时间处于空闲,却仍会产生费用。Serverless inference 在空闲时缩容至零,只按实际处理时间计费。这里可以接受偶尔的冷启动,因为一秒的延迟是可以容忍的。