M10 练习
← 返回章节局部优化到端到端
排队3000ms、准备1000ms、模型5000ms、工具2000ms,全部串行。准备降为200ms后总耗时和降幅是多少?
提示
- 分母是原总时间。
查看参考解与自评
质量与成本选择
A成功80/100,总费用40;B成功90/100,总费用54。算单位成功成本,并说明是否能单凭它选A。
提示
- 业务可能有最低完成率约束。
查看参考解与自评
共享准备摊销
共享准备P=5000ms,每任务私有开销e=20ms,复用N=100次。平均准备成本多少?N=1呢?
提示
- 使用P/N+e,并单独考虑闲置资源。
查看参考解与自评
缓存跨租户
缓存键只含order_id,同号订单存在于不同商店。命中率提高且模型调用减少,为什么必须回滚?
提示
- 正确性和隐私是硬约束。
查看参考解与自评
同时改四个因素
一次实验换模型、Prompt、检索器和预算,成功率升高。你能得出什么,不能得出什么?
提示
- 整体系统比较与机制归因不同。
查看参考解与自评
预取的业务边界
为了快,Agent在确认用户身份前预取全部订单,甚至提前提交退款再等审批。分别有什么问题?
提示
- 读也可能有隐私与计费,写通常不可逆。