AI Radar

#部署工程

全部资讯模型
清除条件
2
The Verge AI11 小时前模型产品发布/更新海外

微软更新 12 英寸 Surface Pro 和 13 英寸 Surface Laptop,搭载骁龙 X2 Plus

微软为 12 英寸 Surface Pro 和 13 英寸 Surface Laptop 换上高通骁龙 X2 Plus 芯片,10 月 13 日开售。12 英寸 Surface Pro 起售价从去年的 799.99 美元涨至 1149.99 美元,13 英寸 Surface Laptop 从 899.99 美元涨至 1199.99 美元,涨价部分源于取消 8GB 基础版,起步内存改为 16GB,最高可选 24GB。微软称六核骁龙 X2 Plus 的 NPU 本地 AI 推理性能提升最高 95%,图形性能提升超 60…

推荐理由本地 AI 推理提速 95%、起售价涨 350 美元,想买 Windows AI PC 的可以先看这份价格与续航账。

DEV Community · AI13 小时前模型技巧与观点海外

实测对比 5 款 LLM 网关:LiteLLM、Kong、Portkey 等

作者对比了 LiteLLM、Kong AI Gateway、Portkey、Bifrost、Apache APISIX 五款 LLM 网关在生产环境下的表现,关注流量管理、延迟、供应商故障和运维控制。LLM 网关位于应用与模型供应商之间,集中处理路由、负载均衡、限流、重试、故障回退、鉴权、日志、token 统计、成本监控、缓存等。文章指出单供应商的简单应用未必需要网关,但多供应商或高流量场景下集中控制价值明显,例如主供应商返回 429 限流时可在网关层统一决定重试、等待还是切换。原文正文不完整,具体对比结论有限。

推荐理由选型前先看这 5 个候选:LiteLLM、Kong、Portkey、Bifrost、APISIX,覆盖路由与限流场景