LLM Gate

人工智能 其他 案例ID:251589
Shevo
14 年经验· Shevo
微信扫码沟通,客服可协助直接对接工程师;如当前档期不合,也可继续推荐相似案例作者。

案例介绍

在日常agent使用底座LLM时,基本LLM的api key和base url都是配在agent的运行时中的,一旦当前LLM的链路发生故障,切换其他链路会很困扰。此工程既是为了解决此问题,可以在agent的配置不改变的情况下,通过网关后台管理页面快速切换到其他路由。

LLM Gate

人工智能 · 其他 案例ID:251589
联系该工程师
微信扫码,建群沟通
作者: Shevo - 14年经验- Shevo

案例介绍

在日常agent使用底座LLM时,基本LLM的api key和base url都是配在agent的运行时中的,一旦当前LLM的链路发生故障,切换其他链路会很困扰。此工程既是为了解决此问题,可以在agent的配置不改变的情况下,通过网关后台管理页面快速切换到其他路由。

相似案例推荐

发布任务

企业点击发布任务,工程师会在任务下报名,招聘专员也会在 1 小时内与您联系确认。

1小时精推人才

需求方专属客服,免费梳理匹配

需求方客服微信二维码
扫码加微信 · 客服人工对接
更多案例
微信沟通 客服 看中这位工程师了?客服帮你 1 小时对接沟通 → ×