🟢 LLM流量路由代理工具Switchyard是Rust编写的LLM流量代理与库，能把请求路由到不同服务商，互转OpenAI和Anthropic的API格式，还能记录运行指标、提供可组合的路由算法

1. 20小时前

   

   ×

   

   🟢 LLM流量路由代理工具
   
   Switchyard是Rust编写的LLM流量代理与库，能把请求路由到不同服务商，互转OpenAI和Anthropic的API格式，还能记录运行指标、提供可组合的路由算法。
   
   https://github.com/NVIDIA-NeMo/Switchyard
   
   #Switchyard #Rust #LLMProxy #CLI #TGAgent #GitHubTrending