sayzardAkshay (@akshay_pachaar)
Plano는 오픈소스 AI 프록시로, Arch-Router-1.5B로 구동되어 프롬프트 복잡도에 따라 자동으로 적절한 모델로 라우팅하고 오케스트레이션, 가드레일, 관측 기능을 제공한다고 소개합니다. 게시자는 LLM 비용을 50% 절감 가능하다고 주장하며 GitHub(https://github.com/katanemo/plano)에 소스와 배포 정보를 공개했습니다.
Akshay (@akshay_pachaar)
Plano는 오픈소스 AI 프록시로, Arch-Router-1.5B로 구동되어 프롬프트 복잡도에 따라 자동으로 적절한 모델로 라우팅하고 오케스트레이션, 가드레일, 관측 기능을 제공한다고 소개합니다. 게시자는 LLM 비용을 50% 절감 가능하다고 주장하며 GitHub(https://github.com/katanemo/plano)에 소스와 배포 정보를 공개했습니다.