Show HN: Granite Switch - compose multiple LoRA adapters to one deployable model
Granite Switch는 IBM Research에서 개발한 오픈소스 프로젝트로, 여러 개의 LoRA 어댑터를 하나의 배포 가능한 모델로 합성할 수 있다. 이를 통해 여러 작업에 대해 각각 별도의 모델을 배포하지 않고도 높은 정확도를 유지할 수 있다. 모델 내에서 제어 토큰과 스위치 레이어를 활용해 다양한 어댑터 가중치를 선택적으로 적용하며, Hugging Face와 vLLM과 호환된다. 프로젝트는 사용 가능한 어댑터와 사전 합성된 모델도 함께 제공한다.

https://github.com/generative-computing/granite-switch

#lora #adapter #modelcomposition #huggingface #ibmresearch