sayzardLuis Figueroa (@luisefigueroa)
작성자는 새 하드웨어(맥북 프로 M4 맥스 등)에 Exo Labs를 설치해 어떤 모델을 구동할 수 있는지 시험해보겠다고 합니다. 특히 Exo Labs가 작업 중인 KV Streaming 기능을 활용하기를 기대하며 해당 기능의 공개 여부를 묻고 있어, 로컬 실행과 스트리밍 기반 모델 운용에 대한 관심을 드러냅니다.
Luis Figueroa (@luisefigueroa) on X
The long wait.. First thing I’ll do is set up @exolabs on this bad boy and my MacBook Pro M4 Max. Let’s see what what’s is the best model I can run with that set up. Looking forward to taking advantage of the KV Streaming Exo Labs is working on. BTW, Is that out yet?