AISatoshi (@AiXsatoshi)

외부 노트북에서 자택의 LMstudio에 원격으로 연결해 gpt-oss-120b 모델을 구동한 결과 초당 200토큰 이상 처리 가능한 성능을 확인했다는 실사용 보고입니다. 원격 접속 환경에서 높은 토크나이즈 처리량을 달성한 사례로, LMlink를 통한 원격 추론·개발 워크플로 우수성을 시사합니다.

https://x.com/AiXsatoshi/status/2028010987077702013

#lmstudio #gptoss120b #lmlink #inference

AI✖️Satoshi⏩️ (@AiXsatoshi) on X

外出先ノーパソから、自宅のLMstudioにつないで、gpt-oss-120b、200token/s以上が可能に!良いなあ #LMlink

X (formerly Twitter)