金のニワトリ (@gosrum)

로컬 VLM(비주얼 언어 모델)은 Mac이 아니라 NVIDIA GPU에서 추론하면 실시간 처리가 가능할 것 같다는 개인 실험 기록입니다. 이를 확인하려고 Ubuntu(Linux)에서 Claude Code를 사용해 앱을 재현해봤지만 Wayland 환경에서 구현이 어려웠다는 경험을 공유하고 있습니다.

https://x.com/gosrum/status/2028426240470999164

#vlm #nvidia #claude #ubuntu #wayland

金のニワトリ (@gosrum) on X

ローカルVLMはMacじゃなくてNVIDIA GPUで推論すればリアルタイムでいけるんじゃないかと思っている それを試すために、Linux(Ubuntu)でこのアプリを再現するべくClaude Code使って試してたけど、やはりWaylandだと難しそう

X (formerly Twitter)