AISatoshi (@AiXsatoshi)

Qwen3.5-4B-Q4을 TR7975 CPU에서 추론했을 때 약 15 token/s를 기록했다고 보고. 특히 4B-4bit 구성의 SLM으로 테트리스 테스트를 통과한 점에 대해 놀라움을 표함.

https://x.com/AiXsatoshi/status/2028496680862224649

#qwen #cpu #tr7975 #slm #inference

AI✖️Satoshi⏩️ (@AiXsatoshi) on X

Qwen3.5-4B-Q4 CPU(TR7975)推論で15tok/sだった それより、4B-4bitのSLMでテトリステストクリアしたことに驚く

X (formerly Twitter)