金のニワトリ (@gosrum)

스마트폰에서 llama.cpp를 빌드하는 데 성공했으며, 이를 통해 모바일 환경에서도 벤치마크 평가를 수행할 수 있을 것으로 보입니다. 로컬 LLM 실행 도구의 모바일 빌드 가능성을 보여주는 흥미로운 사례입니다.

https://x.com/gosrum/status/2041349492994462119

#llamacpp #llm #mobile #opensource #benchmark

金のニワトリ (@gosrum) on X

スマホでllama.cppのビルドができた! これでベンチマーク評価もできそう

X (formerly Twitter)