AISatoshi (@AiXsatoshi)

LLM 정확도는 크게 향상됐지만 실제 현업에서 쓰기에는 속도가 아직 부족하다는 의견이다. 대규모 언어모델의 추론 지연과 실사용성 문제가 여전히 핵심 과제임을 지적한다.

https://x.com/AiXsatoshi/status/2044011314822164707

#llm #inference #latency #aiperformance #ai