Mastodawn

dax (@thdxr)

어떤 모델을 소비자용 하드웨어에서 구동하는 데 약 2만 달러가 들었고 성능이 매우 우수하다는 언급이 나왔다. 많은 기업이 개발자당 연간 1만~2만 달러를 클라우드 추론에 지출하고 있다는 점을 들어, AI 인프라 비용 부담과 경제적 전환이 심화되고 있음을 지적한다.

https://x.com/thdxr/status/2016547406247002381

#inferencecost #consumerhardware #cloudinference #infrastructure

dax (@thdxr) on X

this costs $20K and it's on consumer hardware and this model is very very good lot of companies are already spending $10-20k per dev per year on cloud inference can't believe we're here already

X (formerly Twitter)