Mastodawn

Lex Sokolin | Generative Ventures (@LexSokolin)

로컬 추론 장비가 400W 수준으로도 강력해졌다는 관찰입니다. 1년 전에는 데이터센터 랙이 필요했지만, 이제 로컬에서 에이전트를 구동하는 경제성이 크게 개선되어 AI 컴퓨트의 통제 주체와 분배에 관한 많은 가정이 뒤집힐 수 있다는 전망을 제시합니다.

https://x.com/LexSokolin/status/2027060746891264170

#localinference #edgecompute #ai #agents #hardware

Lex Sokolin | Generative Ventures (@LexSokolin) on X

@alexocheema 400W for a capable local inference rig is wild. A year ago you needed a datacenter rack for this. The economics of running agents locally are going to flip a lot of assumptions about who controls AI compute.

X (formerly Twitter)