LLMs are breaking 20 year old system design
기존 20년 된 클라우드 네이티브 아키텍처는 데이터베이스에 상태를 두고 컴퓨트는 무상태라는 가정에 기반한다. 하지만 LLM과 에이전트는 장시간 실행, 상태 유지, 양방향 상호작용을 요구하며 이 가정을 깨고 있다. 현재 Durable Execution(Temporal 등)이 실행 내구성을 제공하지만, HTTP와 로드밸런서 기반의 무상태 서버는 특정 프로세스에 라우팅할 수 없어 폴링에 의존하는 한계가 있다. 해결책으로는 pub/sub 채널을 통한 내구성 있는 라우팅 프리미티브가 필요하며, 이는 LLM의 비결정적이고 비용이 큰 특성 때문에 더욱 중요해졌다.
https://zknill.io/posts/llms-are-breaking-20-year-old-system-design/




