sayzardAkshay (@akshay_pachaar)
AI 엔지니어를 위한 핵심 실무 주제를 정리한 트윗입니다. 하니스 엔지니어링, 프롬프트 캐싱과 시맨틱 캐싱의 차이, KV 캐시 관리, speculative decoding과 양자화 비교, 구조화된 출력 실패 대응, LLM-as-judge와 휴먼 평가 등 개발자에게 중요한 기술 포인트를 소개합니다.
Akshay 🚀 (@akshay_pachaar) on X
As an AI Engineer. Please learn: - Harness engineering, not just prompt engineering - Prompt caching vs. semantic caching tradeoffs - KV cache management at scale - Speculative decoding vs quantization - Structured output failures & fallback chains - Evals (LLM-as-judge + human