Sebastian Raschka (@rasbt)

현대 LLM의 다양한 어텐션 변형 기법을 한눈에 볼 수 있는 시각적 가이드가 소개됐다. 최신 대규모 언어모델 아키텍처를 비교·이해하는 데 유용한 자료로, 연구자와 개발자에게 참고 가치가 높다.

https://x.com/rasbt/status/2035700481033482688

#llm #attention #architecture #transformer #ai