sayzardRaven: Memory as a Set of Slots
Raven은 고정 크기 메모리 모델이 장기 기억 유지에 겪는 문제를 해결하기 위해 슬롯 단위로 상태를 분할하고, 각 슬롯을 독립적으로 선택적 갱신하는 새로운 순환 모델 구조를 제안한다. 기존 SSM은 메모리를 균일하게 감쇠시키고, SWA는 고정 슬롯을 강제로 교체하는 반면, Raven은 학습된 희소 라우터를 통해 어떤 슬롯을 갱신할지 결정하여 중요한 정보를 전용 슬롯에 저장하고 간섭을 최소화한다. 이 접근법은 이론적 한계에 근접하는 상수 메모리 재호출 능력을 가능하게 하며, 후속 연구에서 구체적 아키텍처와 성능 결과가 공개될 예정이다.