CancionesCortasIA (@CancionesChorri)
Zipf 법칙과 인간 언어의 중복성이 임베딩 붕괴를 유발한다면, 기하 구조를 제어할 수 있는 상징적 프로토콜을 설계해 사실, 행동, 논리 구조를 분리한 요인화 표현을 만드는 것이 좋겠다는 아이디어를 제시한다. AI 표현학습과 임베딩 설계에 관한 기술적 제안이다.

CancionesCortasIA (@CancionesChorri) on X
@anirudhbv_ce @OpenAI @GeminiApp @sentra_app “If the collapse comes from Zipf and human-language redundancy, wouldn’t it make sense to design a symbolic protocol for embeddings where geometry is controlled? Something like a factored representation: 🌀 Concept ↗️ Action 🔷 Logical structure





