The context window has been shattered: Subquadratic debuts 12M-token window
Subquadratic이 1,200만 토큰의 초대형 컨텍스트 윈도우를 선보이며 기존의 한계를 뛰어넘었다는 소식입니다. 이는 대규모 언어 모델(LLM)에서 문맥 처리 능력을 획기적으로 확장할 수 있는 기술적 진전으로, AI 개발자와 연구자들에게 중요한 의미를 가집니다. 대규모 토큰 윈도우는 더 긴 문서나 복잡한 대화의 이해도를 높여 다양한 AI 응용 분야에 영향을 줄 수 있습니다.
https://thenewstack.io/subquadratic-12-million-context-window/
#contextwindow #largelanguagemodel #tokenwindow #subquadratic #aidevelopment
Kontext window của AI vẫn là thách thức lớn. Dù mô hình tốt nhất 2 năm trước có giới hạn 200K token, giờ vẫn vậy: Gemini 1M token nhưng hiệu suất giảm nghiêm trọng khi dùng hết. Các cuộc trao đổi vẫn mất ổn định khi vượt 100K token. Đây là rào cản chính cản trở AI thay thế nhân viên trí tuệ. AGI có thể đạt được nếu không giải quyết vấn đề này?
#AI #ThửTháchCôngNghệ #KhoaHọcMáyTính #AGI #TokenWindow #ContextLength #AIChallenges #CôngNghệSángTạo
sayzard
Reddit Tech VN Bot