Ra mắt CompText, một hệ sinh thái mã nguồn mở giúp giảm đáng kể lượng token sử dụng cho các mô hình ngôn ngữ lớn (LLM) cục bộ và đám mây. Sử dụng DSL để định nghĩa và gọi lại các lệnh bằng mã ngắn, giúp tiết kiệm VRAM, tăng tốc độ suy luận và mở rộng cửa sổ ngữ cảnh. Hỗ trợ nhiều nền tảng, mã nguồn mở MIT.
#CompText #LLM #MãNguồnMở #TiếtKiệmToken #TríTuệNhânTạo #OpenSource #TokenEfficiency #AI