They show you how much they used, but not what it costs them. FREE
But...You… you will have to pay.
rip electricity and water.
https://xcancel.com/i/status/2055346265869721905
#AI #CodexOpenAI #OpenAI #TokenEfficiency #TokenSpending #TokenMaxing #Sustainability
Id-agent – Token efficient UUID alternative for AI agents
https://github.com/vostride/id-agent
#HackerNews #IdAgent #UUID #AI #agents #TokenEfficiency #OpenSource
🧵 (2/2) Forked the project closest to the vision and dived into coding: hybrid search, incremental builds, better relevance scores, source-vs-test prioritisation. It already cuts through a lot of noise grep subjects you too.
The pencilled roadmap is Agents → Knowledge Base → Advanced memory → Dream Machines…
#RAG #KnowledgeGraph #LocalFirst #AgenticMemory #TokenEfficiency #AI
Universal Claude.md – cut Claude output tokens by 63%
https://github.com/drona23/claude-token-efficient
#HackerNews #UniversalClaude #ClaudeOutputTokens #TokenEfficiency #AIResearch #HackerNews
One CLAUDE.md file. Keeps Claude responses terse. Reduces output verbosity on heavy workflows. Drop-in, no code changes. - drona23/claude-token-efficient
ISON: Tiết kiệm 70% token so với JSON, tối ưu cho LLM. Dữ liệu rõ ràng, dễ đọc, không cần hướng dẫn thêm. Hỗ trợ table, object, liên kết dòng, không cần escaping. Chính thức hỗ trợ Python, TypeScript, Rust, Go, VS Code. Mở rộng: ISONL (dữ liệu lớn), ISONantic (xác thực). Lý tưởng cho hệ thống nhớ của agent AI. #ISOL #LLM #JSON #AI #TokenEfficiency #MáyHọc #TríTuệNhânTạo
https://www.reddit.com/r/LocalLLaMA/comments/1q19nel/ison_70_fewer_tokens_than_json_built_for_llm/
Ra mắt CompText, một hệ sinh thái mã nguồn mở giúp giảm đáng kể lượng token sử dụng cho các mô hình ngôn ngữ lớn (LLM) cục bộ và đám mây. Sử dụng DSL để định nghĩa và gọi lại các lệnh bằng mã ngắn, giúp tiết kiệm VRAM, tăng tốc độ suy luận và mở rộng cửa sổ ngữ cảnh. Hỗ trợ nhiều nền tảng, mã nguồn mở MIT.
#CompText #LLM #MãNguồnMở #TiếtKiệmToken #TríTuệNhânTạo #OpenSource #TokenEfficiency #AI
Can you save on LLM tokens using images instead of text?
https://pagewatch.ai/blog/post/llm-text-as-image-tokens/
#HackerNews #LLMtokens #Images #Saving #TextOptimization #TokenEfficiency
TONL là định dạng dữ liệu mới, hứa hẹn giảm tới 50% token so với JSON, tối ưu cho kỷ nguyên AI/LLM. Được Ersin Koç phát triển, TONL giúp tiết kiệm chi phí và tăng hiệu quả xử lý dữ liệu cho các mô hình ngôn ngữ lớn. Dễ đọc, hỗ trợ schema và khả năng truy vấn. Mới ra mắt nhưng rất đáng để tìm hiểu!
#TONL #DataFormat #AI #LLM #TokenEfficiency
#ĐịnhDạngDữLiệu #TríTuệNhânTạo #TiếtKiệmToken
Bài viết đánh giá các thuật ngữ Chain of Thought (COT) phổ biến mà các mô hình ngôn ngữ lớn (LLM) sử dụng như "Zeroing", "Synthesizing", "Hmm", "Confidence Score" và "Alternatively". Mỗi thuật ngữ được chấm điểm dựa trên hiệu quả, mức độ khó chịu và số lượng token. Nhược điểm lớn nhất là việc sử dụng các thuật ngữ này có thể làm tăng đáng kể số lượng token, dẫn đến chi phí API cao hơn.
#LLM #ChainOfThought #AITerms #TokenEfficiency #DeepLearning #AI #MôHìnhNgônNgữ #HiệuSuấtAI
https://www.reddit
🚀 Stop guessing. Start simulating.
Most AI teams waste thousands on GPU provisioning because they don’t forecast.
Discover how Token Per Dollar (TPD) is transforming LLM infrastructure planning—cutting costs by 40% and boosting output by 2.6x 💡⚙️
💥 This is not just about hardware—it's about foresight.
#GPUforecasting #AIinfrastructure #TokenEfficiency #GenAI
https://medium.com/@rogt.x1997/youre-wasting-tokens-why-most-ai-teams-fail-at-gpu-forecasting-2b8f8c56ebe3
github.com/ghostwriter
Hacker News
algodesigner
Reddit Tech VN Bot