Show HN: Tokid – Token-native IDs for LLM-facing systems
Tokid는 LLM과 상호작용하는 시스템에서 토큰 비용을 줄이기 위해 설계된 토큰-네이티브 식별자 포맷과 SDK 세트입니다. UUID, ULID 등 기존 ID 체계와 달리, Tokid는 프롬프트 내 토큰 비용 최적화에 중점을 두며, 프롬프트, 전송, 내구성 있는 외부 형태의 세 가지 렌더링 방식을 제공합니다. 주로 에이전트, 워크플로우, 도구 호출 API, 로그 및 디버깅 요약 등 LLM 컨텍스트에 ID가 자주 등장하는 경우에 적합합니다. 현재 JavaScript, Python, Go, Rust, Java/Kotlin, C#용 SDK가 알파 버전으로 공개되어 있으며, OpenAI 기반 프로필을 지원합니다.
fly51fly (@fly51fly)
대규모 언어모델의 추론 효율을 높이기 위한 토큰 효율적 추론 연구입니다. 규제된 프롬프트 최적화를 통해 적은 토큰으로 더 나은 reasoning을 목표로 하며, LLM 비용 절감과 성능 최적화에 유용한 접근입니다.
https://x.com/fly51fly/status/2045253866334343298
#llm #promptoptimization #tokenefficiency #reasoning #research
fly51fly (@fly51fly)
생물학적 탐색 기법을 활용해 고전 중국어 기반의 jailbreak 프롬프트를 최적화하는 연구입니다. 특이한 언어 환경에서도 LLM 우회 공격이 가능함을 보여주며, 프롬프트 보안과 안전성 평가에 중요한 의미가 있습니다.
https://x.com/fly51fly/status/2038024453985288584
#jailbreak #promptoptimization #llmsecurity #research #bioinspired
A deterministic middleware to compress LLM prompts by 50-80%
https://github.com/ARPAHLS/skillware
#HackerNews #deterministicmiddleware #LLMcompression #AItechnology #promptoptimization #skillware
Here’s a solid example prompt:
“Create four responses for a customer angry about late package delivery. Each reply should include 1) a genuine apology 2) a brief reason for the delay 3) two realistic solutions we can offer.”
#AICustomerSupport #DigitalTransformation #BusinessAutomation #CustomerExperience #TechSolutions #PromptOptimization #RefundPolicyAI #EmpatheticAI #ShippingDelaySolutions #CustomerServicePrompts (4/4)
Try this quick test. Use a prompt like Write a client email covering Q3 goals, risks, and deadlines. Run it normally first. Then add Temperature=0.3 before the same prompt. Compare both outputs.
Use low temperature for clear, focused answers. Save high temperature for creative tasks like idea generation. You'll get better results faster.
#AIControl #AIProductivity #NeuralNetworks #PromptOptimization #AITuning #ChatGPTTips #TechTips #CareerAdvice #DigitalTransformation #FutureOfWork (2/2)
Engineer Verbeek discovered a hidden prompt redundancy that was burning tokens and compute. By trimming the system prompt, his team now saves $20 M a year in AI costs. A reminder that even tiny prompt tweaks can slash token usage and boost open‑source efficiency. Read how a simple fix turned into massive savings. #AI #PromptOptimization #ComputeSavings #Verbeek
🔗 https://aidailypost.com/news/engineer-verbeek-saves-usd-20-million-annually-after-mother-flags
Dùng AI tốn bao nhiêu điện, nước và RAM? Thử ngay công cụ "Think Before You Prompt" để ước tính tài nguyên tiêu thụ từ câu hỏi của bạn! Nhập prompt, hệ thống sẽ tính toán dựa trên nghiên cứu khoa học và so sánh với thực tế. Giao diện 3D trực quan, hữu ích cho ai hay nhập văn bản dài vào LLM. Đóng góp ý kiến để cải thiện dự án! #AIEfficiency #GreenAI #PromptOptimization #TríTuệNhânTạo #TiếtKiệmNăngLượng
https://www.reddit.com/r/SideProject/comments/1q5555s/think_before_you_prompt_electricity_wat
Ứng dụng phân tích prompt miễn phí, chạy offline giúp tối ưu hóa việc sử dụng token LLM. Phân tích chất lượng prompt trước khi gọi API, từ chối prompt kém chất lượng để tiết kiệm token. Mã nguồn mở, hoạt động không cần internet. #AIAnalysis #PromptOptimization #OpenSource #VietnameseAI #TốiƯuPrompt #MãNguồnMở
https://www.reddit.com/r/SideProject/comments/1njfxa7/created_a_a_prompttext_analysis_app_that_used/
sayzard
Hacker News
prompt
AI Daily Post
Reddit Tech VN Bot