Один timestamp, один round-robin, один плавающий список tools: 7 анти-паттернов, которые убивают префикс кэша LLM

Кэширование включено, а cached_tokens всё равно не растут? Часто проблема не в модели и не в провайдере. Hit rate обычно режут совсем другие вещи: timestamp в начале запроса, плавающий порядок tools, разные реплики, RAG с нестабильным порядком чанков и слишком короткая жизнь KV-кэша. В статье разбираю 7 типовых анти-паттернов, которые убивают prefix_cache_hit в проде.

https://habr.com/ru/companies/bitrix/articles/1016734/

#prefix_cache #искусственный_интеллект #vllm #openai #anthropic #maas #selfhosted #promptengineering #contextengineering #agents

Один timestamp, один round-robin, один плавающий список tools: 7 анти-паттернов, которые убивают префикс кэша LLM

Кэширование включено, а cached_tokens всё равно не растут? Часто проблема не в модели и не в провайдере. Hit rate обычно режут совсем другие вещи: timestamp в начале запроса, плавающий порядок tools, разные реплики, RAG с нестабильным порядком чанков и слишком короткая жизнь KV-кэша. В статье разбираю 7 типовых анти-паттернов, которые убивают prefix_cache_hit в проде.

https://habr.com/ru/companies/bitrix/articles/1016732/

#prefix_cache #искусственный_интеллект #vllm #openai #anthropic #maas #selfhosted #promptengineering #contextengineering #agents

Do you want your #Ai engine to "Be better"? Mitigate #AiSycophancy ?

Try this a pre-prompt, standing directive.

"Do not validate my framing before examining it. If my premise has a weak point, lead with that. If I'm asking a question that contains an assumption, interrogate the assumption before answering. Do not summarise my position back to me approvingly. When I ask for analysis, include at minimum one credible counterargument I haven't considered. If you catch yourself producing a satisfying-sounding paragraph that doesn't actually advance the argument, flag it. Say 'I'm pattern-matching here, not reasoning' when that's what's happening."

#PromptEngineering #Psychology #AiResearch Less #AiSlop #Prompt #LLM

Spannende Erkenntnis: Die besten Ergebnisse mit KI-Tools bekommt man nicht durch bessere Modelle, sondern durch bessere Fragen. Prompt Engineering ist im Kern eine Übung in klarem Denken. Wer präzise formulieren kann, was er will, braucht manchmal gar keine KI mehr.

#KI #PromptEngineering #Technologie #Denken

el.cine (@EHuanglu)

AI 프롬프트를 활용하면 몇 분 만에 10만 달러 규모의 VFX를 생성할 수 있다고 주장하며, 효과 생성용 프롬프트 구조를 공개했다. 생성형 AI가 영상 제작 비용과 시간을 크게 낮출 수 있다는 점을 강조한 콘텐츠다.

https://x.com/EHuanglu/status/2037458518287278524

#promptengineering #vfx #generativeai #aivideo #contentcreation

🍮 Wissen zum Nachtisch: 🍨

Immer mehr Menschen sehen sich im beruflichen Umfeld genötigt, mit generativer #KI zu arbeiten.

Besonders Großunternehmen „überrollen“ damit ihre #Mitarbeiter. Es wird eine Art #Wettbewerbsdruck unter #Kollegen aufgebaut.

Hier meine #Buchempfehlung für alle, die in generative #Chatbots wie #ChatGPT schnell einsteigen möchten oder müssen. 🙄

https://www.oekologisch-unterwegs.de/buchempfehlungen/1151-generative-ki-fuer-einsteiger-praxisnahe-prompts-fuer-privat-und-beruf-einfach-erklaert.html

#Büroalltag #Buchtipp #Nachhilfe #Bewerbung #SEO #Bewerbung #PromptEngineering #Prompten

A growing focus in AI education is shifting toward 'master prompting' as a core skill for effective classroom use. The shift moves beyond basic tool use and centres on how questions are structured to shape meaningful outputs. For schools, this means explicitly teaching both educators and students how to craft precise prompts aligned to learning outcomes. The quality of the answer has always depended on the quality of the question, even more so when the response comes from a machine.

#AIEducation #AIinSchools #PromptEngineering #EdTech #Teaching

0xMarioNawfal (@RoundtableSpace)

에이전트의 토큰 사용량을 줄이기 위한 프롬프트가 공유되었다. 목표는 출력 품질과 기능을 유지하면서 토큰 사용과 비용을 최소화하는 시스템을 구현하는 것으로, 토큰 사용 가시화와 최적화 절차를 포함한다.

https://x.com/RoundtableSpace/status/2036408939126907066

#promptengineering #tokenization #costoptimization #aiagent