Adapting #OpenTelemetry for #observability of #GenAI apps is a natural step.
And the #OpenLLMetry project seems to lead the charge, and gains much interest.

Check out this month's @openobserv episode with the creator Nir Gazit, CEO & founder at Traceloop:
https://horovits.medium.com/opentelemetry-for-genai-and-the-openllmetry-project-81b9cea6a771

One last Dispatch from ##SplunkConf25... #openLLMetry #opentelemetry #o11y

https://www.techtarget.com/searchitoperations/news/366630874/Splunk-preps-OpenLLMetry-tie-ins-for-deeper-AI-monitoring

Построение надёжных систем из ненадёжных агентов

Большие языковые модели можно применять для разных практических целей. Одно из самых интересных направлений — это автономные AI-агенты. Если сгенерировать большое количество агентов по заданному запросу и заставить их конкурировать друг с другом, то теоретически можно получить оптимальный результат по данной проблеме. Это можно использовать и в информационной безопасности, и в других сферах программной разработки. Кроме того, можно создавать агентов, то есть софт, который самостоятельно эволюционирует и улучшает себя на базе обратной связи от пользователей.

https://habr.com/ru/companies/globalsign/articles/822169/

#агенты #overkiLLM #ollama #LLM #DAG #DAGWorks #Burr #AIагенты #надёжность #Retrieval_Augmented_Generation #RAG #Instructor #prompt_engineering #openllmetry #openinference #OpenTelemetry #pgvector #RAGatouille