How long is a piece of Inkscape String?

https://friprogramvarusyndikatet.tv/w/vho1syKyMm682Uy7a1u2e7

BssFilter (@sanarsh11)

RULER가 인디 개발자들이 사용하기에 현실적인 수준으로 강화학습(RL)에서 가장 큰 장벽을 제거했다는 짧은 발표. 소규모 팀과 개인 개발자가 RL을 보다 실용적으로 적용할 수 있게 해주는 도구·기술 혁신을 시사하며, 인디 빌더용 RL 도구 생태계에 중요한 진전으로 보임.

https://x.com/sanarsh11/status/2029227106887188605

#reinforcementlearning #rl #ruler #indiedev

Avi Chawla (@_avichawla)

RULER의 핵심 통찰은 절대 점수 부여보다 상대적 스코어링이 더 쉽다는 점입니다. LLM 심판이 각각에 절대 점수를 매기기보다 '궤적 A가 B보다 낫다'처럼 상대 비교를 통해 판단하는 것이 보상 평가에서 더 간단하다는 설명을 담고 있습니다.

https://x.com/_avichawla/status/2016502643032748415

#ruler #rewardmodeling #rl #llm

Sumanth (@Sumanth_077)

튜토리얼을 시도해본 후 RULER(Relative Universal LLM-Elicited Rewards)이 에이전트 행동에 자동으로 보상을 할당해 수작업 보상 설계(핸드크래프트 리워드 엔지니어링)를 제거해 준다는 점을 긍정적으로 평가한 코멘트입니다. RULER 기반 자동 보상 할당의 실사용 경험을 공유합니다.

https://x.com/Sumanth_077/status/2016515340776456276

#ruler #rewardlearning #llm #aiagents

Strictly Overdue

https://spanklit.com/strictly-overdue

Антипаттерн LLM-приложений: когда модель игнорирует контекст. Часть 2

Всем привет! В первой части мы разобрали теорию : почему LLM «забывают» информацию в середине промпта, как на это влияет архитектура внимания и при чём здесь ротационные кодирования (RoPE). Мы выяснили, что эффект Lost in the Middle — это закономерное следствие того, как устроены современные трансформеры и как они обучаются. Но насколько всё плохо на практике? Если разработчик модели заявляет контекстное окно в 128k или даже 1M токенов — можем ли мы на него рассчитывать в реальном продакшене? Во второй части мы переходим от теории к цифрам на бенчмарках. Мы разберём, почему стандартные тесты "иголка в стоге сена" (NIAH) безнадёжно устарели и как новые метрики вроде RULER и NoLiMa показывают реальное «рабочее» окно моделей, которое иногда в 60 раз меньше заявленного. В финале этой статьи я соберу практические архитектурные принципы, которые помогают проектировать LLM-системы так, чтобы длинный контекст действительно повышал качество, а не превращался в источник ошибок.

https://habr.com/ru/articles/972626/

#llm #nlp #ruler #nolima #длинный_контекст #lost_in_the_middle #архитектура_llmприложений #rag

Использование библиотеки spaCy для поиска сущностей в тексте

Снова приветствую всех читателей Хабр. В предыдущей статье был приведен пример создания кода проекта для задачи автоматизации обработки данных, в результате чего получилось подготовить нужную информацию по модели данных ЛОЦМАН: PLM. Эти данные планируется использовать для построения механизмов обработки поисковых запросов пользователей к базе ЛОЦМАН:PLM — в частности, для распознавания сущностей в тексте запроса. Это позволит понимать, на какие объекты модели данных ссылается пользователь: изделия, их параметры, типы документов и так далее. Для решения новой задачи я решил опробовать возможности библиотеки spaCy , в которой сущности можно распознавать на основе заранее заданных паттернов. В ходе экспериментов с библиотекой и её модулями EntityRuler и SpanRuler я столкнулся с рядом особенностей, и в данной статье делюсь накопленным опытом и наработками — надеюсь, они окажутся полезными и для вас.

https://habr.com/ru/articles/976600/

#nlp #spacy #ruler #python