fly51fly (@fly51fly)
Google Research와 뮌헨공대 연구진이 목표 정렬을 위한 강화학습 기법인 Target-Aligned Reinforcement Learning 논문을 공개했습니다. AI 모델의 보상 정렬, 안전성, 학습 안정성 개선에 관련된 연구로 보입니다.
https://x.com/fly51fly/status/2039459102313808325
#reinforcementlearning #alignment #googleresearch #airesearch #machinelearning
Max Kaufmann (@Max_A_Kaufmann)
강화학습(RL) 훈련이 LLM의 CoT(Chain of Thought)를 모호하게 만들 수 있는지 다루며, 훈련 전에 이러한 obfuscation 발생 여부를 예측하는 새로운 프레임워크를 Google DeepMind가 제안했다는 연구 소개다.
Is training against the CoT always bad? RL training can lead to obfuscated CoT making it difficult to 'read an LLMs thoughts'. How can we predict when obfuscation occurs?🤔 Our new @GoogleDeepMind paper introduces a framework to predict this before training starts!
Математическое программирование vs RL: может ли ИИ догнать классику в оптимизации?
С определенным успехом методы математического программирования захватили множество задач автоматизации и оптимизации бизнес процессов (маршрутизация доставки, планирование производства или графиков работы сотрудников, планирование сетей и т.д.). Используемые методы решения и классические постановки задач десятилетиями остаются без серьезных изменений. Когда ждать революцию? Кто имеет потенциал для ее организации? Проведем эксперимент на предмет того, есть ли у RL способности решать оптимизационные задачи. Для исследования возьмем не сложную практическую оптимизационную задачу и оценим как обучение с подкреплением справится. Материал будет полезен как заядлым специалистам по мат.оптимизации, так и ml-инженерам или data scientist’ам. Рассматриваемая задача может быть интересна специалистам из области логистики/транспортных перевозок.
https://habr.com/ru/articles/1013720/
#reinforcementlearning #математическая_оптимизация #математическое_моделирование #бизнеспроцессы #транспортная_задача #обучение_с_подкреплением #double_dqn #машинное_обучение
vitrupo (@vitrupo)
Misha Laskin이 RL이 대규모로 작동하기 시작하면 AI 발전은 결국 경제성 문제로 바뀐다고 언급했습니다. AlphaGo 사례와 함께, 언어모델에서 RL이 가능해지면서 다른 분야로도 확장되며, 질병 치료 같은 문제에 수십억 달러를 투입할 의지가 핵심이 된다는 관점입니다.
Misha Laskin says once RL works at scale, progress becomes an economics problem. AlphaGo kept improving until it wasn’t worth the compute. Now that RL works on language models, the same logic applies elsewhere: “How much are you willing to spend $10B, $100B to cure a disease?”
Hamilton-Jacobi-Bellman Equation: Reinforcement Learning and Diffusion Models
https://dani2442.github.io/posts/continuous-rl/
#HackerNews #HamiltonJacobiBellman #ReinforcementLearning #DiffusionModels #AIResearch #MachineLearning
Cursor (@cursor_ai)
Composer 2의 기술 보고서와 함께 추가 연구 내용을 공개했다. 실시간 RL(real-time reinforcement learning)을 활용해 새 체크포인트를 학습하며, 모델의 개선 버전을 5시간마다 배포할 수 있다고 밝혔다. AI 모델 학습 및 업데이트 속도를 크게 높인 중요한 연구/개발 소식이다.
Rohan Paul (@rohanpaul_ai)
의료 비전-언어 모델에서 강화학습(RL) 후학습은 완전히 새로운 능력을 학습시키기보다 기존 능력을 더 정교하게 다듬고, 출력 분포를 최적화해 효율성을 높이는 역할이 크다는 연구 결과를 제시한다.
https://x.com/rohanpaul_ai/status/2036653802204561594
#reinforcementlearning #medai #visionlanguage #machinelearning #research
This research shows that reinforcement learning (RL) in medical vision-language models mostly sharpens existing skills rather than teaching entirely new ones. Reinforcement learning post-training primarily refines output distributions to improve efficiency, while supervised
sayzard
OxBetan
Habr
Hacker News
Gizchina Ukraine
Ґізчина — Gizchina Ukraine