Как дообучать LLM на лету с помощью памяти вместо файнтюнинга

Реальные агентные задачи требуют множества шагов, вызова инструментов и гибкой памяти. Исследователи нашли возможность улучшать агента без файнтюнинга весов языковой модели: предлагается хранить удачные и неудачные кейсы и опираться на них при планировании. В итоге получились шикарные метрики на бенчмарках GAIA, SimpleQA и Human Last Exam. Разбираемся, как это работает.

https://habr.com/ru/articles/940824/

#ИИ #агенты #память

Как дообучать LLM на лету с помощью памяти вместо файнтюнинга

Когда мы просим большую языковую модель (LLM) решить сложную задачу, один красивый промт уже не спасает. В реальности это последовательность действий: надо искать, читать, писать код, проверять,...

Хабр

[Перевод] Ленивые вычисления в PHP: как генераторы и итераторы экономят память и ускоряют код

Как обрабатывать миллионы строк в PHP и не убить память? Всё просто: генераторы и итераторы. Покажу, как ленивые вычисления экономят ресурсы, ускоряют код и упрощают работу с большими данными. С примерами, бенчмарками и разбором изнутри.

https://habr.com/ru/articles/939814/

#php #генераторы #итераторы #производительность #память #yield #iterator #ленивые_вычисления #оптимизация #большие_данные

Ленивые вычисления в PHP: как генераторы и итераторы экономят память и ускоряют код

Вы когда-нибудь пытались загрузить в память CSV-файл на миллион строк и увидели что-то вроде: PHP Fatal error: Allowed memory size of 134217728 bytes exhausted Даже если увеличить memory_limit ,...

Хабр

Архитектура сна программиста: как мозг компилирует дневной опыт ночью

Почему мы ложимся спать с багами в голове, а просыпаемся с готовым решением? Сон программиста — это не просто отдых, а своеобразная ночная компиляция опыта, где нейроны оптимизируют код нашей памяти, удаляют мусорные зависимости и иногда даже проводят рефакторинг идей. Попробуем разобраться в архитектуре этого процесса — через аналогии с компиляторами, кешами и garbage collector’ами.

https://habr.com/ru/articles/937944/

#сон #мозг #программист #компиляция #память #garbage_collector #REM #оптимизация #нейронаука #код

Архитектура сна программиста: как мозг компилирует дневной опыт ночью

Почему мы ложимся спать с багами в голове, а просыпаемся с готовым решением? Сон программиста — это не просто отдых, а своеобразная ночная компиляция опыта, где нейроны оптимизируют код нашей памяти,...

Хабр

Лот 184 Аукцион 76-1.

Роскошное иллюстрированное издание "Москва в ее прошлом и настоящем", вып. 9, 1911 г., посвящено памяти И.Е. Забелина. 106 с., 24 илл., 32x24 см, переплет П. Афанасьева. В отличном состоянии, небольшие потертости.

https://ru.bidspirit.com/ui/lotPage/source/search/auction/63486/lot/120280

#Роскошное #иллюстрированное #издание #Москва #прошлое #настоящее #1911г #память #Забелин #страницы

#мозг #сознание #память #болезнь #амнезия #видео

Уникальный случай: композитор и дирижер, подцепил вирус герпеса прямо в моск, и ему разъело гиппокамп.

Полностью сохранил автоматические навыки, умеет играть, пишет, разговаривает, читает короткие фразы. Но из долговременного помнит только жену, сына, если спросить номер автомобиля — ответит, но не помнит марку. Т.е. ориентируется, узнает предметы, даже знает, что заболел. Каждого человека видит впервые. Говорит, что «только что проснулся»...

В общем «живет» в отрезке ~30 секунд. Выглядит это очень странно.

Фильм документальный, но науки там 0, просто показывают его жизнь и встречи с родственниками. Русские субтитры, переведенные из сгенерированных, — вполне норм.

https://www.youtube.com/watch?v=k_P7Y0-wgos

The Man With The Seven Second Memory

The Man With The Seven Second Memory (Amnesia Documentary) The remarkable and poignant story of Clive Wearing, a man with one of the worst cases of amnesia i...

YouTube

DDR6 на горизонте: четыре канала и до 21 000 МТ/с — что готовит нам память нового поколения

Ведущие производители чипов Samsung, Micron и SK Hynix наперегонки разрабатывают новое поколение оперативной памяти DDR6, которое обещает вдвое превзойти по скорости современные решения. Когда ожидать выхода технологии на рынок и что она принесет пользователям — рассказываем в этой статье.

https://habr.com/ru/companies/mclouds/articles/934540/

#память #ddr5 #ddr6 #lpddr #camm #дорожная_карта #инфраструктура #формфактор #оперативка #оперативная_память

DDR6 на горизонте: четыре канала и до 21 000 МТ/с — что готовит нам память нового поколения

Ведущие производители чипов Samsung, Micron и SK Hynix наперегонки разрабатывают новое поколение оперативной памяти DDR6, которое обещает вдвое превзойти по скорости современные решения. Когда ожидать...

Хабр

[Перевод] Программа «Hello World» на машинном коде под DOS

Как-то раз я послушал следующее интересное выступление (по-немецки): https://media.ccc.de/v/ds24-394-linux-hello-world-nur-mit-einem-hex-editor В нём разобрано, как написать программу «hello world» для 64-разрядного дистрибутива Linux в шестнадцатеричном редакторе. Ассемблер здесь не используется, программа пишется непосредственно на машинном коде. Правда, в ней есть издержки на использование ELF . Мне понравилась такая идея, и я решил повторить такой опыт, но немного в иной форме – а именно, под 16-разрядной DOS в реальном режиме . У меня должен был получиться файл в формате COM , а не EXE , так как (на данном этапе) меня интересовал не столько формат файла, сколько кодировка инструкций. В вышеупомянутой лекции, если честно, не сообщается почти никаких подробностей о том, как именно перейти от ассемблерного кода к машинному — поскольку в случае разбора этих тем лекция, пожалуй, растянулась бы на несколько часов. Но здесь я всё разберу подробно, и при этом собираюсь пользоваться только документацией lntel , а также дизассемблировать код в целях верификации. Также мы коротко поговорим о сегментации . В качестве шестнадцатеричного редактора на этот раз воспользуемся hexedit .

https://habr.com/ru/articles/934032/

#ассемблер #helloworld #память #низкоуровневое_программирование #программирование #машинный_код

Linux "Hello World!" nur mit einem Hex Editor

media.ccc.de

Как работает память в LLM и почему вы не обучаете ChatGPT своим prompt

Вы наверняка замечали, что в начале общения ИИ кажется очень толковым и понятнливым, правда почему спустя 10-20 сообщений начинает путаться, повторно совершить те же ошибки которые уже совершал или выдавать рассчеты с ошибками. Это не случайность, а следствие мироустройства. Давай разберемся почему это происходит и как именно ИИ все “помнит” и почему его память устроена иначе чем у человека.

https://habr.com/ru/articles/928020/

#chatgpt #gemini #ai #llm #grok #qwen #deepseek #claude #память #хранение_данных

Как работает память в LLM и почему вы не обучаете ChatGPT своим prompt

Дисклеймер - не совсем в LLM и не совсем память. Статья вольное толкование чтобы объяснить концепции того как работают SaaS-LLM, с которыми наиболее знаком читатель, такие как ChatGPT, Gemini, Claude...

Хабр

Трагічна новина у світі футболу. ФК «Ліверпуль» та його фанати вшанували пам'ять Діого Жоти в першому матчі після його загибелі. Хвилина мовчання, You’ll Never Walk Alone та зворушливий жест від Дарвіна Нуньєса. #Ліверпуль #DiogoJota #Футбол #YNWA #Память

Детальніше: https://newsua.us/node/10158