Как мы с моим ботом OpenClaw сделали ему семантическую память на AlloyDB Omni за полчаса
История о том, как превратить ИИ-агента из "золотой рыбки" с памятью в пределах одной сессии в полноценного цифрового сотрудника с графовым хранилищем знаний.
Как мы с моим ботом OpenClaw сделали ему семантическую память на AlloyDB Omni за полчаса
История о том, как превратить ИИ-агента из "золотой рыбки" с памятью в пределах одной сессии в полноценного цифрового сотрудника с графовым хранилищем знаний.
Семантический обновляемый кэш на AlloyDB Omni
Предположим, вы построили RAG-сервис на SQL, и он отлично работает. Довольно быстро, очень точно, и очень дорого , ведь каждый запрос к сервису требует обращения к LLM для генерации ответа по чанкам, извлеченным из базы знаний. И чем больше мы извлекли таких фрагментов, тем больше входных токенов тратится на составной промпт, даже если ответ будет состоять из одного предложения. Можно, конечно, заранее срезать количество извлекаемых чанков, но это отразится на качестве ответов. Можно настроить кэш, который экономит на обращениях к сервису, когда приходят одинаковые вопросы. Но когда пользователь спрашивает "How to get developer support?”, и тут же другой пользователь спрашивает "How to ask development-related questions?", ваш сервис каждый раз будет генерировать ответ заново, сжигая ваши токены и заставляя пользователя ждать. Обычный кэш тут бессилен: для него эти две фразы — абсолютно разные ключи. В этой статье я расскажу, как развернуть мощный семантический кэш на базе AlloyDB Omni (PostgreSQL от Google), используя векторный поиск ScaNN, автоматическое партиционирование и планировщик задач. Мы пройдём путь от настройки Docker-контейнера до продакшн-архитектуры.
Postgres по-русски: где наши Aurora, AlloyDB и Neon?
Базы данных давно являются фундаментом цифровой экономики. От их архитектуры и производительности во многом зависят скорость вывода продуктов на рынок, стабильность сервисов и итоговая стоимость ИТ-инфраструктуры. В мировой практике одним из основных стандартов де-факто, вокруг которого формируются экосистемы серьезных решений, стала открытая СУБД PostgreSQL. В России она используется во множестве корпоративных приложений, есть целый ряд отечественных форков и дистрибутивов. Но у ряда зарубежных компаний( есть серьезные прорывные реализации, интенсивно развивающие Postgres (например, Aurora, AlloyDB и Neon, об этом ниже), а у российских этого почему-то не наблюдается. Это противоречие между массовым использованием PostgreSQL в нашей стране и отсутствием технологического прорыва задает остроту сегодняшней повестки отечественного СУБД-строения.
https://habr.com/ru/companies/tantor/articles/988340/
#neon #horizondb #aurora #alloydb #alibaba #postgresql #tantor_xdata #xdata #tantor_postgres
All benchmarks are liars.
Also, here’s a set of db benchmarks from #clickhouse:
https://benchmark.clickhouse.com/
Various DBs including:
- #mysql
- #postgres
- #sqlite
- #timescaledb
- #alloydb
- #mariadb
🆕 Google introduced a free trial for #AlloyDB - their fully managed PostgreSQL-compatible database service.
The trial allows users to test AlloyDB's capabilities with their workloads for up to 30 days.
More insights available on #InfoQ👉 https://bit.ly/4ckHoml
Learn how Ventrata is enjoying maximum performance gains from their CloudSQL instance thanks to a customized solution for their database.
Read the full case study: https://resources.stormatics.tech/ventrata-migration-performance-tuning
...
#PostgreSQL #OpenSource #Database #AlloyDB #CloudSQL #PerformanceTuning
Learn how Ventrata is enjoying maximum performance gains from their CloudSQL instance thanks to a customized solution for their database.
Read the full case study: https://hubs.ly/Q02xSv080
...
#PostgreSQL #OpenSource #Database #AlloyDB #CloudSQL #PerformanceTuning
Learn how Ventrata is enjoying maximum performance gains from their CloudSQL instance thanks to a customized solution for their database.
Get the full case study: https://hubs.ly/Q02s1rgv0
...
#PostgreSQL #OpenSource #Database #AlloyDB #CloudSQL #PerformanceTuning
「 #Google #Cloud、 #AI 機能搭載の #PostgreSQL #互換ソフトウェア 「 #AlloyDB Omni」正式版リリース」: Publickey
「多数のCPUコアをより活用するスケーラビリティなどを改善することで、標準的なPostgreSQLよりもトランザクション性能で2倍以上の性能を備えるだけでなく、カラム型のインメモリデータベースも統合し、分析的なクエリは100倍以上高速化。」
https://www.publickey1.jp/blog/23/google_cloudaipostgresqlalloydb_omni.html