Работа с файлами в СУБД PostgreSQL и Postgres Pro Enterprise: барьеры и варианты их преодоления

Упереться в лимит 4 миллиарда строк в TOAST-таблице или поймать OidGen lock при массовой заливке документов — страшный сон администратора PostgreSQL. Хотя архитекторы советуют выносить файлы в S3, реальность часто диктует хранение внутри БД. Руководитель группы по оптимизации приложений Александр Попов разбирает, как работают стандартные механизмы bytea и pg_largeobject, где находятся их «бутылочные горлышки» и как эти ограничения обходятся в Postgres Pro Enterprise.

https://habr.com/ru/companies/postgrespro/articles/970544/

#базы_данных #хранение_данных #хранение_данных_в_бд #хранение_данных_в_postgresq #postgresql #postgres #postgres_pro #postgres_pro_enterprise

Работа с файлами в СУБД PostgreSQL и Postgres Pro Enterprise: барьеры и варианты их преодоления

Идеальная архитектура при работе с файлами в СУБД подразумевает, что файлы выносятся в отдельное хранилище. Вместе с тем не всегда пользователи следуют этому правилу: одним разработчикам так проще...

Хабр

Как мы постепенно идём к «умному» центру администрирования СУБД

Что общего у массового применения конфигураций, встроенной поддержки OpenTelemetry и управления HA-кластерами в пару кликов? Всё это — части пазла, который мы собираем, чтобы сделать администрирование PostgreSQL по-настоящему удобным и безопасным. Выход версии Postgres Pro Enterprise Manager (PPEM) 2.3 стал важной вехой в развитии нашего графического интерфейса. Мы добавили поддержку пользовательских пресетов, переработали систему алертинга и усилили RBAC-модель управления доступом. Разбираем ключевые нововведения релиза, которые помогут навести порядок в зоопарке конфигураций и спать спокойно, зная, что система сама предупредит о проблемах.

https://habr.com/ru/companies/postgrespro/articles/968570/

#ppem #postgresql #postgres #postgres_pro #postgres_pro_enterprise #postgres_professional #postgres_pro_standard

Как мы постепенно идём к «умному» центру администрирования СУБД

Что если бы ваш центр администрирования баз данных знал, когда нужно вмешаться, самостоятельно контролировал ошибки и позволял управлять отказоустойчивыми кластерами буквально в два клика? Мы называем...

Хабр

Очереди сообщений в Postgres Pro: отказ от внешних брокеров ради транзакционной надёжности

Ваш сервис отправил сообщение в RabbitMQ, но в момент коммита транзакция в базе данных откатилась. Классический кошмар распределенных систем, порождающий данные-призраки и часы отладки. Обычно эту проблему решают сложным кодом, двухфазными коммитами или просто надеждой на лучшее. А что, если бы откат транзакции в PostgreSQL мог автоматически «откатить» и отправку сообщения, вернув его в очередь без единой строчки вашего кода? Рассказываем, как это работает.

https://habr.com/ru/companies/postgrespro/articles/965632/

#postgresql #kafka #kafka_apache #брокер_сообщений #брокеры_сообщений #базы_данных #postgres_pro #postgres_pro_enterprise

Очереди сообщений в Postgres Pro: отказ от внешних брокеров ради транзакционной надёжности

В эпоху распределённых систем, где каждая компонента должна быть не только эффективной, но и предсказуемой, вопрос надёжности обмена данными становится критическим. Представьте: пользователь нажимает...

Хабр

Миграция Левиафана: как удалось перевести базу в 40 ТБ данных на Postgres Pro

Переезд крупных, высоконагруженных систем с одной СУБД на другую — всегда вызов, сравнимый с хирургической операцией на работающем сердце. Компания ОТР поделилась уникальным опытом миграции одной из таких систем с Oracle на отечественную Postgres Pro. Ирина Токарева и Сергей Кузнецов из ОТР рассказали о тернистом пути, противостоянии росту энтропии больших объёмов поступающих и изменяемых данных, достигнутых результатах. Узнать тайны переезда 👉

https://habr.com/ru/companies/postgrespro/articles/924220/

#миграция_бд #миграция_данных #миграция #oracle #oracle_database #postgres_pro #postgres_pro_enterprise #кейс

Миграция Левиафана: как удалось перевести базу в 40 ТБ данных на Postgres Pro

Представьте задачу: взять рабочий высоконагруженный государственный сервис с огромной БД под 50 терабайт, тесно интегрированной с бизнес-процессами и используемой тысячами пользователей, и практически...

Хабр

Оптимальная настройка Postgres Pro в один клик с pgpro_tune

Представьте знакомую ситуацию: утро понедельника, задачи сыпятся одна за другой. Перед вами задача срочно развернуть новый сервис на базе Postgres Pro. Или, возможно, в эти выходные вы обновили железо своего сервера базы данных, увеличили количество CPU и объём RAM. Расскажем, как быстро привести СУБД в состояние, оптимально подходящее новому оборудованию и текущим нагрузкам.

https://habr.com/ru/companies/postgrespro/articles/904462/

#настройка #оптимизация #база_данных #postgresql #postgres_pro #postgres_pro_enterprise #postgres_pro_standard

Оптимальная настройка Postgres Pro в один клик с pgpro_tune

Специалисты, работающие с PostgreSQL, знают, что стандартные настройки «из коробки» выбраны из расчёта, чтобы постгрес запустился на любой кофеварке, то есть аскетично-минималистичны. Ручная...

Хабр

Продолжаем выжимать максимум из PostgreSQL

В апреле этого года мы, команда производительности из Postgres Professional, совместно с коллегами из Selectel решили протестировать несколько дистрибутивов PostgreSQL и узнать, как они себя поведут на разных архитектурах. С результатами можно ознакомиться в этой статье , но, как сразу было верно отмечено читателями, там был один важный косяк – мы не сравнили производительность ванильного PostgreSQL с применением всем известных настроек по улучшению производительности и Postgres Pro Enterprise из коробки as is. Терпеть такое не было решительно никакой возможности, поэтому сегодня будет продолжение истории и ответ на важный для многих вопрос: «А есть ли у нашего форка хоть какое-то преимущество перед бесплатной ваниллой?» Или мы просто накатили общеизвестный конфиг и занимаемся импортозаместительным переклеиванием наклеек?

https://habr.com/ru/companies/postgrespro/articles/836344/

#postgres #postgresql #postgres_pro #postgres_pro_enterprise #postgres_pro_enterprise_16

Продолжаем выжимать максимум из PostgreSQL

В апреле этого года мы, команда производительности из Postgres Professional, совместно с коллегами из Selectel решили протестировать несколько дистрибутивов PostgreSQL и узнать, как они себя поведут...

Хабр

С заботой о CPU: как найти узкое горлышко и сконфигурировать Postgres Pro

СУБД Postgres Pro – сложный механизм, который можно гибко настраивать под конкретный тип нагрузки. Для этого в нём имеется множество параметров и инструментов. Например, одним из главных потребителей ресурсов CPU является оптимизатор/планировщик запросов, который отвечает за построение оптимального плана выполнения. Существует большое количество параметров, которые прямо или косвенно влияют на работу планировщика, но к их изменению надо подходить очень осторожно, т. к. возможен обратный эффект. Например, параметры _collapse_limit могут и помочь оптимизатору рассмотреть большее количество вариантов планов, и негативно повлиять на время планирования. Сегодня я расскажу, как мы решали реальную проблему производительности и высокой (> 90%) утилизации ресурсов CPU на промышленном «боевом» сервере с СУБД Postgres Pro Enterprise 15, обслуживающем запросы бизнес-приложения, какие для этого использовали инструменты и что мы изменили в настройках СУБД.

https://habr.com/ru/companies/postgrespro/articles/830790/

#postgresql #postgresql_performance #postgres_pro #postgres_professional #postgres_pro_enterprise

С заботой о CPU: как найти узкое горлышко и сконфигурировать  Postgres Pro

СУБД Postgres Pro – сложный механизм, который можно гибко настраивать под конкретный тип нагрузки. Для этого в нём имеется множество параметров и инструментов. Например, одним из главных потребителей...

Хабр