Масштабування БД: від запитів до реплік і шардингу
Як знайти межу БД і обрати між оптимізацією запитів, кешем, репліками та шардінгом.
Знайдіть дорогий запит
Список замовлень сповільнюється з накопиченням клієнтської історії. Перші кандидати на виправлення — потужніша база, кеш або репліки читання. Але сторінка може запитувати кожного клієнта окремо, читати зайві стовпці чи чекати довгу транзакцію. Спочатку розберіть роботу: інакше та сама неефективність переїде з даними до складнішої схеми.
Дивимося частоту запитів, час виконання, прочитані рядки, очікування пулу, блокування й дисковий I/O. Запит за 200 мс, який викликають десять тисяч разів, може коштувати більше рідкісного звіту за п'ять секунд. Розкладаємо навантаження за ендпоінтами й клієнтами.
EXPLAIN ANALYZE у PostgreSQL показує фактичне виконання. Порівнюємо очікувані й реальні рядки, час та ділянки плану. Велика різниця часто означає неправильну оцінку даних. ANALYZE запускає запит, зокрема той, що змінює записи. Для такого розбору потрібні відповідне середовище й контроль наслідків.
Прочитайте план виконання
На сторінці 50 замовлень. Застосунок отримує список, а потім окремо читає клієнта для кожного рядка. Маємо 51 похід у БД, звичайний N+1. Пакетне завантаження, відповідний JOIN та обмеження вибірки часто дадуть більше нового сервера. Виграш залишиться й після зростання навантаження.
Індекс обираємо під реальні фільтри, сортування та дані. Планувальник не зобов'язаний його використовувати: читання великої частки таблиці може бути дешевшим послідовно. Індекс також займає місце й сповільнює запис. Після додавання перевіряємо обидва шляхи.
Поки зовнішній API викликається всередині транзакції, база може тримати з'єднання, блокування та старі версії рядків. Винесення виклику за її межі допомагає, але додає проміжні стани й помилки. Просто прибрати транзакцію означає ризикнути цілісністю.
Документація PostgreSQL щодо EXPLAIN розділяє оцінки планувальника й фактичне виконання, а розділ про індекси нагадує про ціну їх підтримки. Перевіряйте відповідні читання разом із записами: новий індекс не дає безкоштовної місткості.
Як довго актуальні дані кешу
Довідник доставки й залишок останнього товару не кешуються за однаковими правилами. Для кожної сутності потрібні допустима затримка, інвалідація та поведінка при cache miss. Якщо клієнт бачить стару ціну, заздалегідь вирішуємо, яка потрапить у підтверджене замовлення.
Рахуємо сценарій без кешу. За hit rate 90% база отримувала лише десяту частину читань. Втрата кешу за того самого потоку збільшить їх приблизно вдесятеро. Допомагають ліміти паралельних оновлень, різні строки закінчення й тимчасові старі дані, де це допустимо. Перевіряти треба й холодний старт.
Для ціни показ і підтвердження різні. Сторінка може мати погоджену давність, checkout перевіряє актуальні умови. Якщо сума змінилась, клієнт бачить новий розрахунок до згоди. Так кеш стає частиною сценарію, а не просто числом TTL в конфігурації.
Репліки й затримка оновлень
Клієнт зберіг адресу, оновив сторінку й побачив стару. Запис пройшов на primary, читання пішло на відсталу репліку. Зовні це схоже на втрату даних. Для такого шляху читаємо primary або застосовуємо інший механізм видимості власного запису.
Синхронна реплікація має різні режими. Підтвердження отримання запису відрізняється від підтвердження застосування. Суворіша гарантія може додати latency й залежність від доступності репліки. Потрібно розуміти, за якої відмови зупиниться запис.
Read replicas розвантажують читання, але не ділять потік запису. Дивимося lag, швидкість застосування змін і failover. Репліка не замінює бекап: помилкове видалення швидко повториться на всіх копіях, тому відновлення перевіряємо окремо.
Документація PostgreSQL щодо standby описує компроміс: асинхронна копія може відставати, суворіше синхронне підтвердження — затримувати commit. Для екрана зміни адреси заздалегідь визначте шлях негайного читання після запису, перш ніж спрямовувати всі читання на репліки.
Партиціювання чи шардинг
Партиціювання ділить таблицю на частини, наприклад події за місяцями. Старий місяць простіше видалити, а запит за тиждень може не читати решту. Для цього умови запиту мають дозволяти відсікти зайві партиції. Сам поділ не розносить навантаження по незалежних серверах.
Шардінг розносить дані по різних базах. Ключ визначає локальність запитів і баланс. Поділ за компанією зручний, поки один великий клієнт не зайняв більшість ресурсу свого шарда. Інший ключ може краще розподілити записи, але перетворити звичайний звіт на збірку з усіх баз.
До міграції розбираємо унікальність ID, транзакції між шардами, запити без ключа, перенесення й відновлення. Якщо продукт постійно з'єднує сутності з різних частин, міжшардова робота може з'їсти виграш. Разом із потужністю зростає складність застосунку та експлуатації.
Виміряйте результат зміни
За можливості змінюємо одну річ за раз і порівнюємо latency, throughput, блокування, ціну та запас при збої. Якщо одночасно переписати SQL, змінити сервер і рознести дані, важко зрозуміти, що допомогло, а що створило проблему.
Для міграції потрібні перевірка повноти, перемикання запису й дії при розбіжності. Rollback розбираємо завчасно: після нових записів повернення старої схеми може вже не бути простим. Робота закінчується, коли команда вміє підтримувати й відновлювати нову схему.
- Зафіксуйте повільний шлях списку замовлень на реалістичному обсязі історії. Відокремте очікування з’єднання, виконання SQL і виклики застосунку; розмір таблиці сам собою не є діагнозом.
- Спочатку приберіть N+1 та зайві рядки або стовпці. Порівняйте план і час, потім переконайтеся, що індекс залишає достатньо ресурсів для звичайного запису.
- Якщо кеш досі потрібен, задайте допустиму свіжість і перевірте холодний кеш. Під час оформлення підтвердьте актуальні дані та покажіть клієнту змінені умови.
- Спрямовуйте звіти, що допускають затримку, на репліки після перевірки replay lag. Для негайного читання важливих змін залиште шлях із потрібною гарантією видимості.
- Під час міграції порівнюйте ідентифікатори, суми й зв’язки, а не лише кількість рядків. Опишіть перемикання запису та долю нових записів при відкаті.
- Використовуйте партиції для підтвердженого pruning або видалення історії. До шардингу розберіть гарячих клієнтів, міжшардові операції, перебалансування й відповідального за відновлення.
Читайте також
Масштабування сервісів: коли більше інстансів не допомагає
Чому сервіс гальмує за вільного CPU, як інстанси перевантажують БД і що перевірити до автоскейлінгу.
Метрики й алерти: що збирати і коли будити команду
Які метрики потрібні сервісу, як читати latency й error budget і чому алерт має вести до дії.