Русский
Обсудить проект
Общее◷ 6 мин чтения

Scalability: что произойдёт с вашим сайтом, если завтра клиентов станет в 10 раз больше

Масштабируемость нужна не потому, что бизнес сегодня большой. Она нужна потому, что успешная рекламная кампания не должна положить сайт. Представим интернет-магазин, который обычно получает: 500 посетителей в день. Ко…

Scalability: что произойдёт с вашим сайтом, если завтра клиентов станет в 10 раз больше

Масштабируемость нужна не потому, что бизнес сегодня большой. Она нужна потому, что успешная рекламная кампания не должна положить сайт. Представим интернет-магазин, который обычно получает: 500 посетителей в день. Компания запускает рекламу. Кампания срабатывает лучше ожиданий. Вместо 500 пользователей приходит: 15 000 человек. И именно в этот момент:

  • база данных начинает отвечать медленно;
  • сервер упирается в CPU;
  • внешняя CRM перестаёт принимать запросы;
  • очередь заказов переполняется;
  • пользователи получают 500 Internal Server Error.

Маркетинг сработал. Архитектура — нет. Самое неприятное, что проблема появилась именно тогда, когда бизнес получил возможность заработать больше. Поэтому scalability — это не абстрактная техническая характеристика. Это способность продукта выдержать рост бизнеса. Что такое scalability простыми словами Scalability — масштабируемость — отвечает на вопрос: Что произойдёт с системой, если пользователей, запросов, заказов или данных станет значительно больше? Хорошо масштабируемая система не обязана бесконечно выдерживать любую нагрузку.

Но она должна позволять наращивать ресурсы и производительность без полного переписывания продукта. Например: сегодня сайт обслуживает: 1 000 пользователей в день. Через год: 50 000. Если для этого достаточно:

  • добавить серверы;
  • настроить cache;
  • оптимизировать database;
  • увеличить количество workers;

архитектура масштабируется. Если при росте нагрузки приходится заново переписывать половину приложения, система стала ограничением бизнеса. Сайт должен выдерживать успех бизнеса Часто scalability обсуждают как задачу крупных компаний. Но небольшой бизнес тоже может получить резкий всплеск. Например:

  • удачная рекламная кампания;
  • публикация у блогера;
  • сезонная распродажа;
  • выход нового продукта;
  • упоминание в СМИ;
  • viral content.

Нагрузка может вырасти не постепенно. А за несколько часов. Поэтому вопрос: Нам пока не нужны большие мощности правильный. А вот вывод: Поэтому не нужно думать о масштабировании вообще уже опаснее. Хорошая архитектура не обязана покупать ресурсы заранее. Она должна позволять добавить их тогда, когда это действительно потребуется. Где система начинает ломаться Рост нагрузки редко ломает «сайт целиком». Обычно появляется конкретное bottleneck — узкое место. Например:

  • CPU;
  • RAM;
  • database;
  • disk;
  • network;
  • внешний API;
  • CRM;
  • payment provider.

Поэтому первый шаг — понять, какой компонент ограничивает throughput системы. Иногда проблему можно решить увеличением одного сервера. Иногда нужна уже другая архитектура. Вертикальное масштабирование Самый простой способ масштабирования: дать текущему серверу больше ресурсов. Например: было:

  • 2 CPU;
  • 4 GB RAM.

стало:

  • 8 CPU;
  • 32 GB RAM.

Это называется vertical scaling , или вертикальное масштабирование. Логика простая: Вместо маленького сервера используем более мощный. Когда vertical scaling работает хорошо Для многих небольших и средних систем это отличный первый шаг. Преимущества:

  • просто внедрить;
  • не нужно сильно менять архитектуру;
  • проще администрировать;
  • меньше infrastructure complexity.

Если приложение упирается в RAM и новый сервер решает проблему — нет необходимости немедленно строить распределённую платформу. Это как раз пример инженерного прагматизма. Ограничение вертикального масштабирования Один сервер нельзя увеличивать бесконечно. В какой-то момент:

  • следующий тариф становится слишком дорогим;
  • нужной конфигурации уже нет;
  • один сервер остаётся single point of failure.

Тогда возникает вопрос: Можно ли распределить нагрузку между несколькими экземплярами приложения? Это уже горизонтальное масштабирование. Горизонтальное масштабирование Horizontal scaling означает: вместо одного очень мощного экземпляра запускаем несколько. Например: вместо: 1 application server работают: 4 application servers Теперь запросы пользователей распределяются между ними. Если нагрузка растёт, можно добавить: пятый. шестой. десятый. Это позволяет масштабировать приложение постепенно. Load Balancer Но пользователю всё равно нужен один адрес:

example.com Кто решает, на какой server отправить конкретный запрос? Для этого используется Load Balancer . Упрощённая схема: Users ↓ Load Balancer ↓ App 1 App 2 App 3 Load Balancer распределяет трафик между экземплярами. Например: первый запрос → App 1. второй → App 2. третий → App 3. Так нагрузка не концентрируется на одном сервере. Почему stateless так важен Представим, что пользователь авторизовался на App 1. А следующий запрос Load Balancer отправил на App 2. Если данные о сессии существуют только в памяти первого сервера, второй скажет:

Я этого пользователя не знаю. Получается проблема. Поэтому масштабируемые приложения стараются быть stateless . Это означает: конкретный экземпляр приложения должен минимально зависеть от собственного локального состояния. Например, session можно хранить:

  • в database;
  • Redis;
  • другом общем storage.

Тогда любой экземпляр приложения способен обработать следующий запрос. Почему это помогает масштабированию Если приложение stateless, новый server можно добавить относительно легко. Он не должен знать историю предыдущих запросов. Получил request. Обработал. Вернул response. Именно поэтому stateless architecture сильно упрощает horizontal scaling. Cache: не рассчитывать одно и то же 10 000 раз Представим страницу каталога. Каждый пользователь открывает: /products Backend каждый раз:

  1. обращается к database;
  2. получает одни и те же данные;
  3. выполняет одинаковую обработку;
  4. формирует одинаковый результат.

Если страницу открывают 10 пользователей — проблема небольшая. Если 10 000 — система выполняет одну и ту же работу тысячи раз. Здесь помогает cache. Как работает cache Первый запрос: Application ↓ идёт в Database. ↓ получает данные. ↓ сохраняет результат в Cache. Следующие запросы: Application ↓ берёт результат из Cache. Database вообще может не участвовать. Это значительно снижает нагрузку. Что можно кешировать Например:

  • страницы;
  • каталог;
  • настройки;
  • популярные запросы;
  • данные API;
  • результаты сложных вычислений.

Но cache требует аккуратности. Главный вопрос: Когда данные перестают быть актуальными? Поэтому нужны стратегии:

  • TTL;
  • invalidation;
  • versioning.

Cache ускоряет систему только тогда, когда управляется предсказуемо. CDN Если сайт обслуживает пользователей из разных городов и стран, часть контента можно доставлять через CDN. Например:

  • изображения;
  • CSS;
  • JavaScript;
  • видео;
  • статические файлы.

Без CDN пользователь из другой страны может получать каждый файл с основного server. С CDN копии контента находятся ближе к пользователям. Это:

  • уменьшает latency;
  • снижает нагрузку на origin server;
  • ускоряет отдачу статических ресурсов.

Для медиа-насыщенных сайтов это особенно заметно. Queues: не всё нужно делать прямо сейчас Представим оформление заказа. Пользователь нажимает: Оформить. Backend после этого должен:

  • сохранить заказ;
  • отправить email;
  • синхронизировать CRM;
  • отправить данные в analytics;
  • создать PDF;
  • уведомить менеджера.

Если делать всё последовательно внутри одного request, пользователь будет ждать завершения каждой операции. Кроме того, отказ CRM может сломать весь заказ. Это плохая связанность. Асинхронная обработка Лучше разделить процессы. Критическое действие: сохранить заказ. Происходит сразу. А затем создаются фоновые задачи: Send email Sync CRM Generate PDF Send analytics Они попадают в queue. Workers выполняют их отдельно. Для пользователя интерфейс отвечает быстрее. А внешние сервисы меньше влияют на основной flow. Queue помогает переживать пики нагрузки

Представим, обычно сайт получает: 10 заказов в минуту. После рекламы: 500 заказов в минуту. CRM физически не способна обработать такой поток мгновенно. Без queue запросы начнут падать. С queue:

  • заказы сохраняются;
  • задачи на CRM накапливаются;
  • workers обрабатывают их с допустимой скоростью.

То есть система сглаживает пик. Это особенно важно для интеграций, скорость которых контролирует не ваш бизнес. Масштабирование базы данных Очень часто первым bottleneck становится database. Frontend можно запустить в десяти экземплярах. Но если все они одновременно обращаются к одной плохо настроенной базе, проблема просто переместится. Поэтому database требует отдельной стратегии. Indexes Представим таблицу с миллионами заказов. Запрос: Найти все заказы пользователя с таким email. Без индекса database может просматривать огромное количество строк.

С правильно подобранным index поиск значительно ускоряется. Indexes особенно важны для:

  • search;
  • filtering;
  • sorting;
  • связей между таблицами.

Но слишком много индексов тоже создают стоимость. Их нужно проектировать под реальные запросы. Connection Pools Каждый запрос к database требует соединения. Если приложение открывает новое connection на каждый request, при высокой нагрузке ресурсы быстро заканчиваются. Connection pool хранит набор готовых соединений и переиспользует их. Это уменьшает накладные расходы. И помогает контролировать количество одновременных connections. Особенно важно при horizontal scaling. Потому что десять application servers могут легко создать намного больше запросов к базе, чем один.

Read Replicas Во многих системах операций чтения значительно больше, чем записи. Например: пользователи постоянно смотрят каталог. Но товары изменяются редко. Тогда можно использовать read replicas. Основная database принимает: writes А дополнительные replicas обслуживают: reads Так нагрузка распределяется. Например: Primary DB

  • create order;
  • change price;
  • update account.

Read Replica

  • catalog;
  • article pages;
  • reports.

Это один из способов масштабировать database layer. Не все данные обязательно должны жить одинаково По мере роста проекта могут появляться разные требования. Например:

  • transactions — PostgreSQL;
  • cache — Redis;
  • full-text search — специализированный search engine;
  • files — object storage.

Это не означает, что нужно сразу строить сложную платформу. Но архитектура должна позволять использовать правильный инструмент там, где текущий начинает становиться bottleneck. Внешние интеграции тоже имеют лимиты Можно идеально масштабировать собственный backend. Но система всё равно зависит от:

  • CRM;
  • payment provider;
  • email;
  • SMS;
  • AI API.

У каждого сервиса есть:

  • rate limits;
  • latency;
  • downtime.

Поэтому scalability должна учитывать не только собственный код. Например: если CRM принимает максимум 100 requests в минуту, бессмысленно отправлять ей 5 000 одновременно. Нужны:

  • queue;
  • rate limiting;
  • retries;
  • monitoring.

Rate limiting защищает систему Масштабируемость — это не только способность принимать больше нормального трафика. Нужно ещё контролировать аномальные запросы. Например: один клиент начинает отправлять 1 000 requests в секунду. Без ограничений он может использовать значительную часть ресурсов. Rate limiting позволяет сказать: этому клиенту разрешено N запросов за период. Это защищает общую стабильность продукта. Autoscaling В cloud infrastructure можно автоматически увеличивать количество application instances при росте нагрузки.

Например: обычно работают: 2 экземпляра. CPU вырос выше заданного значения. Запускаются: ещё 3. Нагрузка падает. Лишние экземпляры выключаются. Это называется autoscaling. Так бизнес не обязан постоянно оплачивать инфраструктуру, рассчитанную на максимальный возможный пик. Но autoscaling не исправляет плохой код Если database query занимает 20 секунд, запуск ещё десяти copies приложения может даже ухудшить ситуацию. Они все одновременно начнут выполнять медленный запрос. Поэтому scalability — это не: просто добавить серверов. Нужно понимать bottleneck всей цепочки.

Наблюдаемость нужна для масштабирования Нельзя масштабировать систему вслепую. Нужно видеть:

  • CPU;
  • RAM;
  • requests per second;
  • Error Rate;
  • API latency;
  • database latency;
  • queue depth;
  • connection usage.

Например: CPU = 30%. Но Database connections = 100%. Значит, добавлять CPU бессмысленно. Bottleneck — база. Observability помогает определить, какой компонент действительно ограничивает рост. Нагрузочное тестирование Лучше узнать предел системы до рекламной кампании. Для этого используется load testing. Можно смоделировать: 100 пользователей 1 000 5 000 и смотреть:

  • response time;
  • Error Rate;
  • CPU;
  • database;
  • queue;
  • integrations.

Так команда понимает: При какой нагрузке начинает деградировать сервис? Это значительно дешевле, чем узнать ответ во время крупнейшей рекламной кампании года. Не каждому сайту нужна сложная scalability architecture Важно не переусложнять. Корпоративному сайту с 200 посетителями в день не обязательно нужны:

  • Kubernetes;
  • десять application nodes;
  • read replicas;
  • distributed queues.

Это увеличит TCO без реальной пользы. Часто достаточно:

  • нормальной database;
  • cache;
  • CDN;
  • оптимизированных images;
  • хорошего hosting;
  • мониторинга.

Scalability — это способность расти. Не обязанность заранее покупать инфраструктуру на миллион пользователей. Хорошая архитектура позволяет масштабироваться постепенно Например:

Этап 1

Один server. Небольшая database. CDN.

Этап 2

Более мощный server. Redis cache. Оптимизация DB.

Этап 3

Load Balancer. Несколько application instances. Queue workers.

Этап 4

Read replicas. Autoscaling. Выделенные сервисы для отдельных bottlenecks. Архитектура растёт вместе с реальной нагрузкой. Это экономичнее, чем сразу строить enterprise infrastructure. Масштабируемость касается не только трафика Рост бизнеса создаёт нагрузку не только посетителями. Может увеличиваться:

  • количество товаров;
  • клиентов;
  • документов;
  • сотрудников;
  • интеграций;
  • истории операций.

Например, сайт нормально работает с: 1 000 товарами. А при: 500 000 поиск начинает занимать несколько секунд. Это тоже scalability problem. Поэтому при проектировании нужно учитывать не только request rate. Но и рост данных. Архитектура должна позволять отделять узкие места Представим, из всей системы сильнее всего растёт обработка изображений. Нет необходимости переписывать весь продукт. Можно выделить image processing в отдельный worker. Или search требует огромных ресурсов. Его можно масштабировать отдельно. Хорошая модульность позволяет усиливать именно ту часть системы, которой это требуется.

Цена отсутствия scalability Плохая масштабируемость дорого стоит именно в моменты роста. Например: компания потратила: 1 000 000 ₽ на рекламу. Кампания привела огромный трафик. Но сайт два часа работал нестабильно. В результате часть рекламного бюджета привела пользователей к: 500 Internal Server Error. Маркетинг выполнил свою работу. Но инфраструктура не позволила монетизировать результат. Поэтому performance и scalability имеют прямое отношение к деньгам. Масштабируемость и TCO Есть и обратная сторона. Слишком сложная архитектура тоже стоит денег.

Если продукту пока нужен один server, а бизнес содержит инфраструктуру из 20 сервисов, расходы появляются:

  • cloud;
  • DevOps;
  • monitoring;
  • deployment;
  • maintenance.

Поэтому хорошая scalability architecture должна быть экономичной. Не: Подготовимся к миллиарду пользователей. А: Сможем увеличить мощность тогда, когда нагрузка действительно вырастет. Чеклист масштабируемости Полезно проверить:

  1. Где находится текущий bottleneck?
  2. Можно ли увеличить ресурсы вертикально?
  3. Можно ли запустить несколько application instances?
  4. Является ли приложение stateless?
  5. Есть ли Load Balancer?
  6. Используется ли cache?
  7. Подключён ли CDN?
  8. Есть ли queue для тяжёлых операций?
  9. Оптимизированы ли database indexes?
  10. Используется ли connection pooling?
  11. Нужны ли read replicas?
  12. Что произойдёт при недоступности CRM?
  13. Есть ли rate limiting?
  14. Видны ли metrics нагрузки?
  15. Проводилось ли load testing?

Ответы помогают понять, насколько система готова к росту. Подход VERB В VERB мы рассматриваем scalability не как набор модных технологий. Нас интересует вопрос: Что станет первым ограничением, если нагрузка вырастет в 10 раз? Для одного проекта это будет:

  • database.

Для другого:

  • CRM.

Для третьего:

  • frontend rendering.

Для четвёртого:

  • инфраструктура.

После этого можно определить минимально достаточное решение. Например: cache вместо полного rebuild. Или: queue вместо синхронной CRM-интеграции. Или: horizontal scaling вместо покупки всё более дорогого одного server. Главный тезис Масштабируемость — это способность бизнеса расти без необходимости каждый раз переписывать продукт. Она не нужна потому, что компания уже огромная. Она нужна потому, что завтра бизнес может внезапно получить:

  • больше клиентов;
  • больше заказов;
  • больше данных;
  • больше трафика.

Хорошая система не должна становиться препятствием именно в момент успеха. Поэтому задача scalability — не построить самую сложную инфраструктуру. А сделать так, чтобы при росте можно было: добавить ресурсы разделить нагрузку вынести тяжёлые операции масштабировать bottleneck вместо того, чтобы начинать разработку заново.

Что произойдёт с вашим продуктом при росте нагрузки в 10 раз?

VERB может проверить архитектуру продукта и определить:

  • текущие bottlenecks;
  • пределы frontend и backend;
  • состояние database;
  • cache;
  • CDN;
  • очереди;
  • внешние интеграции;
  • возможность horizontal scaling;
  • готовность к load testing.

На выходе — карта масштабирования: что выдержит рост уже сейчас, где система начнёт деградировать и какие изменения стоит сделать до того, как реклама приведёт в десять раз больше клиентов. Проверить архитектуру продукта — до того, как успех бизнеса станет причиной падения сайта.

V
Команда VERBПроектируем и развиваем цифровые продукты для бизнеса.
Другие статьи

СОЗДАЁМ DIGITAL-ПРОДУКТЫ

Готовы запустить проект?

Оставьте заявку — обсудим задачу и предложим решение.
Оставить заявку