رفتن به محتوای اصلی
کرگدن | ارائه‌کننده سرورهای ابری و اختصاصی
مقیاس‌پذیری تا ۱ میلیون کاربر — معماری‌ای که کاش زودتر می‌دانستم

مقیاس‌پذیری تا ۱ میلیون کاربر — معماری‌ای که کاش زودتر می‌دانستم

توسعه نرم‌افزار
6 دقیقه مطالعه

در این مقاله مسیر تکاملی معماری از یک مونو‌لیث ساده تا راه‌کار جامع برای یک میلیون کاربر تشریح می‌شود، با درس‌هایی که در هر مرحله فراگرفتیم.

هنگام آغاز به کار، داشتن ۱۰۰ کاربر روزانه برایمان حکم موفقیت داشت، اما ظرف چند ماه تعداد به ۱۰ هزار و سپس ۱۰۰ هزار رسید. به‌مرور مشکلات مقیاس‌پذیری سریع‌تر از رشد کاربران خود را نشان دادند. هدف‌مان رسیدن به ۱ میلیون کاربر بود، ولی معماری‌ای که برای چند هزار کاربر کافی بود، تاب فشار بیشتر را نداشت. در این مقاله مسیر تکاملی معماری از یک مونو‌لیث ساده تا راه‌کار جامع برای یک میلیون کاربر تشریح می‌شود، با درس‌هایی که در هر مرحله فراگرفتیم.

فاز ۱: مونو‌لیث ساده (تا وقتی کار می‌کرد)
در ابتدا معماری بسیار ساده بود: یک برنامه Spring Boot به همراه یک پایگاه‌داده MySQL و یک NGINX به عنوان باربالانسر، همه روی یک ماشین مجازی واحد مستقر بودند. جریان درخواست‌ها به شکل زیر بود:
[کاربر] → [NGINX] → [اپلیکیشن Spring Boot] → [MySQL]
برای کپی کردن کد، روی دکمه کپی در بالا کلیک کنید

این ساختار تا حدود ۵۰۰ کاربر همزمان را به خوبی مدیریت می‌کرد. اما با رسیدن به ~۵۰۰۰ کاربر همزمان، مشکلات زیر پدید آمد:
بار کامل روی CPU: پردازنده سرور به ۱۰۰٪ بار رسید.
کُند شدن پایگاه‌داده: کوئری‌ها به‌طرز محسوسی کند شدند.
افت Uptime: زمان در دسترس بودن سرویس زیر ۹۹٪ افت کرد.
مانیتورینگ نشان داد که قفل‌های پایگاه‌داده، توقف‌های Garbage Collection و رقابت بین رشته‌ها (Threads) باعث گلوگاه شده بودند. به عبارت دیگر، در این مرحله مونو‌لیث جوابگو بود تا وقتی تعداد کمی کاربر داشتیم، اما با رشد ترافیک مسائلی در کارایی و پایداری آشکار شد.

فاز ۲: افزودن سرورهای بیشتر (اما گلوگاه اصلی پابرجا ماند)
اولین راه‌حل، افقی کردن معماری بود. چند سرور اپلیکیشن به پشت NGINX اضافه کردیم تا از یک ماشین به چندین ماشین ارتقا یابیم:
[کاربر] → [NGINX] → [اپ۱ | اپ۲ | اپ۳] → [MySQL]
برای کپی کردن کد، روی دکمه کپی در بالا کلیک کنید
با این تغییر، بار محاسباتی بین سرورهای بیشتری پخش شد و فشار روی هر سرور مجزا کمی کاهش یافت. اما نکته‌ی کلیدی این بود که نقطه‌ی تنگنا همچنان پایگاه‌داده بود. پایگاه‌داده MySQL هنوز در یک گره واحد قرار داشت و قفل‌ها و رقابت‌های آن دست‌نخورده باقی ماندند. بنابراین، فقط اضافه کردن سرورهای بیشتر نتوانست به‌تنهایی مشکل اصلی (نقاط قفل DB و مصرف بالای منابع) را حل کند.


فاز ۳: معرفی لایه‌ی کش
برای کاهش فشار روی دیتابیس، یک لایه‌ی کش معرفی شد (مثلاً Redis یا memcached). این لایه درخواست‌های تکراری و محتوای ثابت را نگه می‌داشت. مزایای کش به‌وضوح در کارایی نمود: بار روی پایگاه‌داده به‌شدت کم شد و زمان پاسخ بهبود یافت. به گزارش منابع فنی، ذخیره‌سازی نتایج پرس‌وجوهای تکراری در کش می‌تواند نرخ پرس‌وجو به DB را بیش از ۹۰٪ کاهش دهد و زمان پاسخ را به‌طرز چشمگیری پایین بیاورد. در عمل نیز به ازای درخواست‌های همزمان کاربران، پس از افزودن کش تعداد رفت‌وآمدها به دیتابیس حدود ۶۰٪ کاهش یافت و پاسخ‌گویی به داده‌های کش‌شده زیر ۲۰۰ میلی‌ثانیه شد.
در این حالت، کوئری‌های تکراری مستقیماً از کش پاسخ داده می‌شدند و نیازی به مراجعه به MySQL نبود.
نتیجه کاهش بار روی DB و افزایش سرعت پاسخ‌دهی بود.
اگرچه‌ در این مرحله کش‌بازی پدید آمد که در مواقع Cache Miss پایگاه‌داده همچنان باید پاسخ بدهد، اما فشار کلی روی سرور پایگاه‌داده به‌طور محسوسی کاهش یافته بود.

فاز ۴: جداسازی به میکروسرویس‌ها
گام بعدی، شکستن مونو‌لیث به سرویس‌های کوچکتر (میکروسرویس) بود. قابلیت‌های اصلی سیستم (مانند مدیریت کاربران، ارسال پست و ساخت فید) را به سرویس‌های جدا تبدیل کردیم. برای مثال هر سرویس پایگاه‌داده‌ی خودش را داشت (ابتدا روی یک خوشه DB مشترک) و با REST APIها با یکدیگر ارتباط برقرار می‌کردند. اساساً مونو‌لیث را به چند بخش مجزا تقسیم کردیم تا هر بخش بتواند به‌طور مستقل مقیاس یابد. متخصصان گفته‌اند هرگاه بخشی از برنامه نیاز بیشتری به منابع دارد، آن بخش را به سرویس مجزا بشکنید تا فقط آن قسمت مقیاس پیدا کند نه کل برنامه. این کار باعث می‌شود در صورت نیاز به افزایش ظرفیت، فقط سرویس‌های مشخص‌شده به‌روزرسانی شوند و مدیریت کد و تیم توسعه آسان‌تر شود.

فاز ۵: استفاده از صف پیام و پردازش غیرهمزمان
در این فاز معماری پیام غیرهمزمان (مثلاً Kafka) معرفی شد. فرض کنید کاربر جدید ثبت‌نام می‌کند: در گذشته این درخواست به‌صورت سریالی (سینکرون) پردازش می‌شد و تا اتمام همه‌ی مراحل پاسخ نمی‌گرفت. حال با Kafka، «ثبت‌نام کاربر» در یک پیام قرار گرفت و در صف گذاشته شد. سپس مراحل پشت‌زمینه (مثلاً ارسال ایمیل تایید، گزارش‌گیری و…) به‌صورت غیرهمزمان توسط سرویس‌های دیگر دریافت و اجرا شدند. ارتباط ناهمزمان این امکان را فراهم می‌کند که فرایند اصلی ثبت‌نام بدون انتظار اضافی ادامه یابد و پاسخ سریع‌تری داده شود. به گفته منابع فنی، ارتباط غیرهمزمان به سیستم اجازه می‌دهد بدون انتظار برای پاسخ، کار خود را ادامه دهد و عملکرد و مقیاس‌پذیری کلی را به‌طور چشمگیری بهبود بخشد. برای مثال، تجربه نشان داد که پس از افزودن Kafka زمان ثبت‌نام کاربران از ۱.۲ ثانیه به حدود ۰.۳ ثانیه کاهش یافت، زیرا انجام کارهای سنگین به‌صورت ناهمزمان و خارج از مسیر مستقیم درخواست صورت می‌گرفت. به این ترتیب، درخواست‌های اصلی کاربران سریع‌تر پاسخ داده شدند.

فاز ۶: مقیاس‌پذیری پایگاه‌داده
در مقیاس بالاتر، سرور پایگاه‌داده نیز به یک گلوگاه تبدیل شد. برای رفع این مشکل، معماری دیتابیس تغییر کرد و از خوشه‌بندی MySQL استفاده شد: یک سرور «اصلی» (Master) و چند سرور «خواندنی» (Replica) ایجاد گردید. تولیدکنندگان داده (write) به سرور اصلی می‌رفت و داده‌ها به‌صورت همگام‌سازی شده به سرورهای خواندنی تکثیر می‌شد. این گونه، تعداد درخواست‌های خواندن (SELECT) به دیتابیس را می‌شد بین چند سرور توزیع کرد. به‌عنوان مثال، Microsoft اعلام کرده است که استفاده از Read Replicaها امکان مقیاس‌پذیری افقی پایگاه‌داده را فراهم می‌کند و بار کاری را بین چند سرور پخش می‌کند. در سیستم ما نیز با ایجاد چند Replica، بار خواندن روی سرور اصلی بسیار کم شد و پاسخ‌دهی سرویسی راحت‌تر مقیاس‌پذیر گردید.

فاز ۷: پایش و رصد (Observability)
پس از اعمال بهبودهای ساختاری، نوبت به پایش مناسب سیستم رسید. با افزایش مقیاس سیستم، لازم بود سلامت و کارایی را به‌طور پیوسته پایش کنیم. مانیتورینگ پیشرفته شامل گردآوری لاگ‌ها، متریک‌ها و تِرِیس‌ها بود. این سه رکن (لاگ، معیار، و تِریس) که «سه ستون معماری پایش» خوانده می‌شوند، تصویر کاملی از وضعیت سیستم ارائه می‌دهند. به کمک چنین ابزارهایی می‌توان پارامترهایی مانند مصرف CPU، تاخیر پاسخ‌دهی، نرخ خطا و… را اندازه‌گیری کرده و مشکلات را در زمان مناسب تشخیص داد. به گفته متخصصان، پیاده‌سازی معماری مشاهدگی (Observability) باعث اطمینان از کارایی، بهینه‌سازی و عیب‌یابی بهتر سیستم در مقیاس بالا می‌شود. در عمل، داشبوردهای مانیتورینگ (مثل Grafana/Prometheus)، سیستم‌های لاگ جمع‌کن (ELK/EFK) و ردیابی توزیع‌شده (Distributed Tracing) برای رهگیری درخواست‌ها و یافتن نقاط ضعف سیستم در زمان اجرا، ایجاد شدند.

فاز ۸: CDN و کش لبه
سرانجام با نزدیک شدن به مرز یک میلیون کاربر، مشخص شد حجم زیادی از ترافیک (حدود ۴۰–۵۰٪) مربوط به فایل‌های استاتیک سایت – مانند تصاویر، آواتارها و اسکریپت‌های جاوااسکریپت – است. این فایل‌ها معمولا بدون تغییر هستند و می‌توانند از طریق یک شبکه تحویل محتوا (CDN) ارایه شوند. با استفاده از CDN (مثلاً Cloudflare) و فعال‌سازی کش قوی روی لبه‌های شبکه، تعداد مسیرهای رفتن کاربر به سرور اصلی به‌شدت کاهش یافت. منابع آموزشی معتبر می‌گویند به‌کارگیری CDN باعث کاهش قابل‌توجه زمان بارگذاری صفحات و صرفه‌جویی در پهنای باند سرور می‌شود. همچنین، CDN با کش کردن محتوا در سرورهای جغرافیایی نزدیک به کاربر، تأخیر را به میزان زیادی کاهش می‌دهد و بار روی زیرساخت اصلی را به شدت کم می‌کند. در نتیجه، بسیاری از درخواست‌های مرتبط با فایل‌های استاتیک دیگر اصلاً وارد سرور اصلی نمی‌شدند و فقط از کش CDN پاسخ داده شدند که تجربه کاربری را بسیار بهبود بخشید.

مقیاس‌پذیری تا ۱ میلیون کاربر — معماری‌ای که کاش زودتر می‌دانستم | زیرساخت ابری کرگدن | کرگدن