Scraped Data

این پست وبلاگ یک ارائه دو بخشی از تلاشی است که در طول دو سال گذشته برای بهبود فرآیندهای ارسال پیوسته خدمات بک‌اند در مجله زیبایی و درمانی آذروت انجام شده است. در بخش اول، نگاهی به اوضاع دو سال پیش می‌اندازیم و نرم‌افزار و ابزارهایی را که در حین معرفی برخی از ادغام‌ها مورد استفاده قرار گرفته‌اند وجود دارد توضیح می‌دهیم.

به عنوان یک مهندس بک‌اند در Grab، هیچ چیز مهم‌تر از قابلیت نوآوری سریع و به ایمنی ندارد. تقریباً تا انتهای سال 2018، معماری بک‌اند حمل و نقل و تحویل Grab شامل تقریباً 270 سرویس بود (اغلب آن‌ها میکروسرویس‌ها). فرآیند راه‌اندازی طولانی و نیازمند ورودی‌های دقیق و ارتباط روشن بود. مراقبت‌های لازم برای اجرای تغییرات در تولید و خطر مرتبط با عملیات دستی منجر به معرفی یک ربات Slack برای هماهنگی راه‌اندازی‌ها شد. ربات اطمینان می‌دهد که راه‌اندازی ها فقط در زمان‌های آف‌پیک و در ساعات کاری صورت گیرد:

با تکمیل ساخت، مهندسانی که می‌خواستند نرم‌افزار خود را در محیط تمرینی Staging راه‌اندازی کنند، نسخه‌های منتشری را از لاگ‌های ساخت کپی کرده و آنها را در پارامتر یک وظیفه Jenkins قرار می‌دادند. آزمون‌ها باید به صورت دستی از یک وظیفه Jenkins اختصاصی راه‌اندازی می‌شدند.

قبل از راه‌اندازی در تولید، مهندسان باید یادداشت‌های انتشار خود را از طریق اسکریپت ایجاد کنند و آنها را به صورت دستی در سند ویکی به‌روز کنند. راه‌اندازی‌ها از طریق تعامل با ربات Slack که کنترل یادداشت‌های انتشار و پنجره‌های راه‌اندازی را در دست دارد زمان‌بندی خواهد شد. راه‌اندازی‌های تولید در آخر با مجدد وارد کردن پارامترهای درست در دو وظیفه Jenkins اختصاصی صورت گرفت، یکی برای راه‌اندازی مرغک (معروف به یک جعبه) و دیگری برای راه‌اندازی کامل، که یک ساعت از یکدیگر فاصله داشتند. در فاز مانیتورینگ، مهندسان به صورت مداوم معیارهای گزارش شده در داشبوردهای ما را مشاهده میکردند.

علیرغم فرآیند متجزّح و عملیات دستی ریسکی که بر سرعت و پایداری ما تأثیر می‌گذاشت، در حدود 614 ساخت هر روز کسب و کار در حال اجرا بوده‌اند و تغییرات در محیط تمرینی ما با میانگین 300 نسخه کد جدید در روز کسب و کار، در حالی که تغییرات پایداردر روز کسب و کار با میانگین 28 نسخه کد جدید بود.

این اعداد به معنای آن است که در میانگین، برای هر به‌روزرسانی سرویس در تولید 10 روز کسب و کار طول می‌کشد و تنها 10٪ از راه‌اندازی‌های تمرینی در نهایت به تولید ارتقاء می‌یابند.

از تحویل‌های پیوسته به صورت خودکار در مجله زیبایی و درمانی آذروت خودکارانه

با تمرکز بیشتر بر بهره‌وری مهندسی، در سال 2018 ما یک ابتکار داخلی برای رفع مشکلات راه‌اندازی‌ها را آغاز کردیم که با نام Conveyor شناخته می‌شود. برای ساخت Conveyor با یک تیم کوچک مهندسان، ما باید بر یک پلتفرم قدیمی که ویژگی‌های مطلوب برای دستیابی به ماموریت ما را نشان می‌دهد، تکیه کنیم.

راه‌اندازی‌های بدون دستخیخ

راه‌اندازی‌ها باید یک امر فرعی باشند. مهندسان باید به اندازه امکان از فرآیند دور شوند و هرگاه امکانش باشد، تصمیمات در ابتدای فرآیند بررسی کد گرفته شوند. ماشین کار سخت را انجام می‌دهد و تنها زمانی که نتواند به صورت خودکار تصمیم بگیرد، مهندس باید درگیر شود. اطلاعیه‌ها می‌توانند برای اطمینان حاصل شود که مهندسان فقط زمانی مطلع می‌شوند که چیزی اشتباه شود و تصمیم انسانی لازم باشد.

اعتماد به راه‌اندازی‌ها

تمرکز Grab بر جمع‌آوری بازخورد NPS (رضایتنامه مهندسی داخلی) داخلی ما کمک کرد تا معیارهای ارزشمندی را جمع آوری کنیم. یکی از معیارهایی که به آن اهمیت می‌دهیم، اعتماد مهندسان ما به راه‌اندازی‌های تولیدیشان است. یک فرآیند راه‌اندازی تیم ممکن است بیش از یک روز طول بکشد و ممکن است برای تیم‌هایی با زیرساخت‌های بزرگ که خدمات مهمی را اجرا می‌کنند، تا یک هفته هم ادامه یابد. امکان از دست دادن پیشرفت در راه‌اندازی زمانی که مراحل فردی ممکن است ساعت‌ها طول بکشد، مضر برای بهبود بهره‌وری مهندسی در سازمان است. پلتفرم خودکارسازی راه‌اندازی اساس حاکمیت بر این اعتماد است. اگر پیشرفتی که بر پایهٔ آن ساخته می‌شود، معمولاً شکست می‌خورد و یا راه‌اندازی مسیری را که برای کاربران نهایی شفاف باشد، ارائه نمی‌دهد، هیچ ویژگی که بر روی آن ساخته می‌شود، از این زمان نگهداری نمی‌کند و در نهایت راه‌اندازی‌ها را دچار تردید می‌کند.

به‌سازگار با بیشتر و قابل گسترش برای کمترین تعداد

تیم‌های مهندسی بک‌اند ما روی سایرین پشته‌های متفاوت کار می کنند و همینطور فرآیند راه‌اندازی‌هایشان متفاوت است. از ابتدا، ما میخواستیم محصولمان بهره‌برداری از بزرگ‌ترین جمعیت مهندسانی را که همین روش را به خود اختصاص داده بودند، داشته باشد تا بازدهی سرمایه‌گذاری‌هایمان را بیشینه کنیم. برای سهولت در فرآیند انتخاب، تصمیم گرفتیم یک لوله‌کشی راه‌اندازی را مدل کنیم به گونه‌ای که:

مدل دقیقی از فرآیند‌های دستیی این جمعیت از مهندسان را مدل کند.تغییر به استفاده از آن لوله کشی باید نیاز به کار کمی از سوی تیم‌های سرویس داشته باشد.

اما در مواردی که این مدل برای فرایند خاص تیم مناسب نباشد، پلتفرم راه‌اندازی ما باید باز و قابل گسترش باشد و پشتیبانی از سفارشی‌سازی‌های جدید را حتی زمانی که در اصل توسط اکوسیستم محصول پشتیبانی نشده است، ارائه کند.

بدون نیاز به ابر

هنگامی که می‌خواستیم روی یک فرآیند و تیم خاصی تمرکز کنیم، برای تضمین اینکه راه‌حل ما مقاوم در مقابل زمان باشد، باید اطمینان حاصل کنیم که راه‌حل ما طیف گونه‌های محیطی که در حال حاضر در تولید است را پشتیبانی کند. این تنوع نیز احتمالاً افزایش می‌یابد و ما یک پلتفرم می‌خواهیم که باقی اکوسیستم ما به تدریج رشد کند.

مرور شریان

با Spinnaker شروع کنید

Conveyor بر اساس Spinnaker، یک پلتفرم ارائه پیوسته چند سرویس است. ما Spinnaker را به جای پلتفرم‌های دیگر انتخاب کردیم زیرا یک پلتفرم راه‌اندازی بالغ است که هیچ نقطه تکی نقص ندارد، فرآیندهای پیچیده را پشتیبانی می‌کند (که در Spinnaker خطوط لوله نامیده می‌شوند) و در حال حاضر یک مرتبه از ارائه دهندگان ابر بزرگ نیز پشتیبانی می‌کند. از آنجا که Spinnaker منبع باز و قابل گسترش است، به ما امکان اضافه کردن ویژگی‌هایی که برای ویژگی‌های اکوسیستم ما لازم بود، را می‌دهد.

برای کاهش مانعی از برداشت، یک رابط کاربری ساده را برای کاربران خود ایجاد کردیم و زبان دامنه ویژه خود را (DSL) برای مدیریت لوله‌ها به صورت کد ایجاد کردیم.

چگونگی ورود به یک رابط کاربری ساده

Spinnaker رابط کاربری خود را دارد، همه ویژگی‌هایی که یک مهندس از یک سیستم ارسال پیوسته پیشرفته می‌خواهد را دارد. اما رابط کاربری Spinnaker با Jenkins خیلی متفاوت است و برای یادگیری تمیز اندازه قابل ملاحظه‌ای دارد.

برای کاهش مانعی از برداشت، تصمیم گرفتیم از ابتدا یک رابط ساده برای کاربرانمان ایجاد کنیم. در این رابط، خطوط لوله‌های راه‌اندازی مرکز توجه برنامه ما هستند. خطوط لوله‌ها اشیا توسط Spinnaker مدیریت می‌شوند، آنها مدل مراحل مختلف در جریان هر راه‌اندازی را مدل می‌کنند. هر خط لوله از مراحلی تشکیل شده است که می‌توانند مجموعه‌ای از برگهای لگویی را برای تشکیل لوله نهایی بسازند. نمونه‌ای از خط مراحل یک اجرا خطوط نامیده می‌شود.

در این رابط، هر مهندس می‌تواند بر روی آنچه که برایش اهمیت دارد تمرکز کند: خطوط لوله‌ای که آغاز شده‌اند یا آنهایی که توسط همکاران دیگری که در همان سرویس‌ها کار می‌کنند آغاز شده‌اند. همچنین Conveyor یک نوار جستجو (در بالا) و فیلترهای (در چپ) را فراهم می‌کند که به هماهنگی با هم می‌کارند تا همه خطوط لوله‌های اجرا شده در Grab را بررسی کنند.

ما یک مجموعه همراه برای مدل کردن تمام اطلاعات در رابطمان به کار بردیم:

آبی: مراحلی که در حال حاضر در حال اجرا هستند؛قرمز: مراحلی که شکست خورده یا اطلاعات مهمی دارند؛زرد: مراحلی که نیاز به تعامل انسانی دارند؛و در نهایت، سبز: مراحلی که با موفقیت تکمیل شده‌اند.

همچنین Conveyor یک ناحیه کار و تعاملات بشری را فراهم می‌کند که همه مراحلی که نیاز به مداخله انسانی دارند در یک مکان فهرست شده‌اند. تعاملات دستی معمولاً چیزی بیش از سوال بله یا خیر نیستند:

در نهایت، علاوه بر پشتیبانی از راه‌اندازی‌های خودکار، ما شروع راه‌اندازی‌های دستی را بسیار ساده ساختیم. به جای نیاز به کپی/چسباندن اطلاعات، هر پارامتر می‌تواند از رابط کاربری از مجموعه‌ای از آیتم‌های تعریف شده که به ترتیب زمانی مرتب شده اند، انتخاب شود و با اطلاعات‌زمینه‌ای کمکی برای مهندسان در تصمیم‌گیری‌هایشان ارائه شود.

چندین پارامتر برای راه‌اندازی‌های ما لازم است و مقادیر آن‌ها از رابط کاربری انتخاب می‌شوند تا صحت آنها تضمین شود.

سهولت در پذیرش با نسخه کد زبان خط لوله ما

سهولت در پذیرش برای تیم به معنای ساده کردن کمیت کار ابزارهای جدید نیست. ما باید آن را برای تیم‌ها به سادگی به تنظیم خدمات خود را برای راه‌اندازی با Conveyor کنیم. از آنجا که ما بر تسهیل وظایفی که قبلاً به صورت دستی انجام می‌شدند تمرکز کرده‌ایم، تنها لایه مورد نیاز برای امکان‌سازی ادغام راه‌اندازی را باید پیکربندی کنیم.

ما در ایجاد یک پیاده‌سازی خط لوله به عنوان کد، وقتی که هنوز در جامعه Spinnaker گسترده توسعه نمی‌یافت، تصمیم گرفتیم. جالب است که دو سال پس از آن، این ایده همزمان در جامعه رشد کرده است و با پیدایش سایر پیاده‌سازی‌های خط لوله به کد، رشد می‌کند. خط لوله به عنوان کد ما به عنوان DSL خط لوله شناخته می‌شود و پیکربندی آن درون مخزن هر تیم قرار دارد. هنرمند

قبل از اینکه به نحوه ساخت و استقرار چارچوب رویدادگیری و پردازش جریان را در Grab بگیریم، ما به خوشحالی اعلام می کنیم که قادر به حفظ مداومت قابل اعتماد سرویس و ادامه خدمات در نزدیکی 400 میلیارد رویداد در هفته هستیم. اما ما در همینجا متوقف نشده ایم. برای اطمینان از اینکه می توانیم چارچوب خود را به عنوان کسب و کار ادامه دهیم، تلاش برای بهینه سازی زیرساخت های خود را صرف کرده ایم.

در این مقاله، ما به بررسی عمق تر درباره نحوه راه اندازی زیرساخت Kubernetes ما برای چارچوب پردازش جریان می پردازیم. ما درباره اینکه چرا و چگونه بر مقیاس پذیری و در دسترس بودن بهینه زیرساخت خود تمرکز می کنیم صحبت خواهیم کرد.

خلاصه معماری سریع

پلتفرم Coban شامل لوله های پردازش داده مبتنی بر معماری پلاگین Golang سبک در Kubernetes است. این بنابراین کانسومرهای Kafka می باشد که داده ها را مصرف می کند، آنها را پردازش می کند و سپس نتایج را در منابع مختلف (RDMS، سایر موضوعات Kafka) ماده می کند.

آناتومی یک پاده پردازش

هر پاد پردازش جریان (کوچکترین واحد از استقرار لوله) شامل سه مؤلفه بالاتر است:

اشغالگر: رابطی است که مستقیماً به منبع داده متصل می شود و آن را به یک کانال رویداد تبدیل می کند. زمان اجرا: این نقطه ورودی برنامه و هماهنگی پاد را در اختیار دارد. این استخر کارگرها، اشغالگرها، کانالهای رویداد و رخدادهای چرخه عمر را مدیریت می کند. پلاگین لوله: این توسط کاربر ارائه می شود و با قرار دادنی که تیم پلتفرم منتشر می کند، مطابقت دارد. این حاوی منطق دامنه برای لوله می باشد و اورکسترشن لوله که توسط کاربر بر اساس چارچوب پردازش جریان ما تعریف شده است را در خود جای می دهد.

مقیاس بهینه

ابتدا معماری Kubernetes خود را در اطراف مقیاس خودکار پاد افقی (HPA) طراحی کردیم که تعداد پادهای هر استقرار را بر اساس استفاده از CPU و حافظه مقیاس می بخشد. HPA باقی می ماند و CPU و حافظه در هر پاد را که در منظر استقرار مشخص شده است نگه می دارد و هماهنگی را هنگام تغییر بار انجام می دهد.

این مناطق تلفات برنامه کاربرد را بر روی پلتفرم خود مشاهده کردیم:

از آنجا که ترافیک Grab ناپایدار است، ما همیشه باید برای ترافیک اوج امکانات فراهم کنیم. زیرا کاربران نمی توانند همیشه با رمپ ها شمری کنند، آنها بیشتر با تنظیمات محدودیت (CPU و حافظه) بی خیال می شوند که منجر به تلفات منابع می شود. پادها اغلب توزیع ترافیک ناهمگنی داشتند در علی رغم توزیع باری تقریباً یکسان در Kafka. چارچوب پردازش جریان (SPF) در واقع مصرف کننده های Kafka است که از مواضع Kafka مصرف می کنند، بنابراین تعداد پادها به داخل و خارج مقیاس می شود و باعث توزیع بار عدم تساوی بر روی هر پاد می شود.

با توجه به تعداد پاد ثابت برای لوله، ما می خواستیم از HPA دوری کنیم. ما می خواستیم پادهای خود را به عنوان بار افزایش یا کاهش اعتبار می کردند بدون هیچ مداخله دستی. مقیاس پاد عمودی (VPA) این مشکل را حل می کند زیرا از هر نوع عملیات دستی برای تنظیم منابع مورد نیاز برای استقرار خود ما را آزاد می کند.

ما فقط برنامه را استقرار می دهیم و VPA مسئول منابع مورد نیاز عملیات آن است. معروف است که به تغییرات سریع بار حساس نیست زیرا مدل خود را برای نظارت بر روی ترندهای بار استقرار در یک دوره زمانی تمرین می دهد قبل از توصیه منابع بهینه. این روند با به میادین روند تاریخی از نظر توان خام به منابع بهینه توصیه می کند.

ما بعد از رسیدن به تعداد ثابتی از پاد برای لوله، می خواستیم از HPA دوری کنیم. می خواستیم پادهای خود را به عنوان بار افزایش یا کاهش اعتبار می کردند بدون هیچ مداخله دستی. مقیاس پاد عمودی (VPA) این مشکل را حل می کند زیرا از هر نوع عملیات دستی برای تنظیم منابع مورد نیاز برای استقرار خود ما را آزاد می کند.

ما فقط برنامه را استقرار می دهیم و VPA مسئول منابع مورد نیاز عملیات آن است. معروف است که به تغییرات سریع بار حساس نیست زیرا مدل خود را برای نظارت بر روی ترندهای بار استقرار در یک دوره زمانی تمرین می دهد قبل از توصیه منابع بهینه. این روند با به میادین روند تاریخی از نظر توان خام به منابع بهینه توصیه می کند.

بعد از انتقال به VPA با تعداد ثابتی از پاد از HPA، ما حدود٪ 45 کاهش در استفاده از منابع کلی در مقابل منابع درخواست شده داشتیم.

مدیریت در دسترس بودن

به طور کلی بارهای کار ما را به دو دسته حساس به تاخیر (بحرانی) و تحمل تاخیر (غیر بحرانی) تقسیم می کنیم. به همین دلیل، ما می توانیم زمانبندی و کارایی هزینه را با استفاده از کلاس های اولویت و بیش از اندازی در انواع گوناگون گروه های نود ناهمگون در AWS بهینه کنیم.

کلاس های اولویت Kubernetes

هزینه اصلی اجرای EKS در AWS به ماشین های EC2 که نقاط کارگر برای خوشه Kubernetes را تشکیل می دهند، نسبت داده می شود. اجرای On-Demand تمام تضمینات موجودی نمونه را به همراه دارد اما قطعاً بسیار گران است. بنابراین، اولین اقدام ما برای بهینه سازی هزینه شامل درگیری Spot instances در گروه گره کارگر بود.

با تردید از از دست دادن یک نمونه Spot ، ما اولویت به برنامه های مختلف خود دادیم. سپس به کاربر اجازه دادیم اولویت خود را برای لوله خود انتخاب کند بسته به مورد کاربرد خود. اولویت های مختلف منجر به توافق همسویی مختلفی برای گروه های نوع مختلف نمونه (On-Demand / Spot) می شوند. به عنوان مثال، لوله های بحرانی (حساس به تاخیر) در گروه نود های On-Demand اجرا می شوند و لوله های غیر بحرانی (تحمل تاخیر) در گروه نود Spot نمونه اجرا می شوند.

ما از کلاس اولویت به عنوان یک روش از پیش به تداخل استفاده کردیم، و همچنین تمایل یک گروه برنامه های با اولویت خاص را برای گروه نود برای استقرار انتخاب می کند.

بیش از اندازی

با اجرای نمونه های Spot، نیاز به دریافت پاسخ سریع از خرابی ها را در خواست کردیم. ما می خواستیم برنامه هایی که از خانه های کارگر برازش کرده اند را به طور سریع انجام دهم، بنابراین ما بیش از نگاه به خطای کاربرد تخلیه نشده خود دادیم. این بدان معناست که ما برخی از نودهای بیهوده که فضای رایگان را در گروه های نود کارگر خود اشغال می کنند برای برنامه های تخلیه یا استقرار سریع اضافه کرده ایم.

پادهای بیهوده اولویت پایینتری دارند، بنابراین ممکن است توسط هر پادی که در صف انتظار برای برنامه ریزی قرار دارد قبل از برنامه ای که در صف برنامه ریزی قرار دارد، تعرض شوند. ما از autoscaler نسبی خوشه برای تصمیم درست نسبت به تعداد این پادهای بی مجهز استفاده کردیم که به میزان شناور و پایین است (به عدد نود و CPU در گروه نود کارگر). این ما را از تنظیم تعداد این پادهای بیهوده به عنوان خوشه بر می دارد که با گسترش تغییر ماتریس فضای خالی خود را رعایت می کند.

سرانجام، از بیش از اندازی نیز کمک به بهبود زمان استقرار انجام شده است زیرا وابستگی به زمان مورد نیاز برای اضافه کردن یک نود جدید به خوشه هر بار که می خواهیم برنامه جدیدی استقرار دهیم.

بهبودهای آینده

تکامل یک فرایند مداوم است. در چند ماه آینده، ما قصد داریم به منابع سفارشی برای ترکیب VPA و اندازه استقرار ثابت کار کنیم. معماری فعلی ما در حال حاضر به خوبی کار می کند، اما ما دوست داریم یک تعریف منبع سفارشی درون ساخت برای VPA ایجاد کنیم که تنظیم استقرار Kubernetes خود را در افق افقی با هم بچرخانی.

تهیه شده توسط Shubham Badkur به نام تیم Coban در مجله زیبایی و درمانی آذروت - Ryan Ooi، Karan Kamath، Hui Yang، Yuguang Xiao، Jump Char، Jason Cusick، Shrinand Thakkar، Dean Barlan، Shivam Dixit، Andy Nguyen و Ravi Tandon.

به تیم ما بپیوندید

مجله زیبایی و درمانی آذروت یک سوپراپ برجسته در جنوب شرق آسیا است که خدمات روزانه ای را ارائه می دهد که برای مصرف کنندگان مهم است. بیش از یک برنامه تاکسی و تحویل غذا، مجله زیبایی و درمانی آذروت خدمات متنوعی در منطقه ارائه می دهد، از جمله حمل و نقل، غذا، بسته بندی و خدمات خرید مواد غذایی، پرداخت های موبایلی و خدمات مالی در بیش از 400 شهر در هشت کشور.

قدرت گرفته از فناوری و تحت تأثیر قلب، ماموریت ما ارائه قدرت اقتصادی برای جنوب شرق آسیا با ایجاد توانمندی های اقتصادی برای همه است. اگر این ماموریت به شما صحبت می کند، امروز به تیم ما بپیوندید!

از زمان‌های نیایشی شروع شده، مجله زیبایی و درمانی آذروت در چند سال اخیر در بازارهای مختلف گسترش یافته است. ما مجموعه‌ای از ویژگی‌های متنوع را به پلتفرم مجله زیبایی و درمانی آذروت اضافه کرده‌ایم تا همچنان مشتریان و رانندگان همکار را به خوشحالی بپیوندیم. برای پشتیبانی بهتر از ویژگی‌های جدید باید راه‌حل‌های موجود را بهبود دهیم.

در این وبلاگ، درباره چگونگی ساخته شدن Fare Storage، محل ذخیره سازی داده‌های صحیح دریافتی Grab صحبت می‌کنیم و چگونه موانع را برطرف کردیم تا آن را قابل اعتماد و قابل مقیاس نمایی کنیم تا ویژگی‌های گسترده تری را پشتیبانی کند.

برای تعیین برخی اصطلاحات کلیدی پیش از ادامه این وبلاگ، بیایید تعریفی از آنها ارائه دهیم. Fare یک مبلغ دلاری است که برای جابجایی فرد یا چیزی از نقطه الف به نقطه ب محاسبه می‌شود. و Fee مبلغی دلاری است که به مبلغ فرعی اصلی اضافه یا کم شده وابسته به هر سرویس اضافی.

حال که با مفاهیم کلیدی آشنا شدید، بیایید به تصویر زیر نگاهی بیندازیم. آن نشان می‌دهد که ویژگی‌هایی مانند Destination Change Fee، Waiting Fee، Cancellation Fee، Tolls، Promos، Surcharges و موارد دیگر اطلاعات برش اضافی را به همراه مبلغ اصلی ذخیره می‌کنند. این مجموعه اطلاعات برای تولید رسیدها و رفع اشکالات فرایندها بسیار حیاتی است. با این حال، سامانه ذخیره ارثی ما برای میزبانی مقادیر غولانه اطلاعات به طور کارآمد طراحی نشده بود.

در معماری ارثی خود، تمام اطلاعات رزرو و مربوط به Fare را در یک جدول پایگاه داده رابطه‌ای ذخیره می‌کردیم. افزودن فیلدها و برش‌های جدید در Fare نیازمند تغییرات در سیستم رزرو بحرانی ما بود که باعث شده بود تکرارها به طور گسترده گران و مانع از نوآوری شوند.

نیاز به ذخیره اطلاعات Fare و متادیتا برای هر ویژگی اضافی همراه با سایر اطلاعات رزرو منجر به وجود یک موجودیت رزرو بزرگ شده بود. با میلیون‌ها رزرو ایجاد شده در روز در Grab، این موجب تهدید برای مقیاس‌پذیری و پایداری سرویس ذخیره‌گاه رزرو ما شد. علاوه بر این، سیستم ذخیره ارثی تنها مقدار آخرین Fare را ردیابی می‌کرد و دید جامعی از همه تغییرات Fare را فاقد بود. بنابراین، رفع اشکال Fare نیز یک کار عظیم برای تیم های مهندسی و عملیات فنی ما بود.

نیازمندی‌های عملیاتی مهم برای فروشگاه Fare جدید شامل:

ارائه یک پلتفرم برای ذخیره و بازیابی Fare و برش همراه به همراه استفاده کنندگان از نظام زیبایی و درمان آذروت.فراهم کردن یک منبع تکی برای صحت Fare و هزینه‌های وابسته در جامعه زیبایی و درمان آذروت.امکان دسترسی کاربران به متادیتای رویدادهای تغییر Fare به صورت زمان واقعی که به تیم محصول امکان نوآوری آزاد را می‌دهد.فراهم ساختن دسترسی سریع به دنباله رویدادهای Fare و بهبود زمان پاسخ به پرسش‌های مشتریان ما.

نیازمندی‌های غیرعملیاتی برای فروشگاه Fare عبارتند از:

قابلیت های مطلوب بالا برای API خواندن و نوشتن با تاخیر چند میلی ثانیه.بهبود همروندی بروزرسانی های همزمان به Fare.شناسایی رویدادهای تکراری برای رزرو یک سفر برای یک تراکنش مشابه.

ذخیره سازی دنباله تغییر با استفاده از الگوی Event Sourcing

راه حل ذخیره‌سازی ارثی ما از یک طرح تعریف شده استفاده می‌کند و فقط حالت آخرین Fare را ذخیره می‌کند. به ما نیاز بود یک سیستم ذخیره سازی بر اساس ردیابی رویدادها با قابلیت پرس و جو سریع بسازیم که تغییرات را به ترتیب زمانی آنها ذخیره و بازیابی کند.

با الگوی Event Sourcing، تمام تغییرات Fare را به عنوان رویدادها در ترتیبی که برای آن صدق کرده اند برای یک رزرو ذخیره می‌کنیم. ما از طریق این رویدادها حرکت می‌کنیم تا تصویر کاملی از تغییرات به Fare به دست آوریم.

یک نمونه رویداد Fare به صورت زیر است:

messageEvent{// نوع رویداد، ADD، SUB، SET، resilientEventTypetype=1;// مقدار اضافه شده، کم شده یا تغییر می‌کندoublevalue=2;// Fare برای رزرو پس از اعمال تخفیفdoublefare=3;...// بایت توضیحات تولید شده توسط SDKbytesdescription=11;// شناسه تراکنش برای EventTypestringtransactionID=12;}

الگوی Event Sourcing همچنین امکان استفاده از الگوی CQRS را برای جداسازی مسئولیت خواندن برای استفاده های مختلف فراهم می‌کند.

مشتریان چرخه عمر Fare از طریق یک SDK با سرویس Fare LifeCycle تعامل می‌کنند. این SDK امکانات مختلفی از جمله سریالیزاسیون متادیتا، دیسریالیزاسیون، تکرارها و تنظیمات زمان بندی را ارائه می‌دهد.

سرویس Fare LifeCycle Store از DynamoDB به عنوان فروشگاه رویداد استفاده می‌کند تا رویدادهای تغییر Fare را ذخیره و خواندن کند که برای خواندن های مطمئنی از طریق کش استفاده می‌شود. برای پردازش های بیشتر مانند آرشیو کردن و تولید رسیدها، رویدادهای به روز شده با موفقیت به سیستم صف پیام ها منتقل می‌شوند.

تقسیم مسئولیت اصلاح Fare منجر به این می شود که چندین سرویس ممکن است بدون همگام سازی قبلی عملیات به روز رسانی Fare را همزمان انجام دهند. به روز رسانی های Fare همزمان برای یک رزرو ممکن است به شرایط مسابقه ای منجر شود. همیشه مشکلات همروندی و سازگاری نکات برجسته سیستم های ذخیره سازی توزیع شده هستند.

بیایید بفهمیم چرا ترتیب به روز رسانی Fare مهم است. قوانین تجاری برای شهرها و کشورها بر اساس شرایط بازار محلی و قوانین مربوطه قیمت گذاری را تنظیم می‌کنند. به عنوان مثال، در برخی حالت ها، Tolls و Waiting Fees ممکن است برای تخفیفات و تبلیغات واجد شرایط نباشند. سرویسی که تخفیفات را اعمال می کند باید این اطلاعات را در نظر بگیرد. بنابراین، به روز رسانی های Fare مستقل از رویدادهای Fare قبلی نیست.

نیاز به یک مکانیزم برای شناسایی شرایط مسابقه و کنترل آنها بود تا صحت Fare را تضمین کنیم. برای کنترل شرایط مسابقه بر اساس مورد استفاده ما، ما مکانیزم های قفل گذاری تاکیدگرا و بهینه را بررسی کردیم.

همه رویدادهای تغییر Fare مورد انتظار بر اساس برخی شرایط صحیح یا غلط رخ می دهند. به عنوان مثال، کمتر از 1٪ رزروها دارای درخواست تغییر پرداخت است که توسط مسافران در طول سفر ایجاد می شود. و احتمال اینکه چندین تغییر مشابه در یک رزرو رخ دهد کم است. قفل گذاری بهینه به همین دلیل برای نیازهای ما که احتمال شرایط مسابقه پایین و رکوردها مستقل از هم هستند، همزمانی و صحیحی را فراهم میکند.

منطق محاسبه Fare/Surcharge با منطق کسب و کار سیستم که مؤلفه Fare یا هزینه را محاسبه می کند، انتزاع مرتبط است. بنابراین، کنترل شرایط مسابقه در لایه ذخیره سازی داده قابل قبول نبود. منطق تراکنش های به روز رسانی روی نگاشتی از نسخه Fare باشد و با افزایش برخورد و پس انداز هزینه استفاده می شود. بنابراین، موجب می شود که مشتریان از این نگاشت درخواست خواندن کنند و با Fare بازنویسی شود.

همانندی رویداد‌های بروز رسانی مشتری برای ما چالشی بود - اطمینان حاصل کردن از عدم تکرار آنها