ओरिजिन रेंज रिक्वेस्ट्स: रेंज-रिक्वेस्ट ट्यूनिंग के बिना बड़ी फ़ाइलें सर्व करना

परिचय और मुख्य बातें

क्लाउडफ्लोरे ने 'ओरिजिन रेंज रिक्वेस्ट्स' (Origin Range Requests) को सभी प्लान्स पर सेल्फ-सर्विस फीचर के रूप में उपलब्ध कराने की घोषणा की है। यह सुविधा उपयोगकर्ताओं को रेंज साइज को ट्यून किए बिना या सपोर्ट से संपर्क किए बिना बड़ी फाइलों के लिए रेंज अनुरोधों को प्रबंधित करने की अनुमति देती है। क्लाउडफ्लोरे के पिंगोरा-आधारित (Pingora-based) कैशिंग सर्वर द्वारा संचालित, यह नया कार्यान्वयन पिछले स्थिर ज़ोन कॉन्फ़िगरेशन को हटा देता है। क्लाउडफ्लोरे R2 ऑब्जेक्ट स्टोरेज के लिए, p99 टाइम टू फर्स्ट बाइट लगभग आधा हो गया है, और इसके बाद के सुधारों ने R2 और इसी तरह के वर्कलोड के लिए टियर्ड कैश ट्रैफिक को लगभग 6% तक कम कर दिया है।

रेंज अनुरोध और पिछली सीमाएं

HTTP रेंज अनुरोध क्लाइंट को पूरी फाइल के बजाय किसी संसाधन के एक विशिष्ट हिस्से का अनुरोध करने की अनुमति देता है। वीडियो स्ट्रीमिंग, डाउनलोड फिर से शुरू करने और पैकेज प्रबंधकों के लिए ये अनुरोध आम हैं। पहले, क्लाउडफ्लोरे एनजिंक्स (nginx) के माध्यम से कैश-स्लाइसिंग जैसा एक स्थिर ज़ोन कॉन्फ़िगरेशन उपयोग करता था। इससे बड़ी समस्याएं आती थीं: छोटे रेंज से ओरिजिन पर अत्यधिक अनुरोध और मेमोरी दबाव बढ़ता था, जबकि बड़े रेंज के कारण क्लाउडफ्लोरे को जरूरत से ज्यादा डेटा डाउनलोड करना पड़ता था। इसके अलावा, समवर्ती अनुरोध (concurrent requests) एक-दूसरे को ब्लॉक कर सकते थे।

नया पिंगोरा-आधारित चंक आर्किटेक्चर

एनजिंक्स से पिंगोरा-आधारित कैशिंग सर्वर पर जाने से इन वास्तुशिल्प बाधाओं को दूर किया गया। पिंगोरा डिस्क पर प्रत्येक कैશ્ड फ़ाइल को निश्चित आकार के चंक्स (chunks) में संग्रहीत करता है, जिससे कस्टम रेंज साइज सेटिंग की आवश्यकता समाप्त हो जाती है। रेंज अनुरोध आने पर, क्लाउडफ्लोरे कैश्ड बाइट्स को सीधे सर्व करता है और लापता बाइट्स को चंक सीमाओं के साथ संरेखित करके ओरिजिन से प्राप्त करता है।

कैश्ड और इन-फ्लाईट डेटा का समन्वय

रेंज अनुरोधों को संभालने के लिए एक साधारण कैश लुकअप के बजाय एक परिष्कृत समन्वयक (coordinator) की आवश्यकता होती है। सिस्टम एसेट हेडर और मेटाडेटा की जांच करता है, डिस्क या मेमोरी से उपलब्ध हिस्सों को पढ़ता है, संरेखित सीमाओं का उपयोग करके ओरिजिन से गायब कवरेज प्राप्त करता है, और सही Content-Range तथा Content-Length हेडर के साथ टुकड़ों को जोड़ता है। यदि कोई मौजूदा डाउनलोड दूसरे अनुरोध के बाइट्स को कवर करता है, तो बाद के अनुरोध उस सक्रिय डाउनलोड से जुड़ सकते हैं।

प्रदर्शन प्रभाव और उपलब्धता

व्यापक रिलीज़ से पहले, क्लाउडफ्लोरे ने मौजूदा उपयोगकर्ताओं को इस नए कार्यान्वयन पर माइग्रेट किया। क्लाउडफ्लोरे R2 के लिए, जहां पुराना रेंज साइज 64 MiB था, इस बदलाव ने कैश हिट और मिस दोनों पर p99 टाइम टू फर्स्ट बाइट को लगभग आधा कर दिया। इसके अतिरिक्त, R2 के लिए टियर्ड कैश ट्रैफिक प्रति सप्ताह लगभग 6% कम हो गया। ओरिजिन रेंज रिक्वेस्ट्स अब सभी प्लान्स पर उपलब्ध है और इसे केवल एक कैश रूल बनाकर और ओरिजिन रेंज रिक्वेस्ट्स को ऑन पर सेट करके सक्षम किया जा सकता है।