คลังเก็บป้ายกำกับ: CLOUDFLARE_TIERED_CACHE

Cloudflare ออก Smart Tiered Cache Topology

Cloudflare ได้ออกมาแนะนำถึงกลไกของการทำ Tier ที่ฉลาดขึ้นในการทำ Caching เพื่อลดการเข้าถึงเซิร์ฟเวอร์จริง (Origin)

credit : https://blog.cloudflare.com/

การทำ Caching จะช่วยลดการ Request ของผู้ใช้จากการวิ่งตรงเข้าไปยังเซิร์ฟเวอร์จริง (Origin) ซึ่งโดยทั่วไปจะเลือกให้ Data Center เป็น Reverse Proxy ตามรูปประกอบด้านบน อย่างไรก็ดีต้องเข้าใจก่อนว่าหากเรียกข้อมูลใน Cache ใน Data Center ไม่เจอ (Cache Miss) ก็ต้องมีการไป Copy ข้อมูลมาจากเซิร์ฟเวอร์จริงอยู่ดี แม้ว่าจะมีข้อมูลอยู่ใน Data Center อื่นก็ตาม แต่ด้วยความที่ไม่รู้จักข้อมูลซึ่งกันและกัน สุดท้ายแล้ว Cloudflare จึงได้คิดวิธีการแก้ปัญหาเรื่องการลดอัตราการเกิด Cache Miss และสร้างเส้นทางที่ดีที่สุดให้แก่การ Request ด้วย Tiered Cache

Tiered Cache มีไอเดียเหมือน Tree Structure (ลด Cost ของการ Search) คือเลือก Data Center หนึ่งมาเป็น Cache ให้ Data Center อื่นๆ (ตามภาพประกอบด้านล่าง) โดยวิธีการเลือกว่าจะให้ Data Center ไหนเป็น Cache หลักจะอยู่ภายใต้ส่วนที่เรียกว่า Topology อย่างไรก็ดีปัญหาคือวิธีการนี้ยังไม่ดีที่สุดเพราะบางทีเส้นทางของเซิร์ฟเวอร์ปลายทางของลูกค้า Cloudflare ไม่อาจรู้ได้จึงไม่เห็นภาพรวม ดังนั้นบางองค์กรก็ต้องทำงานร่วมกับ Cloudflare เพื่อประกอบให้ได้กระบวนการที่เหมาะสม

credit : https://blog.cloudflare.com/

ด้วยเหตุนี้เองปกติแล้ว Cloudflare ก็พยายามใช้ Topology กลางๆ (Generic) ที่ได้ผลดีประมาณนึง ให้สามารถบาลานซ์ความเป็นกลางของ Latency และอัตราของ Cache Hit ซึ่งโดยไอเดียก็คือมักเลือก Data Center ที่มีขนาดใหญ่และอยู่ใน Geolocation เดียวกันเป็นตัวแทนของเซิร์ฟเวอร์จริง รวมถึงมีวิธีการจัดการปัญหาหาก Data Center ที่เป็น Cache ล่มไป

ล่าสุด Smart Topology ก็คือวิธีการพิเศษที่ช่วยให้กระบวนการ Tiered Cache มีความชาญฉลาดขึ้น โดย Cloudflare จะมีการดู IP Geolocation และทำ TCP Handshake เพื่อดู Latency ระหว่าง Data Center ไปยังเซิร์ฟเวอร์จริงที่มีค่าน้อยที่สุดเพื่อเลือกเส้นทางที่ดีที่สุด อย่างไรก็ดีวิธีการนี้ตั้งอยู่บนสมมติฐานที่ว่าเซิร์ฟเวอร์จริงตั้งอยู่ในพิกัดเดียว นอกจากนี้ยังมีการพยายามจัดการปัญหาหากมีการทำ Anycast ในผู้ให้บริการ Cloud ระหว่างเส้นทางไปยังเซิร์ฟเวอร์ที่จะทำให้การวัด Latency ไม่แม่นยำ แต่ Cloudflare ก็อ้างอิงตามข้อมูลทั้งหมดที่ตนพึงวัดได้โดยไม่ต้องร้องขอข้อมูลจากผู้ใช้ สนใจข้อมูลเพิ่มเติมศึกษาได้ที่ https://blog.cloudflare.com/introducing-smarter-tiered-cache-topology-generation/

ที่มา :  https://blog.cloudflare.com/tiered-cache-smart-topology/

from:https://www.techtalkthai.com/how-cloudflare-smart-tiered-cache-topology-works/