Netflix 作為全球知名的串流媒體巨頭，憑藉其高度個人化的用戶介面和極高的系統穩定性，為超過 2.4 億用戶提供無縫的娛樂體驗。無論您是坐在香港的梳化上，還是美國的咖啡店裏，Netflix 的服務都能即時呈現您最感興趣的內容。那麼，這背後的技術秘密是什麼？答案之一便是 Netflix 與 AWS 的合作，以及其專為高效緩存而設計的 EV Cache 系統。
在 AWS re:Invent 會議上，Netflix 的工程師團隊揭開了這一緩存系統的設計及其全球數據複製架構的奧秘，這不僅是一場技術的深度剖析，更是一場對如何高效應對全球數據流量挑戰的精彩分享。
Netflix 的挑戰：全球用戶體驗與高效數據串流
Netflix 的使命是「為全球觀眾帶來娛樂和喜悅」，而這一使命的實現背後隱藏著巨大的挑戰。例如，當您打開 Netflix，點擊您最愛的影集時，是否曾感覺到等待超過一分鐘？答案是幾乎沒有。這得益於 Netflix 在全球範圍內構建的強大緩存系統，使得無論用戶在哪裏，點擊影片後都能即時開始播放。
然而，這並不容易實現：
- 全球用戶數據的快速同步：Netflix 每天需要處理來自超過 2.4 億用戶的數據請求，並且每個用戶的首頁都是高度個人化的。這意味著，數據的本地化和快速同步至關重要。
- 高可用性與容錯能力：在 Netflix 的全球架構中，任何區域的故障都可能導致數據存取中斷。因此，如何實現多區域的數據複製與同步成為了關鍵技術挑戰之一。
解決方案：EV Cache 與全球數據複製架構
什麼是 EV Cache？
EV Cache 是 Netflix 專為高效緩存設計的分佈式系統，名稱中的「EV」代表 Ephemeral Volatile Cache（臨時性緩存）。雖然名稱中的「Volatile」意指易失性，但實際上，EV Cache 的數據是基於 SSD 硬碟儲存的，並且透過多區域數據複製實現了極高的穩定性和可用性。
該系統每秒處理超過 30 億次數據請求，儲存了超過 14.3 PB（Petabytes）的數據，並透過遍佈全球的 AWS 基礎設施提供支持。
為什麼需要全球數據複製？
在緩存系統中進行數據複製似乎是一種反直覺的設計，因為緩存數據通常僅用於短期存取。然而，Netflix 的特殊業務需求讓數據複製成為不可或缺的一部分：
- 區域故障切換：假設某個區域的服務因故障中斷，Netflix 會將該區域的用戶流量切換到其他區域。如果沒有數據複製，用戶的數據會缺失，導致緩存未命中（Cache Miss），進而需要直接存取後端數據庫。對於 Netflix 這種規模的服務來說，這將對數據庫造成極大的壓力，甚至可能導致整體系統崩潰。
- 個人化推薦的高效支援：Netflix 的首頁是高度個人化的，許多推薦算法依賴於緩存數據。如果緩存數據未能及時同步，則需要重新計算這些算法，這不僅耗時，還會導致運算成本大幅增加。
設計目標與技術架構
Netflix 的全球數據複製服務由多個微服務組成，並基於 AWS 的 Kafka、SQS 和分佈式緩存架構實現。以下是其核心設計目標：
- 低延遲：確保所有跨區域的數據複製在 2 秒內完成，以滿足用戶對快速響應的需求。
- 高可用性：即使在單個區域發生故障時，其他區域的服務也能正常運行，確保用戶不受影響。
- 彈性擴展：該系統能夠根據流量動態擴展，尤其是在節日或熱門節目上線期間（如《魷魚遊戲》發佈時），能夠快速應對流量高峰。
如何實現全球數據複製？
Netflix 的數據複製服務由以下關鍵組件構成：
- EV Cache Client：負責處理應用的數據變更請求，並將相關元數據發送至 Kafka。
- Kafka：作為數據變更事件的消息隊列，負責將數據從一個區域傳輸到另一個區域。
- Replication Reader & Writer：分別負責讀取 Kafka 消息和將數據寫入目標區域的緩存服務。
- SQS（Simple Queue Service）：作為備援機制，在數據傳輸失敗時進行重試，確保數據的最終一致性。
該架構能處理每秒 30 億次應用事件，並在全球範圍內實現高效數據同步。
效率提升：降低成本與最佳化性能
隨著 Netflix 的用戶量與數據量的持續增長，如何降低營運成本成為了一個重要議題。以下是 Netflix 最近的一些性能與成本優化成果：
- 批量壓縮數據：透過壓縮跨區域傳輸的數據包大小，Netflix 將網絡頻寬使用量減少了 35%，從而大幅降低了雲端成本。
- 替代負載均衡器：透過引入客戶端側負載均衡算法，Netflix 在跨區域數據傳輸成本上實現了 50% 的降低，同時保持了數據傳輸的高可靠性與低延遲。
了解更多：（按此連結）
