Netflix ส่งเสริมประสบการณ์สตรีมมิ่งที่ราบรื่น

สรุปข้อมูลผู้บริหาร

Netflix พยายามพลิกโฉมความบันเทิงภายในบ้านและมอบประสบการณ์ที่เชื่อถือได้และปรับแต่งได้ให้กับสมาชิก 260 ล้านคนบนอุปกรณ์ทุกชนิด เพื่อให้บรรลุผลดังกล่าว Netflix จะต้องเร่งการเคลื่อนย้ายข้อมูลและปริมาณงาน AI โดยใช้เทคโนโลยีขั้นสูง เช่น อินสแตนซ์ Amazon EC2 ที่รองรับโดย โปรเซสเซอร์ Intel® Xeon® ในร่วมงานกับ Intel ฝ่าย Netflix:
 

• ปรับแต่งอินสแตนซ์ Amazon ในระดับไมโครสถาปัตยกรรมเพื่อเพิ่มประสิทธิภาพและลดการใช้จ่ายบนคลาวด์ หลังจากอัปเกรดอินสแตนซ์ EC2 แล้ว Netflix ก็ได้รับการปรับปรุงประสิทธิภาพ 3.5 เท่าต่อ CPU ซึ่งเกินการปรับขนาดเชิงเส้นที่คาดไว้¹
• ใช้ชุดคำสั่ง Intel® oneAPI Deep Neural Network Library (oneDNN) และIntel® Advanced Vector Extensions (Intel® AVX-512) เพื่อเพิ่มความเร็วการเข้ารหัสวิดีโอในช่วงเวลาที่ความต้องการของผู้ใช้ลดลง โซลูชันของ Intel ให้การปรับปรุงที่สำคัญในการเข้ารหัสแบบเฟรมต่อวินาที

ความท้าทาย

Netflix พยายามส่งมอบเนื้อหาตามความต้องการที่ราบรื่นไปยังฐานลูกค้าทั่วโลก ไม่ว่าพวกเขาจะใช้อุปกรณ์ใดก็ตามในการรับชม กระบวนการนี้ต้องมีไมโครเซอร์วิสหลายอย่างที่ได้รับการปรับให้เหมาะกับปริมาณงานที่รองรับประสบการณ์ของสมาชิก ไมโครเซอร์วิสแบ็กเอนด์บางอย่างต้องจัดการงานการพัฒนาเนื้อหา การเรนเดอร์ และการเข้ารหัส ในด้านที่ติดต่อกับผู้ใช้ สมาชิก Netflix จำเป็นต้องมีมุมมองหน้าแรกที่ได้รับการปรับแต่งเพื่อระบุและแนะนำเนื้อหาที่เกี่ยวข้องมากที่สุดจากชื่อหลายพันรายการ นอกจากนี้ Netflix ยังมุ่งมั่นอย่างต่อเนื่องที่จะให้บริการสมาชิกด้วยความบันเทิงที่ยอดเยี่ยมและคุณภาพการสตรีมที่ยอดเยี่ยมซึ่งพร้อมให้บริการตลอดเวลา

กราฟแสดงรายละเอียดของ CPU ตามโหนด ในขณะที่การวิเคราะห์พบการกระจายการรับส่งข้อมูลระหว่างโหนดโดยประมาณที่เท่ากัน การวัด CPU แสดงให้เห็นรูปแบบการกระจายแบบไบโมดัลที่แตกต่างกัน¹

เพื่อให้งานเหล่านี้ทั้งหมดและงานอื่นๆ สำเร็จ Netflix ต้องมีโซลูชันคลาวด์ที่เชื่อถือได้ ปรับขนาดได้สูงและพร้อมใช้ AI ที่มีเครื่องมือขั้นสูงเพื่อลดความซับซ้อนในการแก้ไขปัญหาหากเกิดปัญหาขึ้น ตัวอย่างเช่น ทีมงาน Netflix ค้นพบความท้าทายด้านเวลาแฝงที่ไม่คาดคิดขณะประเมินประสิทธิภาพอินสแตนซ์ Amazon EC2 พวกเขาต้องมีวิธีที่มีประสิทธิภาพในการประเมินอินสแตนซ์จนถึงระดับไมโครสถาปัตยกรรมของ CPU เพื่อเร่งปริมาณงานในขณะที่ลดการใช้จ่ายบนคลาวด์ให้เหลือน้อยที่สุด

โซลูชั่น

เพื่อมอบประสบการณ์การสตรีมที่รวดเร็วและปรับแต่งได้ตามความต้องการแก่สมาชิก Netflix จึงใช้พลังของอินสแตนซ์ Amazon EC2 ที่รองรับโปรเซสเซอร์ Intel® Xeon® ทีมประสิทธิภาพของ Netflix ทำงานอย่างใกล้ชิดกับ Intel เพื่อตรวจสอบปฏิสัมพันธ์ของซอฟต์แวร์กับทรัพยากรฮาร์ดแวร์ที่มีอยู่ และระบุปัญหาคอขวด Intel® VTuneTM Profiler พบส่วนของโค้ดที่ไม่ได้ใช้เวลาประมวลผลอย่างเหมาะสม Intel® PerfSpect ให้ข้อมูลเชิงลึกเพิ่มเติมโดยการประเมินระบบย่อยทางสถาปัตยกรรมขนาดเล็กและลำดับที่มีการเขียนโปรแกรม หลักๆ แล้ว เครื่องมือเหล่านี้ช่วยระบุจุดคอขวดของอินสแตนซ์ในชุดคำสั่งภายใน Java Virtual Machine

เวลาแฝงที่ลดลงอย่างมีนัยสำคัญที่เกิดขึ้นหลังจากการระบุและแก้ไขปัญหาการแชร์ที่แท้จริงนั้นแสดงให้เห็นอย่างชัดเจนในกราฟนี้¹

ด้วยการใช้อินสแตนซ์ของ Amazon ที่มีโปรเซสเซอร์ Intel Xeon พื้นฐานแทนที่จะเป็น GPU ทำให้ Netflix พบวิธีประหยัดเงินโดยใช้แต่ละอินสแตนซ์เพื่อทำงานหลายอย่างให้เสร็จสิ้น ในช่วงชั่วโมงรับชมที่มีการใช้งานสูงสุด อินสแตนซ์ของ Amazon สามารถมุ่งเน้นทรัพยากรไปที่การสตรีม เมื่อความต้องการของผู้ใช้ลดลง อินสแตนซ์สามารถโอนพลังการประมวลผลเพื่อเร่งการเข้ารหัสวิดีโอ

ผลลัพธ์

ด้วยการสนับสนุนของ Intel เพื่อระบุปัญหาคอขวดของอินสแตนซ์ Netflix จึงตระหนักถึงการปรับปรุงประสิทธิภาพต่อ CPU 3.5 เท่า เมื่อเทียบกับปริมาณการประมวลผลเริ่มต้นบนอินสแตนซ์ Amazon EC2¹ พวกเขายังได้รับประโยชน์จากการลดเวลาแฝงโดยเฉลี่ยและส่วนท้ายลงอย่างมาก² บริษัทอื่นๆ ที่ใช้เวิร์กโหลด Java ยังสามารถได้รับประโยชน์จากแนวทางการเพิ่มประสิทธิภาพ CPU ของ Netflix เนื่องจาก Intel จัดการกับแหล่งที่มาของเวลาแฝงใน Java Development Kit แบบเปิด

ด้วยการใช้ oneDNN ซึ่งใช้ชุดคำสั่ง Intel AVX นั้น Netflix อ้างว่ามีการปรับปรุงการเข้ารหัสเฟรมต่อวินาทีเพิ่มขึ้นอย่างมาก โดยให้คุณภาพวิดีโอที่ยอดเยี่ยมบนอุปกรณ์ทั้งหมด

อินสแตนซ์ Amazon ของ Netflix ที่ใช้โปรเซสเซอร์ Intel Xeon ยังสามารถตอบสนองวัตถุประสงค์หลายประการได้อย่างมีประสิทธิภาพโดยใช้การปรับขนาดอัตโนมัติ ประสิทธิภาพที่ได้รับจาก CPU ช่วยให้ Netflix ลดจำนวนอินสแตนซ์ที่จำเป็นสำหรับปริมาณงานที่มีความสำคัญต่อภารกิจ และลดการใช้จ่ายโครงสร้างพื้นฐานระบบคลาวด์โดยรวมได้อย่างมาก

สรุปโซลูชัน

• โปรเซสเซอร์ Intel® Xeon®
• Intel® oneAPI Deep Neural
• ไลบรารีเครือข่าย
• Intel® Deep Learning Boost
• ด้วย Vector Neural Network
• Instructions (VNNI)
• Intel® Advanced Vector
• Extensions 512 (Intel® AVX 512)
• โพรไฟเลอร์ Intel® VTune™
• Intel® PerfSpect
• อินสแตนซ์ Amazon EC2

ดาวน์โหลด PDF ›