สรุปข้อมูลผู้บริหาร
Netflix พยายามพลิกโฉมความบันเทิงภายในบ้านและมอบประสบการณ์ที่เชื่อถือได้และปรับแต่งได้ให้กับสมาชิก 260 ล้านคนบนอุปกรณ์ทุกชนิด เพื่อให้บรรลุผลดังกล่าว Netflix จะต้องเร่งการเคลื่อนย้ายข้อมูลและปริมาณงาน AI โดยใช้เทคโนโลยีขั้นสูง เช่น อินสแตนซ์ Amazon EC2 ที่รองรับโดย โปรเซสเซอร์ Intel® Xeon® ในร่วมงานกับ Intel ฝ่าย Netflix:
- ปรับแต่งอินสแตนซ์ Amazon ในระดับไมโครสถาปัตยกรรมเพื่อเพิ่มประสิทธิภาพและลดการใช้จ่ายบนคลาวด์ หลังจากอัปเกรดอินสแตนซ์ EC2 แล้ว Netflix ก็ได้รับการปรับปรุงประสิทธิภาพ 3.5 เท่าต่อ CPU ซึ่งเกินการปรับขนาดเชิงเส้นที่คาดไว้1
- ใช้ชุดคำสั่ง Intel® oneAPI Deep Neural Network Library (oneDNN) และIntel® Advanced Vector Extensions (Intel® AVX-512) เพื่อเพิ่มความเร็วการเข้ารหัสวิดีโอในช่วงเวลาที่ความต้องการของผู้ใช้ลดลง โซลูชันของ Intel ให้การปรับปรุงที่สำคัญในการเข้ารหัสแบบเฟรมต่อวินาที
ควบคุมพลังของ AI และเร่งความเร็วแอปพลิเคชันทั่วทั้งองค์กรของคุณ ค้นพบว่า AI ที่ขับเคลื่อนโดย Intel Xeon สามารถทำงานให้คุณได้อย่างไร
ความท้าทาย
Netflix พยายามส่งมอบเนื้อหาตามความต้องการที่ราบรื่นไปยังฐานลูกค้าทั่วโลก ไม่ว่าพวกเขาจะใช้อุปกรณ์ใดก็ตามในการรับชม กระบวนการนี้ต้องมีไมโครเซอร์วิสหลายอย่างที่ได้รับการปรับให้เหมาะกับปริมาณงานที่รองรับประสบการณ์ของสมาชิก ไมโครเซอร์วิสแบ็กเอนด์บางอย่างต้องจัดการงานการพัฒนาเนื้อหา การเรนเดอร์ และการเข้ารหัส ในด้านที่ติดต่อกับผู้ใช้ สมาชิก Netflix จำเป็นต้องมีมุมมองหน้าแรกที่ได้รับการปรับแต่งเพื่อระบุและแนะนำเนื้อหาที่เกี่ยวข้องมากที่สุดจากชื่อหลายพันรายการ นอกจากนี้ Netflix ยังมุ่งมั่นอย่างต่อเนื่องที่จะให้บริการสมาชิกด้วยความบันเทิงที่ยอดเยี่ยมและคุณภาพการสตรีมที่ยอดเยี่ยมซึ่งพร้อมให้บริการตลอดเวลา
กราฟแสดงรายละเอียดของ CPU ตามโหนด ในขณะที่การวิเคราะห์พบการกระจายการรับส่งข้อมูลระหว่างโหนดโดยประมาณที่เท่ากัน การวัด CPU แสดงให้เห็นรูปแบบการกระจายแบบไบโมดัลที่แตกต่างกัน1
เพื่อให้งานเหล่านี้ทั้งหมดและงานอื่นๆ สำเร็จ Netflix ต้องมีโซลูชันคลาวด์ที่เชื่อถือได้ ปรับขนาดได้สูงและพร้อมใช้ AI ที่มีเครื่องมือขั้นสูงเพื่อลดความซับซ้อนในการแก้ไขปัญหาหากเกิดปัญหาขึ้น ตัวอย่างเช่น ทีมงาน Netflix ค้นพบความท้าทายด้านเวลาแฝงที่ไม่คาดคิดขณะประเมินประสิทธิภาพอินสแตนซ์ Amazon EC2 พวกเขาต้องมีวิธีที่มีประสิทธิภาพในการประเมินอินสแตนซ์จนถึงระดับไมโครสถาปัตยกรรมของ CPU เพื่อเร่งปริมาณงานในขณะที่ลดการใช้จ่ายบนคลาวด์ให้เหลือน้อยที่สุด
โซลูชั่น
เพื่อมอบประสบการณ์การสตรีมที่รวดเร็วและปรับแต่งได้ตามความต้องการแก่สมาชิก Netflix จึงใช้พลังของอินสแตนซ์ Amazon EC2 ที่รองรับโปรเซสเซอร์ Intel® Xeon® ทีมประสิทธิภาพของ Netflix ทำงานอย่างใกล้ชิดกับ Intel เพื่อตรวจสอบปฏิสัมพันธ์ของซอฟต์แวร์กับทรัพยากรฮาร์ดแวร์ที่มีอยู่ และระบุปัญหาคอขวด Intel® VTuneTM Profiler พบส่วนของโค้ดที่ไม่ได้ใช้เวลาประมวลผลอย่างเหมาะสม Intel® PerfSpect ให้ข้อมูลเชิงลึกเพิ่มเติมโดยการประเมินระบบย่อยทางสถาปัตยกรรมขนาดเล็กและลำดับที่มีการเขียนโปรแกรม หลักๆ แล้ว เครื่องมือเหล่านี้ช่วยระบุจุดคอขวดของอินสแตนซ์ในชุดคำสั่งภายใน Java Virtual Machine
เวลาแฝงที่ลดลงอย่างมีนัยสำคัญที่เกิดขึ้นหลังจากการระบุและแก้ไขปัญหาการแชร์ที่แท้จริงนั้นแสดงให้เห็นอย่างชัดเจนในกราฟนี้1
ด้วยการใช้อินสแตนซ์ของ Amazon ที่มีโปรเซสเซอร์ Intel Xeon พื้นฐานแทนที่จะเป็น GPU ทำให้ Netflix พบวิธีประหยัดเงินโดยใช้แต่ละอินสแตนซ์เพื่อทำงานหลายอย่างให้เสร็จสิ้น ในช่วงชั่วโมงรับชมที่มีการใช้งานสูงสุด อินสแตนซ์ของ Amazon สามารถมุ่งเน้นทรัพยากรไปที่การสตรีม เมื่อความต้องการของผู้ใช้ลดลง อินสแตนซ์สามารถโอนพลังการประมวลผลเพื่อเร่งการเข้ารหัสวิดีโอ
ผลลัพธ์
ด้วยการสนับสนุนของ Intel เพื่อระบุปัญหาคอขวดของอินสแตนซ์ Netflix จึงตระหนักถึงการปรับปรุงประสิทธิภาพต่อ CPU 3.5 เท่า เมื่อเทียบกับปริมาณการประมวลผลเริ่มต้นบนอินสแตนซ์ Amazon EC21 พวกเขายังได้รับประโยชน์จากการลดเวลาแฝงโดยเฉลี่ยและส่วนท้ายลงอย่างมาก2 บริษัทอื่นๆ ที่ใช้เวิร์กโหลด Java ยังสามารถได้รับประโยชน์จากแนวทางการเพิ่มประสิทธิภาพ CPU ของ Netflix เนื่องจาก Intel จัดการกับแหล่งที่มาของเวลาแฝงใน Java Development Kit แบบเปิด
“เพื่อให้แน่ใจว่าลูกค้าของเราจะได้รับประสบการณ์ที่ดีที่สุดกับบริการสตรีมมิ่งของเรา ความเร็วเป็นสิ่งสำคัญ ด้วยการใช้เทคโนโลยี Intel เพื่อระบุปัญหาคอขวด เราเพิ่มประสิทธิภาพเกือบสามเท่าของอินสแตนซ์ Amazon EC2 ของเรา ในขณะที่ลดการใช้จ่ายบนคลาวด์ของเราให้เหลือน้อยที่สุด” – Vadim Filanovsky วิศวกรประสิทธิภาพที่ Netflix
ด้วยการใช้ oneDNN ซึ่งใช้ชุดคำสั่ง Intel AVX นั้น Netflix อ้างว่ามีการปรับปรุงการเข้ารหัสเฟรมต่อวินาทีเพิ่มขึ้นอย่างมาก โดยให้คุณภาพวิดีโอที่ยอดเยี่ยมบนอุปกรณ์ทั้งหมด
อินสแตนซ์ Amazon ของ Netflix ที่ใช้โปรเซสเซอร์ Intel Xeon ยังสามารถตอบสนองวัตถุประสงค์หลายประการได้อย่างมีประสิทธิภาพโดยใช้การปรับขนาดอัตโนมัติ ประสิทธิภาพที่ได้รับจาก CPU ช่วยให้ Netflix ลดจำนวนอินสแตนซ์ที่จำเป็นสำหรับปริมาณงานที่มีความสำคัญต่อภารกิจ และลดการใช้จ่ายโครงสร้างพื้นฐานระบบคลาวด์โดยรวมได้อย่างมาก
สรุปโซลูชัน
- โปรเซสเซอร์ Intel® Xeon®
- Intel® oneAPI Deep Neural
- ไลบรารีเครือข่าย
- Intel® Deep Learning Boost
- ด้วย Vector Neural Network
- Instructions (VNNI)
- Intel® Advanced Vector
- Extensions 512 (Intel® AVX 512)
- โพรไฟเลอร์ Intel® VTune™
- Intel® PerfSpect
- อินสแตนซ์ Amazon EC2