ตัวเร่ง AI Intel® Gaudi®

โปรเซสเซอร์การสอนและการอนุมานการเรียนรู้เชิงลึกรุ่นแรก

ตัวเร่ง AI Intel® Gaudi®

สำหรับประสิทธิภาพราคาชั้นนำทั้งในแบบบนคลาวด์และแบบในสถานที่จริง

โปรเซสเซอร์ AI Intel® Gaudi® รุ่นแรกช่วยให้ลูกค้าได้รับประโยชน์จากการมีทางเลือกอื่นซึ่งมอบการสอนและการอนุมานประสิทธิภาพสูงที่คุ้มต้นทุนที่สุดเมื่อเทียบกับ GPU ที่เปรียบเทียบได้ สถาปัตยกรรมการเรียนรู้เชิงลึกนี้ทำให้สามารถใช้งานอินสแตนซ์ AWS DL1 บนตัวเร่ง AI Intel Gaudi เพื่อให้การสอนในราคา/ประสิทธิภาพที่ดีขึ้นสูงสุด 40% เมื่อเทียบกับอินสแตนซ์ที่ทำงานบน Nvidia GPU ที่เปรียบเทียบได้ สถาปัตยกรรมที่มีประสิทธิภาพของตัวเร่ง AI Intel Gaudi ยังทำให้สามารถใช้ Supermicro ได้อีกด้วย โดยเซิร์ฟเวอร์ Supermicro X12 ที่มีตัวเร่ง AI Intel Gaudi จะมอบประสิทธิภาพราคาที่สำคัญไม่แพ้กันให้แก่ลูกค้า ซึ่งเป็นข้อได้เปรียบเหนือเซิร์ฟเวอร์ที่ทำงานบน GPU

ตัวเร่ง AI Intel® Gaudi® บนคลาวด์

เริ่มต้นใช้งานด้วยอินสแตนซ์ Amazon EC2 DL1 ที่ใช้ตัวเร่ง AI Intel Gaudi

ตัวเร่ง AI Intel® Gaudi® ในศูนย์ข้อมูล

สร้างโปรเซสเซอร์ AI Intel Gaudi ลงในศูนย์ข้อมูลของคุณด้วย Supermicro

“เมื่อวัดเกณฑ์มาตรฐานการสอน YOLOv5 บน COCO เราพบว่าตัวเร่ง AI Intel Gaudi มีประสิทธิภาพเหนือกว่า NVIDIA A100 GPU ที่ใช้งานอยู่ 0.25 ดอลลาร์ต่อช่วงเวลา ซึ่งเป็นช่วงเวลาต่อดอลลาร์ที่สูงขึ้น 25%”

อะไรที่ทำให้ตัวเร่ง AI Intel Gaudi มีประสิทธิภาพมากถึงเพียงนี้

  • เทคโนโลยีการประมวลผล 16nm
  • กลไกการคูณเมทริกซ์ที่ปรับให้เหมาะกับ DL
  • คอร์โปรเซสเซอร์ Tensor ที่ตั้งโปรแกรมได้จำนวน 8 ตัว
  • HBM2 บนบอร์ด 32 GB
  • 24 SRAM
  • พอร์ตอีเทอร์เน็ต 100G ในตัวจำนวน 10 พอร์ต

“ที่ Leidos เราจัดลำดับโซลูชันที่เรานำเสนอให้แก่ลูกค้าโดยใช้พารามิเตอร์ความเร็ว ขนาด การรักษาความปลอดภัย และความสามารถในการใช้งาน ซึ่งโซลูชันของเราบนอินสแตนซ์ Amazon EC2 DL1 ทำได้ดีทุกข้อ”

ตัวเลือกสำหรับการสร้างระบบตัวเร่ง AI Intel Gaudi ในสถานที่จริง

สำหรับลูกค้าที่ต้องการสร้างระบบในสถานที่จริง เราแนะนำให้ใช้เซิร์ฟเวอร์ Supermicro X12 ซึ่งมีโปรเซสเซอร์ AI Intel Gaudi จำนวน 8 ตัว สำหรับลูกค้าที่ต้องการกำหนดค่าเซิร์ฟเวอร์ของตนเองโดยใช้ตัวเร่ง AI Intel Gaudi เรามีโมเดลอ้างอิงให้เลือก ได้แก่ HLS-1 และ HLS-1H

หากต้องการทราบข้อมูลเพิ่มเติมเกี่ยวกับตัวเลือกของเซิร์ฟเวอร์เหล่านี้ โปรดดูรายละเอียดเพิ่มเติม >

ทำให้การพัฒนาบนตัวเร่ง AI Intel Gaudi เป็นไปอย่างรวดเร็วและง่ายดาย: ซอฟต์แวร์ Intel® Gaudi®

ปรับแต่งมาให้เหมาะกับการพัฒนาโมเดลการเรียนรู้เชิงลึก และลดความยุ่งยากในการย้ายโมเดลที่ทำงานบน GPU ที่มีอยู่แล้วไปยังฮาร์ดแวร์ของแพลตฟอร์ม AI Intel Gaudi ผลิตภัณฑ์นี้ผสานรวมเฟรมเวิร์ก PyTorch และ TensorFlow รวมถึงรองรับคอมพิวเตอร์วิทัศน์ การประมวลผลภาษาธรรมชาติ และโมเดลการสื่อสารหลายรูปแบบที่กำลังขยายตัวอย่างรวดเร็ว โดยตัวเร่ง Intel Gaudi สามารถใช้งานโมเดลบน Hugging Face ได้มากกว่า 5 แสนรูปแบบอย่างง่ายดายโดยใช้ไลบรารีซอฟต์แวร์ Habana Optimum

การเริ่มย้ายโมเดลนั้นทำได้ง่ายๆ ด้วยการเพิ่มโค้ดเพียง 2 บรรทัด และสำหรับผู้ใช้ที่เชี่ยวชาญซึ่งต้องการเขียนโปรแกรมเคอร์เนลของตัวเอง แพลตฟอร์ม Intel Gaudi มีชุดเครื่องมือและไลบรารีครบชุดเพื่อให้ทำได้เช่นกัน ซอฟต์แวร์ Intel Gaudi รองรับการสอนและการอนุมานโมเดลบนตัวเร่ง Intel Gaudi รุ่นแรกและตัวเร่ง Intel Gaudi 2

หากต้องการทราบข้อมูลเพิ่มเติมว่าแพลตฟอร์ม Intel Gaudi ทำให้สามารถย้ายโมเดลที่มีอยู่แล้วและสร้างโมเดลใหม่อย่างง่ายดายได้อย่างไร โปรดดูหน้าผลิตภัณฑ์ซอฟต์แวร์ Intel Gaudi ของเรา >

“เกณฑ์มาตรฐานของเราแสดงว่าอินสแตนซ์การสอน Amazon EC2 DL1 ที่ทำงานบน Habana ให้ประสิทธิภาพราคาที่ดีขึ้นจาก 51% เป็น 73% เมื่อเทียบกับอินสแตนซ์ AWS EC2 ที่ทำงานบน GPU ปัจจุบัน สำหรับการเรียนรู้เชิงลึกที่วัดเกณฑ์มาตรฐานสำหรับงานสอน”

เรียนรู้เพิ่มเติมเกี่ยวกับตัวเร่ง AI Intel Gaudi

ติดต่อเรา

เปรียบเทียบผลิตภัณฑ์