ข้ามไปที่เนื้อหาหลัก

ตัวเร่งความเร็ว AI Intel® Gaudi® 3

AI ประสิทธิภาพสูงมอบทางเลือก ความยืดหยุ่น และการปรับขยายที่มากยิ่งขึ้น

โลโก้ Intel Gaudi

การ์ด PCIe Intel® Gaudi® 3

การ์ด PCIe Intel Gaudi® 3 (HL-338) มอบการเร่งความเร็ว AI ในฟอร์มแฟกเตอร์ PCIe Gen5 มาตรฐาน เพื่อการผนวกรวมอย่างกลมกลืนกับเซิร์ฟเวอร์ที่มีอยู่ออกแบบมาสำหรับเวิร์กโหลดที่ต้องการประสิทธิภาพสูง เช่น LLM, โมเดลมัลติโมดัล และ RAG ขององค์กร โดยใช้อีเธอร์เน็ตมาตรฐานเพื่อช่วยให้ปรับขยายได้อย่างมีประสิทธิภาพและคุ้มต้นทุน

ภาพจากด้านบนของแผงวงจร Intel® Gaudi®

เปิด

หลีกเลี่ยงการลงทุนที่มีความเสี่ยงกับเทคโนโลยีที่ถูกล็อคและเป็นกรรมสิทธิ์ เช่น NVLink, NVSwitch และ InfiniBand

มี I/O มากกว่า

ใช้ประโยชน์จากการเชื่อมต่อ I/O ต่อตัวเร่งความเร็วที่เพิ่มขึ้น 33% เมื่อเทียบกับ H1001 ซึ่งช่วยให้สามารถขยายขนาดในแนวตั้ง (Scale-up) และขยายขนาดในแนวนอน (Scale-out) ได้อย่างมหาศาลด้วยต้นทุนที่คุ้มค่าที่สุด

สร้างขึ้นสำหรับอีเทอร์เน็ต

ใช้โครงสร้างพื้นฐานเครือข่ายที่คุณมีอยู่แล้วและรองรับความต้องการในอนาคตด้วยฮาร์ดแวร์อีเทอร์เน็ตมาตรฐาน

การปรับขยายที่ง่ายดาย

ตัวเร่ง AI Intel Gaudi 3 ได้รับการออกแบบมาเพื่อมอบความสามารถในการปรับขนาด AI ที่เรียบง่ายและคุ้มค่า แม้กระทั่งการใช้งานที่ใหญ่และซับซ้อนที่สุด

ภาพมุม 3/4 ของ Gaudi AI Accelerator 32-Node Cluster

การออกแบบอ้างอิงของ Intel Gaudi 3 AI Accelerator 32-Node Cluster

สร้างโซลูชัน AI ด้วยระบบที่ใช้ตัวเร่งความเร็ว Intel Gaudi 3 รุ่นล่าสุด ซึ่งสร้างขึ้นเพื่อการปรับขนาดและความสามารถในการขยายด้วยโครงข่ายที่ใช้ Ethernet ทั้งหมด และรองรับโมเดลและเฟรมเวิร์ก AI ในหลายอุตสาหกรรม

ดูการออกแบบอ้างอิง
มุมมองแยกส่วนของตัวเร่งความเร็ว AI Gaudi 3

ออกแบบมาเพื่อตอบสนองความต้องการใช้งานจริงด้าน AI

ตัวเร่ง AI Intel® Gaudi® 3 ช่วยให้คุณสามารถใช้ซอฟต์แวร์แบบเปิดที่พัฒนาขึ้นโดยชุมชนและระบบเครือข่าย Ethernet มาตรฐานอุตสาหกรรมเพื่อการปรับขนาดระบบได้อย่างยืดหยุ่นยิ่งขึ้นดูผลการทดสอบจาก Signal65

อ่านเอกสารไวท์เปเปอร์
โลโก้ Intel® และ Dev Zone

ลดความซับซ้อนของการพัฒนาตั้งแต่ต้นจนจบ

เปลี่ยนการพิสูจน์แนวคิดไปสู่การทำงานจริงโดยใช้เวลาน้อยลงตัวเร่ง AI Intel Gaudi 3 ได้รับการสนับสนุนจากกลุ่มเครื่องมือซอฟต์แวร์ ทรัพยากร และการฝึกฝนประสิทธิภาพสูง ตั้งแต่การย้ายข้อมูลไปจนถึงการนำไปใช้งานทำความรู้จักกับสิ่งที่มีให้ใช้งานเพื่อช่วยให้การดำเนินการด้าน AI ของคุณง่ายขึ้นเข้าร่วมชุมชนนักพัฒนา

เรียกดูแหล่งข้อมูลของผู้พัฒนา

ประหยัดเวลาและพลังงานด้วยตัวเร่ง Intel Gaudi 3

สูงสุด

2 เท่า

การประมวลผล AI (FP8) เทียบกับตัวเร่ง AI Intel Gaudi 2

สูงสุด

4 เท่า

การประมวลผล AI (BF16) เทียบกับตัวเร่ง AI Intel Gaudi 2

สูงสุด

2 เท่า

แบนด์วิดธ์เครือข่ายเทียบกับตัวเร่ง AI Intel Gaudi 2

ปรับใช้ตัวเร่งความเร็ว AI Intel Gaudi 3 ผ่าน OEM

พัฒนาได้อย่างง่ายดาย

ออกแบบมาเพื่อ ROI ที่รวดเร็วการเริ่มต้นใช้งานตัวเร่ง AI Intel Gaudi 3 นั้นเป็นเรื่องง่าย ไม่ว่าคุณจะเริ่มต้นใหม่จากศูนย์ ปรับแต่งแบบจำลองที่พร้อมใช้งานอย่างละเอียด หรือโยกย้ายจากแนวทางที่ใช้ GPU

เยี่ยมชมซอฟต์แวร์ Intel Gaudi

ปรับให้เหมาะสมกับนักพัฒนา

ใช้ประโยชน์จากเครื่องมือซอฟต์แวร์และแหล่งข้อมูลสำหรับนักพัฒนาเพื่อเรียนรู้และทำความเข้าใจได้อย่างรวดเร็วและง่ายดาย

ผสานรวมกับ PyTorch

ทำงานร่วมกับไลบรารีที่ทีมของคุณรู้จักอยู่แล้วต่อไป

รองรับทั้งโมเดลเก่าและใหม่

ปรับแต่งแบบจำลองการสรุปผลข้อมูล เริ่มต้นใหม่ หรือโยกย้ายแบบจำลองที่มีอยู่โดยใช้เครื่องมือแบบโอเพ่นซอร์ส ซึ่งรวมไปถึงแหล่งข้อมูลต่าง ๆ จาก Hugging Face

การโยกย้ายโมเดลที่ใช้ GPU ได้ง่าย

พอร์ตโซลูชันที่มีอยู่ของคุณอย่างรวดเร็วโดยใช้เครื่องมือซอฟต์แวร์ที่สร้างขึ้นตามวัตถุประสงค์ของเรา

สัมผัสการใช้งานตัวเร่ง AI Intel Gaudi ในระบบคลาวด์

แหล่งข้อมูล

ข้อมูลผลิตภัณฑ์และประสิทธิภาพ

ภาพบางภาพในหน้านี้ได้รับการสร้างขึ้นโดย AI

1 NVIDIA H100 GPU (การเชื่อมต่อ NVLink แบบปิด 900 GB/s) เทียบกับตัวเร่ง Intel® Gaudi® 3 (
RoCE มาตรฐานแบบเปิด 1200 GB/s)