การอนุมาน AI ที่สร้างด้วยเซิร์ฟเวอร์เบลด Cisco UCS X-ซีรีส์ M7 / โปรเซสเซอร์ Intel Xeon เจนเนอเรชั่น 5
819855
2024-04-02
Public
ไม่สามารถดูตัวอย่างไฟล์นี้ได้ โปรดดาวน์โหลดไฟล์
คำอธิบาย
โซลูชันที่ใช้ Cisco UCS® ที่ใช้โปรเซสเซอร์ Intel® Xeon® Scalable และ Cisco Nexus® มอบรากฐานที่น่าสนใจและปรับขนาดได้สําหรับการปรับใช้ AI ที่สร้างตามขนาด สถาปัตยกรรมนี้นําเสนอการผสมผสานระหว่าง:
- ประสิทธิภาพที่เหมาะสม: Cisco UCS พร้อมโปรเซสเซอร์ Intel Xeon แบบปรับขนาดได้ที่มาพร้อมตัวเร่งความเร็ว AI พิเศษและเฟรมเวิร์กซอฟต์แวร์ที่ปรับให้เหมาะสมช่วยปรับปรุงประสิทธิภาพและความสามารถในการปรับขนาดได้อย่างมาก สวิตช์ Cisco Nexus 9000 ให้แบนด์วิดท์สูง ความหน่วงต่ํา กลไกการจัดการความแออัด และการวัดและส่งข้อมูลทางไกลเพื่อตอบสนองความต้องการด้านเครือข่ายที่มีความต้องการสูงของแอพพลิเคชั่น AI/ML
- สถาปัตยกรรมที่สมดุล: Cisco UCS ทํางานได้อย่างยอดเยี่ยมทั้งในการคํานวณแบบการเรียนรู้เชิงลึกและไม่ใช่การเรียนรู้เชิงลึก ซึ่งมีความสําคัญต่อไปป์ไลน์การอนุมานทั้งหมด แนวทางที่สมดุลนี้นําไปสู่ประสิทธิภาพโดยรวมและการใช้ทรัพยากรที่ดีขึ้น
- ความสามารถในการปรับขนาดได้ตามความต้องการ: Cisco UCS ปรับขยายได้อย่างราบรื่นด้วยความต้องการการอนุมาน AI ที่สร้างของคุณ เพิ่มหรือถอดเซิร์ฟเวอร์ ปรับความจุหน่วยความจํา และกําหนดค่าทรัพยากรด้วยวิธีอัตโนมัติเมื่อโมเดลของคุณพัฒนาและเวิร์คโหลดเพิ่มขึ้นโดยใช้ Cisco Intersight®
Cisco UCS X-Series Modular System และเซิร์ฟเวอร์แร็ค C240 และ C220 รองรับโปรเซสเซอร์ Intel Xeon แบบปรับขนาดได้ เจนเนอเรชั่น 5 เพื่อให้คุณมีตัวเลือกในการรันการอนุมานในศูนย์ข้อมูลหรือที่เอดจ์ โดยใช้ฟอร์มแฟคเตอร์แบบโมดูลาร์หรือแร็ค
คำแนะนำการใช้งาน
สินทรัพย์ที่เกี่ยวข้อง
ชื่อและคำอธิบาย
Format
ภาษา
ดำเนินการ
Cisco UCS M7 and Pure Storage FlashArray: FlashStack VSI with VMware vSphere 8.0 — Design Guide
Cisco 7th generation of UCS C-Series and UCS X-Series Servers, powered using 4th Gen Intel Xeon Scalable processors., and Pure Storage FlashArray FlashStack on VMware vSphere 8 solution.
Cisco UCS M7 IMM FlexPod Datacenter with VMware vSphere 8.0, and NetApp ONTAP 9.12 Powered by Intel — Design Guide
Cisco UCS M7 IMM FlexPod Datacenter with VMware vSphere 8.0, and NetApp ONTAP 9.12 powered by Intel design guide
Generative AI Inference Operations with Cisco UCS / 5th Gen and 4th Gen Intel Xeon Processors
Cisco UCS, powered by 5th Gen Intel® Xeon® processors and Cisco Nexus, is a scalable foundation for deploying Generative AI at scale.
GenAI Inferencing Powered by Cisco UCS X-Series / 5th Gen Intel Xeon Processors on Red Hat OpenShift AI — Cisco Validated Design
Cisco, Red Hat, and Intel provide a proven AI infrastructure to enable VMware-based Red Hat® OpenShift® AI.
Microsoft SQL Server 2022 on Cisco UCS X210c M6/M7 on 4th Gen Intel® Xeon® Scalable Processors — White Paper
This white paper contains a reference architecture that illustrates the benefits of Microsoft SQL Server 2022 on Cisco UCS X210c M6/M7 on 4th Gen Intel® Xeon® Scalable Processors for bare-metal and hybrid cloud deployments.