การดําเนินการอนุมาน AI ที่สร้างด้วยโปรเซสเซอร์ Cisco UCS / เจนเนอเรชั่น 5 และ Intel Xeon เจนเนอเรชั่น 4
Intel® QuickAssist Technology (Intel® QAT) Intel® QuickAssist Technology (Intel® QAT) HPC Library Intel® Xeon® Scalable Processors Intel® Xeon® Scalable Processors
812502
2023-12-29
Public
ไม่สามารถดูตัวอย่างไฟล์นี้ได้ โปรดดาวน์โหลดไฟล์
คำอธิบาย
Cisco UCS ที่ขับเคลื่อนโดยโปรเซสเซอร์ Intel® Xeon® เจนเนอเรชั่น 5 และ Cisco Nexus เป็นรากฐานที่ปรับขนาดได้สําหรับการปรับใช้ Generative AI ตามขนาด สถาปัตยกรรมนี้นําเสนอ:
- ประสิทธิภาพที่เหมาะสม: Cisco UCS พร้อมโปรเซสเซอร์ Intel Xeon แบบปรับขนาดได้ที่มาพร้อมตัวเร่งความเร็ว AI พิเศษและเฟรมเวิร์กซอฟต์แวร์ที่ปรับให้เหมาะสมช่วยปรับปรุงประสิทธิภาพและความสามารถในการปรับขนาดได้อย่างมาก
- สถาปัตยกรรมที่สมดุล: Cisco UCS ทํางานได้อย่างยอดเยี่ยมทั้งในการคํานวณแบบการเรียนรู้เชิงลึกและไม่ใช่การเรียนรู้เชิงลึก ซึ่งมีความสําคัญต่อไปป์ไลน์การอนุมานทั้งหมด แนวทางที่สมดุลนี้นําไปสู่ประสิทธิภาพโดยรวมและการใช้ทรัพยากรที่ดีขึ้น
- ความสามารถในการปรับขนาดได้ตามความต้องการ: Cisco UCS ปรับขยายได้อย่างราบรื่นด้วยความต้องการการอนุมาน AI ที่สร้างของคุณ เพิ่มหรือถอดเซิร์ฟเวอร์ ปรับความจุหน่วยความจํา และกําหนดค่าทรัพยากรด้วยวิธีอัตโนมัติเมื่อโมเดลของคุณพัฒนาและเวิร์คโหลดเพิ่มขึ้นโดยใช้ Cisco Intersight
คุณสามารถเลือกที่จะดําเนินการอนุมานในศูนย์ข้อมูลหรือที่ Edge โดยใช้ฟอร์มแฟคเตอร์แบบโมดูลาร์หรือแร็ค
คำแนะนำการใช้งาน
สินทรัพย์ที่เกี่ยวข้อง
ชื่อและคำอธิบาย
Format
ภาษา
ดำเนินการ
Cisco UCS M7 and Pure Storage FlashArray: FlashStack VSI with VMware vSphere 8.0 — Design Guide
Cisco 7th generation of UCS C-Series and UCS X-Series Servers, powered using 4th Gen Intel Xeon Scalable processors., and Pure Storage FlashArray FlashStack on VMware vSphere 8 solution.
Cisco UCS M7 IMM FlexPod Datacenter with VMware vSphere 8.0, and NetApp ONTAP 9.12 Powered by Intel — Design Guide
Cisco UCS M7 IMM FlexPod Datacenter with VMware vSphere 8.0, and NetApp ONTAP 9.12 powered by Intel design guide
FlashStack Cisco UCS X-Series and Pure Storage FlashArray//X R3 for VMware Horizon 8 — Design Guide
FlashStack Virtual Desktop Infrastructure for VMware Horizon 8 VMware vSphere 8.0 U1 and 4th Gen Intel® Xeon® Scalable processors Design Guide
Cisco UCS with 5th Gen and 4th Gen Intel Xeon Processors for Generative AI
Cisco UCS, powered by 5th Gen Intel® Xeon® processors, delivers a compelling solution for maximizing Generative AI performance.
Generative AI Inferencing with Cisco UCS X-Series M7 Blade Servers / 5th Gen Intel Xeon Processors
Cisco UCS® with Intel® Xeon® Scalable processors and Cisco Nexus® offers a compelling and scalable foundation for deploying generative AI at scale.
GenAI Inferencing Powered by Cisco UCS X-Series / 5th Gen Intel Xeon Processors on Red Hat OpenShift AI — Cisco Validated Design
Cisco, Red Hat, and Intel provide a proven AI infrastructure to enable VMware-based Red Hat® OpenShift® AI.
Microsoft SQL Server 2022 on Cisco UCS X210c M6/M7 on 4th Gen Intel® Xeon® Scalable Processors — White Paper
This white paper contains a reference architecture that illustrates the benefits of Microsoft SQL Server 2022 on Cisco UCS X210c M6/M7 on 4th Gen Intel® Xeon® Scalable Processors for bare-metal and hybrid cloud deployments.