Intel® FPGA AI Suite
ค้นหาว่าชุดเอฟพีจีเอ Intel® AI สามารถเพิ่มเอฟพีจีเอ AI ให้กับระบบแบบฝังและศูนย์ข้อมูลได้อย่างไร
ภาพรวม
เอฟพีจีเอ Intel ช่วยให้สามารถอนุมานการเรียนรู้เชิงลึกความหน่วงแฝงต่ำและใช้พลังงานต่ำแบบเรียลไทม์ รวมกับข้อได้เปรียบต่อไปนี้:
- ความยืดหยุ่น I/O
- การกำหนดค่าใหม่
- ความง่ายในการผสานการทำงานกับแพลตฟอร์มแบบกำหนดเอง
- อายุการใช้งานยาวนาน
ชุดเอฟพีจีเอ Intel AI ได้รับการพัฒนาโดยมีวิสัยทัศน์ของการอนุมานปัญญาประดิษฐ์ (AI) บนเอฟพีจีเอ Intel ที่ใช้งานง่าย ชุดนี้ช่วยให้นักออกแบบเอฟพีจีเอ, วิศวกรแมชชีนเลิร์นนิง, และนักพัฒนาซอฟต์แวร์สามารถสร้างแพลตฟอร์มเอฟพีจีเอ AI ที่ได้รับการปรับให้เหมาะสมได้อย่างมีประสิทธิภาพ
ยูทิลิตี้ในชุดเอฟพีจีเอ Intel AI เร่งการพัฒนาเอฟพีจีเอสำหรับการอนุมาน AI โดยใช้เฟรมเวิร์กที่คุ้นเคยและเป็นที่นิยมในอุตสาหกรรม เช่น TensorFlow หรือ PyTorch และชุดเครื่องมือ OpenVINO ในขณะเดียวกันก็ใช้ประโยชน์จากขั้นตอนการพัฒนาเอฟพีจีเอที่แข็งแกร่งและผ่านการพิสูจน์แล้วด้วยซอฟต์แวร์ Intel Quartus Prime
ขั้นตอนเครื่องมือชุดเอฟพีจีเอ Intel AI ทำงานร่วมกับชุดเครื่องมือ OpenVINO ซึ่งเป็นโปรเจกต์โอเพนซอร์สเพื่อเพิ่มประสิทธิภาพการอนุมานบนสถาปัตยกรรมฮาร์ดแวร์ที่หลากหลาย ชุดเครื่องมือ OpenVINO นำโมเดลการเรียนรู้เชิงลึกจากเฟรมเวิร์กการเรียนรู้เชิงลึกหลักๆ ทั้งหมด (เช่น TensorFlow, PyTorch, Keras) และปรับให้เหมาะสมสำหรับการอนุมานบนสถาปัตยกรรมฮาร์ดแวร์ที่หลากหลาย รวมถึง CPU, CPU+GPU และเอฟพีจีเอต่างๆ
ค้นหาว่าชุดเอฟพีจีเอ Intel AI สามารถเพิ่มเอฟพีจีเอ AI ให้กับระบบแบบฝังและศูนย์ข้อมูลได้อย่างไร ติดต่อฝ่ายขายของ Intel เพื่อสอบถามราคาและการวางจำหน่าย ›
เริ่มต้นตั้งแต่วันนี้
ทำไมเอฟพีจีเอจึงดีเป็นพิเศษสำหรับการปรับใช้ AI
อ่านเกี่ยวกับวิธีที่เอฟพีจีเอ และ SoC ของ Intel® พร้อมด้วยชุดเอฟพีจีเอ Intel® AI และชุดเครื่องมือ OpenVINO ขับเคลื่อนแอปพลิเคชัน AI แบบฝัง/edge/แมชชีนเลิร์นนิงในเอกสารไวท์เปเปอร์นี้
อ่านเอกสารข้อมูล
คำรับรองจากลูกค้า
"การใช้งานที่ง่ายดายของชุดเอฟพีจีเอ Intel® AI และการจำหน่ายชุดเครื่องมือ OpenVINO™ ของ Intel® ทำให้ Stryker สามารถพัฒนาเอฟพีจีเอ Intel® IP ที่ได้รับการปรับแต่งเพื่อการอนุมานการเรียนรู้เชิงลึก IP การอนุมานได้รับการบูรณาการเข้ากับเอฟพีจีเอ Intel® โดยใช้ซอฟต์แวร์ Intel® Quartus® Prime ได้สำเร็จ การออกแบบตัวอย่างที่มาพร้อมกับชุดที่ช่วยให้ทีมสามารถประเมินอัลกอริธึมที่แตกต่างกันสำหรับแหล่งที่มาของรูปภาพที่แตกต่างกันได้อย่างรวดเร็ว ชุดเอฟพีจีเอ Intel® AI และชุดเครื่องมือการจำหน่าย OpenVINO ของ Intel® ช่วยให้นักวิทยาศาสตร์ข้อมูลและวิศวกรเอฟพีจีเอสามารถทำงานร่วมกันได้อย่างราบรื่นเพื่อพัฒนาอนุมานการเรียนรู้เชิงลึกที่ปรับให้เหมาะสมที่สุดสำหรับการใช้งานทางการแพทย์" -ทีมวิศวกรรม Stryker
คุณสมบัติสำคัญ
รุ่นประสิทธิภาพสูง
เอฟพีจีเอ Intel Agilex® 7 M-ซีรีส์ สามารถบรรลุประสิทธิภาพทางทฤษฎีสูงสุดที่ 88.5 INT8 TOPS หรือ 3,679 Resnet-50 เฟรมต่อวินาทีที่การใช้งานเอฟพีจีเอ 90%
การรวมระบบที่ง่าย
รองรับการผสานรวมกับ IP แบบกำหนดเอง เช่น ADC/DAC, วิดีโอ, และ Ethernet เพื่อให้ได้พื้นที่ที่น้อยที่สุดและมีความหน่วงแฝงต่ำที่สุด
ต้นทุนรวมในการเป็นเจ้าของ (TCO) ต่ำ
ลด TCO ให้เหลือน้อยที่สุดด้วยการอนุมาน AI ที่มีรายละเอียดสูง ปรับแต่งได้ และปรับขนาดได้ในด้านประสิทธิภาพและขนาดแบตช์ที่หลากหลาย
ขั้นตอนที่เป็นมาตรฐานและเรียบง่าย
สร้างและเพิ่ม IP การอนุมาน AI ให้กับการออกแบบเอฟพีจีเอปัจจุบันหรือใหม่ด้วยซอฟต์แวร์ Intel Quartus Prime หรือเครื่องมือออกแบบแพลตฟอร์ม
รองรับฟรอนต์เอนด์ AI
ใช้ฟรอนต์เอนด์ AI ที่คุณชื่นชอบ เช่น TensorFlow, Caffe, Pytorch, MXNet, Keras และ ONNX
การปรับแต่งประสิทธิภาพ OpenVINO
ชุดเครื่องมือ OpenVINO ช่วยเพิ่มประสิทธิภาพและพลังงาน ในขณะเดียวกันก็ลดการใช้ตรรกะและพื้นที่หน่วยความจำให้เหลือน้อยที่สุด
ขั้นตอนพัฒนาการอนุมานเอฟพีจีเอ AI
ขั้นตอนพัฒนาการอนุมาน AI แสดงในรูปที่ 1 ขั้นตอนผสมผสานเวิร์กโฟลว์ของฮาร์ดแวร์และซอฟต์แวร์เข้ากับเวิร์กโฟลว์ AI ทั่วไปแบบครบวงจรได้อย่างราบรื่น ขั้นตอนมีดังนี้:
1. เครื่องมือเพิ่มประสิทธิภาพโมเดลในชุดเครื่องมือ OpenVINO จะสร้างไฟล์เครือข่าย Intermediate Representation (.xml) และไฟล์ Weights และ Biases (.bin)
2. คอมไพเลอร์ชุดเอฟพีจีเอ Intel AI ใช้เพื่อ:
- จัดเตรียมพื้นที่โดยประมาณหรือตัวชี้วัดประสิทธิภาพสำหรับไฟล์สถาปัตยกรรมที่กำหนด หรือสร้างไฟล์สถาปัตยกรรมที่ปรับให้เหมาะสม (สถาปัตยกรรมอ้างอิงถึงพารามิเตอร์ IP อนุมาน เช่น ขนาดของอาร์เรย์ PE, ความแม่นยำ, ฟังก์ชันการเปิดใช้งาน, ความกว้างของอินเทอร์เฟซ, ขนาดหน้าต่าง, ฯลฯ)
- รวบรวมไฟล์เครือข่ายเป็นไฟล์ .bin พร้อมพาร์ติชันเครือข่ายสำหรับเอฟพีจีเอและ CPU (หรือทั้งสองอย่าง) พร้อมด้วย Weights และ Biases
3. ไฟล์ .bin ที่คอมไพล์แล้วถูกนำเข้าโดยแอปพลิเคชันการอนุมานผู้ใช้ขณะรันไทม์
- รันไทม์อินเทอร์เฟซโปรแกรมแอปพลิเคชัน (API) ประกอบด้วย API เอนจินการอนุมาน (รันไทม์พาร์ติชัน CPU และเอฟพีจีเอ, การอนุมานกำหนดการ) และเอฟพีจีเอ AI (หน่วยความจำ DDR, บล็อกฮาร์ดแวร์เอฟพีจีเอ)
- การออกแบบอ้างอิงจะแสดงการดำเนินการพื้นฐานของการนำเข้า .bin และการรันการอนุมานบนเอฟพีจีเอพร้อมรองรับ CPU โฮสต์ (โปรเซสเซอร์ x86 และ Arm)
รูปที่ 1: ขั้นตอนการพัฒนาชุดเอฟพีจีเอ Intel AI
หมายเหตุ:
อุปกรณ์ที่รองรับ: เอฟพีจีเอ Intel Agilex® 7, เอฟพีจีเอ Intel® Cyclone® 10 GX, เอฟพีจีเอ Intel® Arria® 10
ทดสอบเครือข่าย, เลเยอร์, และฟังก์ชันการเปิดใช้งาน1:
- ResNet-50, MobileNet v1/v2/v3, YOLO v3, TinyYOLO v3, UNET, i3d
- 2D Conv, 3D Conv, เชื่อมต่อเต็มรูปแบบ, Softmax, BatchNorm, EltWise Mult, Clamp
- ReLU, PReLU
สถาปัตยกรรมระดับระบบ
ชุดเอฟพีจีเอ Intel AI มีความยืดหยุ่นและสามารถกำหนดค่าได้สำหรับรูปแบบการใช้งานระดับระบบที่หลากหลาย วิธีทั่วไปในการรวม IP ชุดเอฟพีจีเอ AI เข้ากับระบบดังที่แสดงอยู่ในรูปที่ 2 รูปแบบการใช้งานครอบคลุมตลาดแนวดิ่งที่แตกต่างกันตั้งแต่แพลตฟอร์มแบบฝังที่ได้รับการปรับปรุงให้เหมาะสม ตั้งแต่แอปพลิเคชันที่มี CPU โฮสต์ (โปรเซสเซอร์ Intel® Core™, โปรเซสเซอร์ Arm) ไปจนถึงสภาพแวดล้อมศูนย์ข้อมูลที่ใช้โปรเซสเซอร์ Intel® Xeon® และรวมถึงแอปพลิเคชันที่ไม่มีโฮสต์ (หรือโปรเซสเซอร์แบบยืดหยุ่น เช่น โปรเซสเซอร์ Nios ® V)
รูปที่ 2: โทโพโลยีระบบชุดเอฟพีจีเอ Intel AI โดยทั่วไป
การผ่องถ่าย CPU
ตัวเร่ง AI
การผ่องถ่าย CPU แบบมัลติฟังก์ชัน
ตัวเร่ง AI + ฟังก์ชันฮาร์ดแวร์เพิ่มเติม
การนำเข้า/การประมวลผลแบบอินไลน์ + AI
ตัวเร่ง AI + การนำเข้าโดยตรงและการสตรีมข้อมูล
เอฟพีจีเอ SoC แบบฝัง + AI
ตัวเร่ง AI + การนำเข้าโดยตรงและการสตรีมข้อมูล + ฟังก์ชันฮาร์ดแวร์ +
โปรเซสเซอร์ Arm แบบฝังหรือ Nios® II หรือ Nios V
วิดีโอสาธิต
ภาพรวมของชุดเอฟพีจีเอ Intel AI
ดูวิดีโอนี้เพื่อทำความคุ้นเคยกับขั้นตอนการออกแบบสำหรับชุดเอฟพีจีเอ Intel AI
วิดีโอสาธิตการติดตั้งชุดเอฟพีจีเอ Intel® AI
การติดตั้งชุดเอฟพีจีเอ Intel AI เป็นเรื่องง่าย ชมวิดีโอนี้เพื่อดูการสาธิตการติดตั้ง
วิดีโอสาธิตการคอมไพล์ชุดเอฟพีจีเอ Intel® AI
ชมการสาธิตสั้นๆ ของชุดเอฟพีจีเอ Intel AI โดยคอมไพล์โมเดลที่ผ่านการฝึกอบรม RESNET-50 ล่วงหน้าและผลการอนุมานเอาต์พุต
วิดีโอสาธิตการติดตั้งบอร์ดเอฟพีจีเอ Intel Agilex® และวิดีโอสาธิตการเตรียมพร้อมบอร์ด
บทช่วยสอนฉบับย่อนี้จะอธิบายวิธีเตรียมพร้อมและตั้งโปรแกรมเอฟพีจีเอ Intel Agilex® 7 เพื่อใช้ชุดเอฟพีจีเอ Intel AI อย่างง่ายดาย
ตัวอย่างการออกแบบ PCIe ชุดเอฟพีจีเอ Intel® AI
วิดีโอนี้แนะนำความสามารถบางอย่างของชุดเอฟพีจีเอ Intel AI
วิดีโอการฝึกอบรมเพิ่มเติม
ดูวิดีโอการเรียนรู้ผ่านสื่ออิเล็กทรอนิกส์เหล่านี้เพื่อรับคำแนะนำเชิงลึกเพิ่มเติม