ปลั๊กอินที่แตกต่างกันกับIntel® Neural Compute Stick 2

เอกสาร

การติดตั้งและตั้งค่า

000055368

07/09/2022

ปลั๊กอิน Heterogeneous (HETERO) ช่วยให้สามารถอนุมานการประมวลผลบนเครือข่ายเดียวโดยใช้อุปกรณ์หลายตัว คุณอาจต้องการดําเนินการเครือข่ายในโหมดที่แตกต่างกันเพื่อ:

  • ใช้พลังของตัวเร่งความเร็ว รวมถึงการคํานวณส่วนที่หนักที่สุดของเครือข่ายบนตัวเร่งความเร็ว และดําเนินการเลเยอร์ที่ไม่รองรับบนอุปกรณ์ที่ไม่รองรับ เช่น CPU
  • ใช้ฮาร์ดแวร์ที่มีอยู่ทั้งหมดอย่างมีประสิทธิภาพมากขึ้นในระหว่างการอนุมานครั้งเดียว

หากต้องการใช้ปลั๊กอินที่แตกต่างกันและเรียกใช้การอนุมานบนIntel® Neural Compute Stick 2ของคุณโดยใช้แอปพลิเคชันการวัดประสิทธิภาพของ™ OpenVINO ให้ทําตามขั้นตอนด้านล่าง:

  1. สร้างตัวอย่าง C++ โดยเรียกใช้buildsamples.sh (สําหรับ Linux) หรือ build_samples_msvc.bat (สําหรับ Windows) ที่พบในไดเรกทอรี inference_engine/samples
  2. ใช้benchmark_appเพื่อทดสอบและกําหนดค่าปลั๊กอิน Hetero ด้วยอุปกรณ์ที่คุณต้องการใช้ ตัวอย่างเช่น การใช้งาน -d HETERO:GPU,CPU จะให้ความสําคัญกับ GPU ในขณะที่ CPU จะเป็นอุปกรณ์ที่มีความสําคัญยิ่ง

ค้นหาข้อมูลเพิ่มเติมเกี่ยวกับปลั๊กอินที่แตกต่างกันและชุดเครื่องมือ OpenVINO