ไม่สามารถตั้งค่าจํานวนสตรีมในการอนุมาน OpenVINO™เป็นมากกว่าหนึ่งสตรีมสําหรับอุปกรณ์ NPU ได้
ประเภทข้อมูล: ข้อมูลผลิตภัณฑ์และเอกสารประกอบ | ID บทความ: 000098287 | การตรวจสอบครั้งล่าสุด: 11/04/2024
ไม่สามารถตั้งค่าจํานวนสตรีมสําหรับอุปกรณ์ NPU ในการอนุมาน OpenVINO™เป็นมากกว่าหนึ่งสตรีมได้
การดําเนินการอนุมานผ่านปลั๊กอิน NPU จะถูกออฟโหลดไปยังอุปกรณ์ NPU ทั้งหมด และไม่มีการประมวลผลใดๆ เกิดขึ้นบน CPU
เฟิร์มแวร์ MTL ไม่รองรับความพร้อมกันของ HW จริง (ดําเนินการอนุมานหลายค่าในแบบขนานบนไทล์ต่างๆ) ดังนั้น ปลั๊กอิน NPU จึงบังคับ NPU_STREAMS=1