เวลาการอนุมาน OpenVINO™จะเพิ่มขึ้นเมื่อรันหลายกระบวนการ

เวลาการอนุมานเป็นสองเท่าเมื่อรันกระบวนการสองกระบวนการเพื่ออนุมานแบบจําลองเดียวกัน

• การใช้ OpenVINO™เพื่ออนุมานโมเดล
• เวลาการอนุมานประมาณ 300ms เมื่อรันกระบวนการเดียว
• เมื่อใช้สองกระบวนการเวลาการอนุมานสําหรับกระบวนการทั้งสองจะกลายเป็น 600ms

1. เพิ่ม การกําหนดค่าต่อไปนี้ในแอพพลิเคชั่นของคุณ
   Python*: core.set_property("CPU", {ov.properties.hint.enable_cpu_pinning(False)})
   C++ : core.set_property("CPU", ov::hint::enable_cpu_pinning(false));
2. สร้าง การสาธิต

• ค่าเริ่มต้นของenable_cpu_pinning property is enabled (true or YES) on Linux* and disabled (false or NO) on Windows* and macOS*.
• บน Linux การตั้งค่าเริ่มต้นของ enable_cpu_pinning is enabled, which in some scenarios can cause multiple processes to bind to the same CPU core, potentially doubling inference time.
• การตั้งคุณสมบัติเป็น false unbinds inferencing threads from specific CPU cores, allowing the operating system to schedule threads, which may be beneficial in applications with several parallel workloads.

ดูข้อมูลเพิ่มเติมได้ที่ คําแนะนําเกี่ยวกับประสิทธิภาพ และการจัดกําหนดการเธรด