เวลาการอนุมาน OpenVINO™เพิ่มขึ้นเมื่อใช้งานหลายกระบวนการ

เวลาการอนุมานเพิ่มขึ้นสองเท่าเมื่อใช้งานสองกระบวนการเพื่ออนุมานโมเดลเดียวกัน

• การใช้ OpenVINO™เพื่ออนุมานแบบจําลอง
• เวลาการอนุมานใช้เวลาประมาณ 300ms เมื่อใช้งานกระบวนการเดียว
• เมื่อใช้สองกระบวนการ เวลาการอนุมานสําหรับกระบวนการทั้งสองจะอยู่ที่ 600ms

1. เพิ่มคําสั่งต่อไปนี้ในสคริปต์ main.cpp

   ie.SetConfig({ { CONFIG_KEY(CPU_BIND_THREAD), "NO" } }, "CPU")

2. สร้าง การสาธิต

• ค่าเริ่มต้นของการกําหนดค่า KEY_CPU_BIND_THREAD คือ ใช่
• บน Linux* สิ่งนี้ทําให้ทั้งสองกระบวนการผูกเข้ากับคอร์ CPU เดียวกันและเพิ่มเวลาการอนุมานเป็นสองเท่า
• การตั้งค่าการกําหนดค่า KEY_CPU_BIND_THREAD เป็น No unbinds infends threads จากคอร์ CPU ทั้งบน Windows* และ Linux*

ดูข้อมูลเพิ่มเติมเกี่ยวกับพารามิเตอร์การกําหนดค่าสําหรับปลั๊กอิน CPU ได้ที่ พารามิเตอร์การกําหนดค่าที่รองรับ