ID บทความ: 000058227 ประเภทข้อมูล: ข้อมูลผลิตภัณฑ์และเอกสารประกอบ การตรวจสอบครั้งล่าสุด: 06/06/2023

เวลาการอนุมาน OpenVINO™เพิ่มขึ้นเมื่อใช้งานหลายกระบวนการ

สิ่งแวดล้อม

UbuntuOpenVINO 2021.2

BUILT IN - ARTICLE INTRO SECOND COMPONENT
สรุปข้อมูล

ขั้นตอนด่วนในการผูกกระบวนการอนุมานหลายกระบวนการเข้ากับ CPU ที่แตกต่างกัน

คำอธิบาย

เวลาการอนุมานเพิ่มขึ้นสองเท่าเมื่อใช้งานสองกระบวนการเพื่ออนุมานโมเดลเดียวกัน

  • การใช้ OpenVINO™เพื่ออนุมานแบบจําลอง
  • เวลาการอนุมานใช้เวลาประมาณ 300ms เมื่อใช้งานกระบวนการเดียว
  • เมื่อใช้สองกระบวนการ เวลาการอนุมานสําหรับกระบวนการทั้งสองจะอยู่ที่ 600ms
ความละเอียด
  1. เพิ่มคําสั่งต่อไปนี้ในสคริปต์ main.cpp

    ie.SetConfig({ { CONFIG_KEY(CPU_BIND_THREAD), "NO" } }, "CPU")

  2. สร้าง การสาธิต
ข้อมูลเพิ่มเติม
  • ค่าเริ่มต้นของการกําหนดค่า KEY_CPU_BIND_THREAD คือ ใช่
  • บน Linux* สิ่งนี้ทําให้ทั้งสองกระบวนการผูกเข้ากับคอร์ CPU เดียวกันและเพิ่มเวลาการอนุมานเป็นสองเท่า
  • การตั้งค่าการกําหนดค่า KEY_CPU_BIND_THREAD เป็น No unbinds infends threads จากคอร์ CPU ทั้งบน Windows* และ Linux*

ดูข้อมูลเพิ่มเติมเกี่ยวกับพารามิเตอร์การกําหนดค่าสําหรับปลั๊กอิน CPU ได้ที่ พารามิเตอร์การกําหนดค่าที่รองรับ

ผลิตภัณฑ์ที่เกี่ยวข้อง

บทความนี้จะนำไปใช้กับ 2 ผลิตภัณฑ์

เนื้อหาในหน้านี้เป็นการผสมผสานระหว่างการแปลเนื้อหาต้นฉบับภาษาอังกฤษโดยมนุษย์และคอมพิวเตอร์ เนื้อหานี้จัดทำขึ้นเพื่อความสะดวกของคุณและเพื่อเป็นข้อมูลทั่วไปเท่านั้นและไม่ควรอ้างอิงว่าสมบูรณ์หรือถูกต้อง หากมีความขัดแย้งใด ๆ ระหว่างเวอร์ชันภาษาอังกฤษของหน้านี้กับคำแปล เวอร์ชันภาษาอังกฤษจะมีผลเหนือกว่าและควบคุม ดูเวอร์ชันภาษาอังกฤษของหน้านี้