ID บทความ: 000095644 ประเภทข้อมูล: การแก้ไขปัญหา การตรวจสอบครั้งล่าสุด: 24/07/2023

ไม่สามารถรัน Benchmark_app สําหรับโมเดล ONNX บน GPU ได้

สิ่งแวดล้อม

OpenVINO 2023.0

BUILT IN - ARTICLE INTRO SECOND COMPONENT
สรุปข้อมูล

การจํากัดการรองรับรูปร่างไดนามิกสําหรับ GPU

คำอธิบาย
  • โมเดล ONNX ที่อนุมานพร้อม Benchmark_app OpenVINO™ 2023.0 บน CPU และ GPU
  • ความสําเร็จในการอนุมานบน CPU แต่ล้มเหลวบน GPU
ความละเอียด

ปัจจุบัน การรองรับรูปร่างไดนามิกสําหรับ GPU เป็นคุณสมบัติแสดงตัวอย่างและมีข้อจํากัดดังต่อไปนี้:

  • โดยส่วนใหญ่รองรับรุ่นการประมวลผลภาษาธรรมชาติ (NLP) ไม่ใช่การดําเนินการทั้งหมดและการเพิ่มประสิทธิภาพและรองรับรูปร่างแบบไดนามิก ด้วยเหตุนี้ โมเดลที่กําหนดอาจเกิดการขัดข้องหรือสัมผัสกับการลดลงของประสิทธิภาพอย่างมาก
  • เนื่องจากโอเวอร์เฮดรันไทม์ที่โดดเด่นบนอุปกรณ์โฮสต์ รูปร่างไดนามิกอาจทํางานได้แย่กว่ารูปร่างคงที่บน GPU แบบแยก
  • ไม่รองรับอันดับแบบไดนามิก
ข้อมูลเพิ่มเติม

ดูข้อมูลเพิ่มเติมได้ที่ อุปกรณ์ GPU

ผลิตภัณฑ์ที่เกี่ยวข้อง

บทความนี้จะนำไปใช้กับ 1 ผลิตภัณฑ์

เนื้อหาในหน้านี้เป็นการผสมผสานระหว่างการแปลเนื้อหาต้นฉบับภาษาอังกฤษโดยมนุษย์และคอมพิวเตอร์ เนื้อหานี้จัดทำขึ้นเพื่อความสะดวกของคุณและเพื่อเป็นข้อมูลทั่วไปเท่านั้นและไม่ควรอ้างอิงว่าสมบูรณ์หรือถูกต้อง หากมีความขัดแย้งใด ๆ ระหว่างเวอร์ชันภาษาอังกฤษของหน้านี้กับคำแปล เวอร์ชันภาษาอังกฤษจะมีผลเหนือกว่าและควบคุม ดูเวอร์ชันภาษาอังกฤษของหน้านี้