วิธีหลีกเลี่ยงปัญหาหน่วยความจํารั่วเมื่อใช้งานตัวอย่าง OpenVINO™ C++ กับIntel Inspector
- รันOpenVINO™ ตัวอย่าง Async Classification ภาพ C++ด้วยIntel® Inspectorสําหรับตรวจสอบปัญหาหน่วยความจํา
คําสั่งที่ใช้:
$ pwd
/home/centos/inference_engine_cpp_samples_build/intel64/Release
$ /opt/intel/oneapi/inspector/2021.3.0/bin64/inspxe-cl -c mi3 ./classification_sample_async -m /opt/intel/openvino_2021.3.394/deployment_tools/open_model_zoo/tools/downloader/intel/image-retrieval-0001/FP16-INT8/image-retrieval-0001.xml -i /home/centos/images -nt 8
$ /opt/intel/oneapi/inspector/2021.3.0/bin64/inspxe-cl -report observations - Intel® Inspectorรายงานที่ให้รายละเอียดเกี่ยวกับปัญหาหน่วยความจํา
แอพการวัดประสิทธิภาพถูกใช้เป็นข้อมูลอ้างอิงเพื่อเพิ่มประสิทธิภาพการอนุมานสูงสุด มีบางรหัสที่เกี่ยวข้องกับสถิติความหน่วงแฝงในแอพการวัดประสิทธิภาพ
การลบ ส่วนย่อยที่เกี่ยวข้องของโค้ดจะทําให้หน่วยความจํามีความเสถียร
ไม่แนะนําให้ใช้แอปพลิเคชัน benchmark_app สําหรับการทดสอบภาวะวิกฤต เนื่องจากใช้ private std::vector_latencies ในคลาส InferRequestsQueue ซึ่งรวบรวมค่าความหน่วงทั้งหมดและคํานวณค่ากลางของความหน่วง