สรุปข้อมูล
ขั้นตอนการปรับใช้ไปป์ไลน์การอนุมาน OpenVINO™รันไทม์กับ IR
คำอธิบาย
- โมเดล TensorFlow* ที่แปลงเป็น IR
- ไม่สามารถระบุขั้นตอนการปรับใช้ OpenVINO™ไปป์ไลน์การอนุมานรันไทม์กับ IR ได้
ความละเอียด
- Create* คอร์รันไทม์ OpenVINO™
import openvino.runtime as ov
core = ov.Core()
- คอมไพล์ รุ่น
compiled_model = core.compile_model("model.xml", "AUTO")
- สร้าง คําขอ Infer
infer_request = compiled_model.create_infer_request()
- ตั้ง ค่า อินพุต
# Create tensor from external memory
input_tensor = ov.Tensor(array=memory, shared_memory=True)
# Set input tensor for model with one input
infer_request.set_input_tensor(input_tensor)
- เริ่ม การอนุมาน
infer_request.start_async()
infer_request.wait()
- ประมวลผล ผลลัพธ์การอนุมาน
# Get output tensor for model with one output
output = infer_request.get_output_tensor()
output_buffer = output.data
# output_buffer[] - accessing output tensor data