การแปลงโมเดล INT8 เป็นการนําเสนอระดับกลาง (IR)

ในเอกสารการปรับรุ่นให้เหมาะสม จะมีการกล่าวถึงการฝึกอบรมการรับรู้ปริมาณ (QAT) โดยระบุว่า QAT อนุญาตให้ผู้ใช้รับโมเดลที่ปรับให้เหมาะสมได้อย่างถูกต้องซึ่งสามารถแปลงเป็น OpenVINO™ Intermediate Representation (IR) ได้ อย่างไรก็ตาม จะไม่มีรายละเอียดเพิ่มเติมให้ หมายถึง:

• คู่มือการปรับรุ่นให้เหมาะสม
• การฝึกอบรมการรับรู้ปริมาณ (QAT) ใน OpenVINO (2026.0)

Neural Network Compression Framework (NNCF) ใช้เฟรมเวิร์กการฝึกอบรมที่เข้ากันได้กับ OpenVINO™ ได้รับการสนับสนุนผ่าน Neural Network Compression Framework (NNCF) สําหรับ:

• โมเดล TensorFlow* 2 / Keras* (ผ่านเวิร์กโฟลว์ NNCF QAT)
• โมเดล PyTorch* (ผ่านเวิร์กโฟลว์ NNCF QAT)

NNCF เป็นเฟรมเวิร์กที่ให้วิธีการบีบอัดแบบจําลองเวลาหลังการฝึกอบรมและการฝึกอบรม (รวมถึง QAT) และใช้เพื่อปรับโมเดลสําหรับการอนุมาน OpenVINO ให้เหมาะสม

หลังจาก QAT fine-tuning เสร็จสมบูรณ์ แล้ว โมเดลที่ปรับให้เหมาะสมจะสามารถส่งออก (โดยทั่วไปเป็น ONNX*) แล้วจึงแปลงเป็น OpenVINO™ IR เพื่อปรับใช้

โปรดดูบทความต่อไปนี้:

ไปป์ไลน์ที่มีความแม่นยําต่ําที่ได้รับการปรับปรุงเพื่อเร่งการอนุมานด้วยชุดเครื่องมือ OpenVINO

เฟรมเวิร์คการบีบอัดโครงข่ายประสาทเทียม (NNCF)