สามารถใช้เทคนิคการสร้างแผนความร้อน เช่น การแพร่กระจายของความเกี่ยวข้องแบบเลเยอร์หรือ Grad-CAM โดยใช้ OpenVINO™หรือไม่
ฮีทแมปสามารถใช้เพื่อแสดงให้เห็นถึงกระบวนการตัดสินใจของโครงข่ายประสาทเทียม
เพื่อสร้างฮีทแมปใน OpenVINO™มีความจําเป็นต้อง:
เข้าถึง แผนที่คุณสมบัติเอาต์พุตของเลเยอร์เป้าหมายแบบคอนโวลูชันและน้ําหนักที่เกี่ยวข้อง
| หมาย เหตุ | ซึ่งสามารถทําได้ผ่านการเรียกฟังก์ชัน model.add_outputs() เมื่อเริ่มต้นเครือข่ายใน OpenVINO™ 2.0+ API (แทนที่ CNNNetwork: addOutput()) |
หลังจากรันการอนุมานแล้ว ให้ คํานวณ ผลรวมน้ําหนักตามน้ําหนักพร้อมแผนที่คุณสมบัติเพื่อสร้าง Class Activation Map
สําหรับการใช้งาน Grad-CAM การไล่ระดับสี การประมวลผล ของระดับเป้าหมายที่เกี่ยวข้องกับแมปคุณสมบัติ จากนั้น คูณ การไล่ระดับสีด้วยแผนที่คุณสมบัติ
ใช้ การเปิดใช้งาน ReLU เพื่อลบค่าลบและปรับฮีทแมปที่เป็นผลลัพธ์ให้เป็นปกติ
ปรับขนาด ฮีทแมปให้ตรงกับขนาดภาพอินพุตและ โอเวอร์เลย์ บนภาพต้นฉบับเพื่อแสดงผลภาพ
ขั้นตอนเพิ่มเติม: