Cascade Lake

ประสิทธิภาพทรูพุตการอนุมานที่ดีขึ้น 1 เท่าในค่ามาตรฐาน โปรเซสเซอร์ Intel® Xeon® Platinum 8180 (กรกฎาคม 2017): ทดสอบโดย Intel เมื่อวันที่ 11 กรกฎาคม 2017: แพลตฟอร์ม: CPU Intel® Xeon® Platinum 8180 2S @ 2.50GHz (28 คอร์), ปิด HT, ปิดเทอร์โบ, ตั้งตัวควบคุมการปรับขยายเป็น “ประสิทธิภาพ” ผ่านไดรเวอร์ intel_pstate, 384GB DDR4-2133 ECC RAM CentOS Linux* รีลีส 7.3.1611 (Core), Linux kernel 3.10.0-514.10.2.el7.x86_64 SSD: ไดร์ฟ Intel® Solid State DC ซีรี่ส์ S3700 (800GB, 2.5in SATA 6Gb/s, 25nm, MLC) วัดประสิทธิภาพด้วย: ตัวแปรสภาพแวดล้อม: KMP_ AFFINITY=’granularity=fine, compact‘, OMP_NUM_THREADS=56, ตั้งความเร็วของ CPU ด้วย cpupower frequency-set -d 2.5G -u 3.8G -g performance Caffe: (http://github.com/intel/caffe/), การปรับปรุงแก้ไข f96b759f71b2281835f690af267158b82b150b5c. วัดการอนุมานด้วยคำสั่ง “caffe time --forward_only” วัดการฝึกฝนด้วยคำสั่ง “caffe time” มีการใช้ชุดข้อมูลสังเคราะห์สำหรับทอพอโลยี “ConvNet” สำหรับทอพอโลยีอื่นๆ จะมีการจัดเก็บข้อมูลในอุปกรณ์จัดเก็บข้อมูลบนเครื่อง และแคชมาในหน่วยความจำก่อนการฝึก ข้อมูลจำเพาะทอพอโลยีจากhttps://github.com/intel/caffe/tree/master/models/intel_optimized_models ((ResNet-50) และ https://github.com/soumith/convnet-benchmarks/tree/master/caffe/imagenet_winners (การวัดประสิทธิภาพ ConvNet; ได้ทำการอัพเดทไฟล์เพื่อใช้รูปแบบ Caffe prototxt ที่ใหม่กว่าแต่มีความเท่าเทียมกันในการทำงาน) Intel® C++ คอมไพเลอร์เวอร์ชัน 17.0.2 20170213, Intel® Math Kernel Library (Intel® MKL) เวอร์ชั่นไลบรารีขนาดเล็ก 2018.0.20170425 รัน Caffe ด้วย “numactl -l“

ปรับปรุงทรูพุตการอนุมาน 14 เท่าในโปรเซสเซอร์ Intel® Xeon® Platinum 8280 ที่มี Intel® Deep Learning Boost (Intel® DL Boost): ทดสอบโดย Intel เมื่อวันที่ 20/2/2019 โปรเซสเซอร์ Intel® Xeon® Platinum 8280 2 ซ็อกเก็ต, 28 คอร์ เปิด HT เปิดเทอร์โบ หน่วยความจำทั้งหมด 384 GB (12 ช่อง/ 32GB/ 2933 MHz), BIOS: SE5C620.86B.0D.01.0271.120720180605 (ucode: 0x200004d), Ubuntu 18.04.1 LTS, kernel 4.15.0-45-generic, SSD 1x sda INTEL SSDSC2BA80 SSD 745.2GB, nvme1n1 INTEL SSDPE2KX040T7 SSD 3.7TB, เฟรมเวิร์กการเรียนรู้เชิงลึก: Intel® Optimization for Caffe* เวอร์ชั่น: 1.1.3 (คอมมิทแฮช: 7010334f159da247db3fe3a9d96a3116ca06b09a), ICC เวอร์ชั่น 18.0.1, MKL DNN เวอร์ชั่น: v0.17 (คอมมิทแฮช: 830a10059a018cd2634d94195140cf2d8790a75a, โมเดล https://github.com/intel/caffe/blob/master/models/intel_optimized_models/int8/resnet50_int8_full_conv.prototxt, BS=64, syntheticData, 4 ระบบ/2 ซ็อกเก็ต, ชุดข้อมูล: INT8 เปรียบเทียบกับการทดสอบโดย Intel เมื่อวันที่ 11 กรกฎาคม 2017: CPU Intel® Xeon® Platinum 8180 2S @ 2.50GHz (28 คอร์), ปิด HT , ปิดเทอรืโบ, ตั้งตัวควบคุมการปรับขยายเป็น “ประสิทธิภาพ” ผ่านไดรเวอร์ intel_pstate, 384GB DDR4-2133 ECC RAM CentOS Linux* รีลีส 7.3.1611 (Core), Linux kernel 3.10.0-514.10.2.el7.x86_64 SSD: ไดร์ฟ Intel® Solid State DC ซีรี่ส์ S3700 (800GB, 2.5in SATA 6Gb/s, 25nm, MLC) วัดประสิทธิภาพด้วย: ตัวแปรสภาพแวดล้อม: KMP_AFFINITY=’granularity=fine, compact‘, OMP_NUM_THREADS=56,, ตั้งความเร็วของ CPU ด้วย cpupower frequency-set -d 2.5G -u 3.8G -g performance Caffe: (https://github.com/intel/caffe/), การปรับปรุงแก้ไข f96b759f71b2281835f690af267158b82b150b5c วัดการอนุมานด้วยคำสั่ง “caffe time --forward_only” วัดการฝึกฝนด้วยคำสั่ง “caffe time” มีการใช้ชุดข้อมูลสังเคราะห์สำหรับทอพอโลยี “ConvNet” สำหรับทอพอโลยีอื่นๆ จะมีการจัดเก็บข้อมูลในอุปกรณ์จัดเก็บข้อมูลบนเครื่อง และแคชมาในหน่วยความจำก่อนการฝึก ข้อมูลจำเพาะทอพอโลยีจาก https://github.com/intel/caffe/tree/master/models/intel_optimized_models/resnext_50, Intel® C++ คอมไพเลอร์เวอร์ชัน 17.0.2 20170213, Intel® MKL ไลบรารีขนาดเล็กเวอร์ชัน 2018.0.20170425 รัน Caffe ด้วย “numactl -l“

This is the OS list that is tested internally and does NOT reflect the OS vendor support for these exact release versions. Please contact respective OS vendor(s) for the release version numbers and support. Several software patches will be upstreamed and will be picked up over time. These will be required to enhance platform support.

Intel only provides support for our tools, patches and utilities on the OS. Actual OS support should come from the OS Vendor.