FP16和FP32在CPU上的推論差異非常小?
2022/08/11 上午 07:17
【第12堂】使用 benchmark app 觀察深度學習模型效能與初探 OpenVINO Runtime API (推論引擎)效能增強工具
張光
觀看數：26
回答數：1
收藏數：0
請問老師FP16和FP32在CPU上的推論FPS差異非常小，請問這是正常的嗎，謝謝? CPU為i7-9750H benchmark_app -m C:\Users\USER\public\yolo-v3-tf\FP16\yolo-v3-tf.xml -d CPU -progress <== 6.41 FPS benchmark_app -m C:\Users\USER\public\yolo-v3-tf\FP32\yolo-v3-tf.xml -d CPU -progress <== 6.15 FPS
回答列表
-
2022/08/30 下午 03:20Chungyeh Wang贊同數：1不贊同數：0留言數：0
在CPU上 FP16模型會被自動轉成FP32, 這是正常的.