如何使用 Optimum Intel 和 OpenVINO 加速模型推理

Hugging Face 宣佈 Optimum Intel 整合 Intel OpenVINO，可透過 OpenVINO Runtime 在多種 Intel 處理器上推理 Transformers 模型，並使用 NNCF 量化多種 encoder 模型。