Optimum

Optimumは、Intel、Furiosa、ONNX Runtime、GPTQ、および低レベルのPyTorch量子化関数をサポートする最適化ライブラリです。Intel CPU/ HPU、AMD GPU、Furiosa NPUなどの特定のハードウェア、およびONNX Runtimeのようなモデルアクセラレータの性能を向上させることを目的として設計されています。

Update on GitHub