transformers v4.14.0のリリース

はじめに

HuggingFace transformers が 12 月に入って v4.13, v4.14, v4.15 と立て続けにリリースされています。 今回は、 リリースノートをもとに v4.14 系の変更点を確認していきます。

Perceiver

Perceiver は v4.13 で追加された DeepMind(現在は Google 傘下)によって開発された汎用のモデルです。 v4.14 では、fill mask(言語系)や画像分類などの pipeline がサポートされるようになりました。

Keras モデルカード

Keras の push to hub コールバックでモデルハブにプッシュする際にモデルカードを生成するようになりました。

その他

いろいろ改善や修正などがありました。

まとめ

v4.14 は変更は少なめで、v4.13.1 相当のようなイメージです。