Pourquoi PyTorch uniquement ?

Transformers 5.0 abandonne les backends TensorFlow et Flax pour se concentrer exclusivement sur PyTorch. Cette décision reflète l'adoption massive de PyTorch dans la recherche et l'industrie, et permet de réduire considérablement la surface de maintenance du projet.

Ce qui change

Les classes TF* et Flax* sont supprimées. Seules les classes sans préfixe (PyTorch) subsistent. Les poids pré-entraînés restent disponibles et convertibles via des scripts de migration fournis.

python 
# Avant (Transformers 4.x) : trois variantes
# from transformers import BertModel          # PyTorch
# from transformers import TFBertModel        # TensorFlow
# from transformers import FlaxBertModel      # Flax/JAX

# Après (Transformers 5.0) : une seule
from transformers import BertModel

model = BertModel.from_pretrained('bert-base-uncased')
print(type(model))  # BertModel (PyTorch)

# Migration depuis TF : convertir les poids
# python -m transformers.convert_tf_to_pytorch \
#     --model_name bert-base-uncased \
#     --tf_checkpoint tf_model.h5 \
#     --output pytorch_model.bin

Sources