Vue d'ensemble

Transformers 5.0, publie le 18 decembre 2025, passe a PyTorch uniquement, adopte une architecture modulaire et refond les tokenizers.

Fonctionnalites principales

PyTorch uniquement

Transformers 5.0 abandonne les backends TensorFlow et JAX pour se concentrer sur PyTorch, simplifiant la maintenance et les tests.

python
from transformers import AutoModelForCausalLM, AutoTokenizer

model = AutoModelForCausalLM.from_pretrained('gpt2')
tokenizer = AutoTokenizer.from_pretrained('gpt2')

inputs = tokenizer('Bonjour', return_tensors='pt')
outputs = model.generate(**inputs, max_new_tokens=20)
print(tokenizer.decode(outputs[0]))

Architecture modulaire

Les modeles sont desormais organises en composants modulaires reutilisables, facilitant la creation de nouvelles architectures par composition.

Refonte des tokenizers

Les tokenizers ont ete redesignes avec une API unifiee et des performances ameliorees grace a l'integration plus etroite de tokenizers (Rust).

Sources