Vue d'ensemble

Transformers 4.42, publié le 15 juillet 2024, ajoute le support de Llama 3.1 et de ses variantes multilingues.

Fonctionnalités principales

Support Llama 3.1

Les modèles Llama 3.1 (8B, 70B, 405B) sont intégrés avec support du contexte étendu (128k tokens) et des capacités multilingues améliorées.

python 
from transformers import pipeline

generateur = pipeline(
    'text-generation',
    model='meta-llama/Llama-3.1-8B-Instruct',
)
resultat = generateur(
    'Expliquez le théorème de Pythagore simplement.',
    max_new_tokens=100,
)
print(resultat[0]['generated_text'])

Sources