Support des GPU Blackwell

PyTorch 2.7 ajoute le support des GPU NVIDIA Blackwell (B100/B200) via CUDA 12.8. L'architecture Blackwell apporte le FP4, un meilleur débit mémoire et des Tensor Cores de 5ème génération, ce qui bénéficie directement aux entraînements et inférences de grands modèles.

Exemple de benchmark

python 
import torch

# Vérifier le support Blackwell
print(torch.cuda.get_device_name(0))  # NVIDIA B200
print(torch.cuda.get_device_capability(0))  # (10, 0)

# Benchmark simple
x = torch.randn(8192, 8192, device='cuda', dtype=torch.bfloat16)
y = torch.randn(8192, 8192, device='cuda', dtype=torch.bfloat16)

# Warm-up
for _ in range(10):
    _ = x @ y
torch.cuda.synchronize()

# Mesure
import time
start = time.perf_counter()
for _ in range(100):
    _ = x @ y
torch.cuda.synchronize()
elapsed = time.perf_counter() - start
print(f'100 matmuls 8192x8192 BF16 : {elapsed:.2f}s')

Sources