Vue d'ensemble

Ray 2.9, publie le 15 fevrier 2024, ameliore l'autoscaling et simplifie le deploiement de clusters distribues.

Fonctionnalites principales

Autoscaling ameliore

L'autoscaler reagit plus rapidement aux pics de charge et gere mieux le scale-down pour reduire les couts cloud.

python 
import ray

ray.init()  # autoscaling configure dans cluster.yaml

@ray.remote
def traiter(x):
    return x ** 2

# Lance 1000 taches, l'autoscaler ajoute des noeuds
futures = [traiter.remote(i) for i in range(1000)]
results = ray.get(futures)
print(f'Total: {sum(results)}')

Ray Serve simplifie

Ray Serve ameliore le deploiement de modeles ML avec un routage plus flexible et un meilleur monitoring.

python 
from ray import serve

@serve.deployment(num_replicas=2)
class Model:
    def __init__(self):
        self.model = ...  # charger le modele

    async def __call__(self, request):
        data = await request.json()
        return {'prediction': 42}

serve.run(Model.bind())

Sources