SF Compute veut rendre les marchés de calcul GPU programmables

Lors de l'événement AIE NYC, Evan Conrad de SF Compute a présenté son approche pour créer un marché indépendant de trading de temps GPU. Selon l'annonce, SF Compute permet désormais d'acheter ou de vendre des heures de calcul GPU, avec un contrôle programmatique des ressources, y compris le réseau et la mémoire. L'entreprise a évolué d'une simple sous-location de clusters à la gestion complète d'une infrastructure cloud, incluant la livraison physique du calcul (physical settlement), où l'acheteur reçoit effectivement des ressources utilisables plutôt qu'un simple paiement.

Le marché repose sur la résolution de contraintes techniques complexes : compatibilité des générations de GPU, configurations logicielles, tolérance aux interruptions, et temps de récupération. SF Compute adapte les ordres aux spécificités des clusters disponibles, ce qui permet de maintenir une liquidité malgré la diversité des offres. L'entreprise aborde aussi les questions de tarification spot et forward, ainsi que les différences entre inférence par lots et en temps réel. Une attention particulière est portée à l'indépendance du marché, Evan Conrad soulignant que les acteurs dominants du matériel ou de l'inférence ont des conflits d'intérêts qui rendent difficile la neutralité d'un tel échange.

Ce modèle pourrait transformer la manière dont les entreprises accèdent aux ressources de calcul, en offrant une flexibilité comparable à celle des marchés financiers. Cependant, sa réussite dépendra de la capacité à standardiser progressivement les infrastructures tout en maintenant une liquidité suffisante pour les variantes existantes.