Sur le marché des puces dédiées à l’intelligence artificielle générative, Groq fait partie de ces petits acteurs qui ambitionnent de rivaliser avec Nvidia, le leader incontesté. Mercredi, la start-up américaine a officialisé une nouvelle levée de fonds, la deuxième en un an. Elle a récolté 750 millions de dollars supplémentaires, portant sa valorisation à 6,9 milliards. Fondée en 2016, Groq a changé de dimension avec l’essor de l’IA. Elle cible spécifiquement le marché de l’inférence, c’est-à-dire la phase d’exécution des modèles. Ce processus requiert moins de puissance de calcul que l’entraînement, mais il s’effectue encore largement sur les mêmes GPU. Avec sa puce spécialisée, qu’elle appelle LPU (unité de traitement du langage), elle promet ainsi une vitesse d’exécution dix fois supérieure, permettant de générer plus rapidement des réponses, et une consommation d’énergie dix fois plus faible. Groq se distingue de ses concurrents en commercialisant également sa propre plateforme de cloud, pour faire tourner des modèles. Sa dernière levée de fonds doit lui permettre d’accroître ses capacités en construisant de nouveaux centres de données.
Pour aller plus loin:
– Ces start-up qui rêvent de rivaliser avec Nvidia dans l’IA
– OpenAI signe avec Oracle un contrat à 300 milliards de dollars