OpenAI est dans les temps. Mercredi, le concepteur de ChatGPT a dévoilé sa toute première puce dédiée à l’intelligence artificielle générative, conçue en partenariat avec Broadcom. Baptisée Jalapeño, celle-ci a spécifiquement été pensée pour l’inférence, c’est-à-dire le processus de génération de textes, d’images ou de code informatique. Elle pourrait permettre de réduire les coûts de moitié par rapport aux cartes graphique généralistes de Nvidia. Après une phase de tests, son déploiement à grand échelle est prévu “d’ici la fin de l’année”, comme annoncé en octobre.
Centaines de milliards de dollars
Cet accélérateur n’est que le premier modèle d’une “collaboration stratégique”, appelée à se poursuivre au moins jusqu’à fin 2029. Sur cette période, OpenAI s’est engagé à acheter des puces représentant une puissance cumulée de dix gigawatts. Cela représente plusieurs millions d’unités. Et une facture probablement en centaines de milliards de dollars. Ce contrat s’inscrit dans une stratégie d’augmentation massive de la puissance de calcul,destinée à répondre à l’explosion attendue des besoins, notamment avec l’essor des agents d’IA autonomes, capables de fonctionner en continu.
OpenAI travaille avec Broadcom depuis un an et demi sur ce projet. Selon Reuters, la start-up a constitué une équipe de plusieurs dizaines d’ingénieurs, dont certains ont travaillé sur le projet de puces d’IA de Google. Ses ambitions ne se limitent pas à un simple accélérateur: Sam Altman explique vouloir développer “l’ensemble du système”, incluant également les interconnexions réseau ou les puces mémoire HBM. Ces infrastructures pourront être déployées directement dans les data centers qu’OpenAI prévoit de construire ou chez ses partenaires cloud, comme Oracle.
Objectif: réduire les coûts
En développant sa propre puce, OpenAI s’aligne sur la stratégie déjà adoptée par Google, Amazon, Microsoft ou encore Meta. Son objectif n’est pas de remplacer les puissantes cartes graphiques de Nvidia, indispensables pour entraîner les modèles d’IA les plus sophistiqués. La start-up souhaite d’abord limiter sa dépendance au groupe de Santa Clara, tout en réduisant potentiellement les coûts de déploiement de son infrastructure. Elle espère ensuite “optimiser l’ensemble de la chaîne technologique afin de pouvons réaliser d’importants gains d’efficacité”, indique Sam Altman.
Pour le dirigeant, ces efforts doivent se traduire “par des modèles à la fois plus rapides et moins coûteux”. L’enjeu est crucial: l’entreprises doit impérativement accroître ses marges brutes sur l’inférence, dont le niveau actuel, aujourd’hui autour de 40%, demeure insuffisant pour absorber l’ensemble des autres dépenses, notamment celles liés à l’entraînement. OpenAI envisagerait par ailleurs de réduire drastiquement ses prix pour les entreprises afin de gagner des parts de marché face à Anthropic. Une politique viable qu’à condition de parvenir à diminuer significativement ses coûts.
Pour aller plus loin:
–
–
