Hier, un article du Wall Street Journal indiquait que les États-Unis envisagent d’imposer de nouvelles restrictions sur les expéditions de puces d’IA vers la Chine. Dès le mois de juillet, les fabricants américains comme Nvidia et Intel pourraient se voir imposer une licence avant d’exporter leurs puces vers la Chine ou d’autres pays “préoccupants”. Pour éviter que les entreprises chinoises ne puissent contourner les interdictions d’exportation, la location de services cloud serait également restreinte. Les actions de grands groupes chinois, comme Alibaba et Tencent, ont accusé le coup, mais aussi celle des grands fabricants américains, Nvidia en tête.
Or, la Chine se mobilise dans la course mondiale à l’intelligence artificielle. “Nous avons trois ans de retard, mais il ne nous faudra pas trois ans pour rattraper notre retard” déclarait hier à Bloomberg le serial entrepreneur Wang Xiaochuan, dont la start-up Baichuan a créé l’un des premiers grands modèles chinois. Les investissements sont encore à la traîne : les start-up chinoises n’ont reçu que 4 milliards de dollars d’investissements depuis le début de l’années, selon l’institut britannique Preqin, contre 26,6 milliards pour leurs rivales américaines. Mais les projets se multiplient : en volume, la Chine représente les deux tiers des Etats-Unis, contre le sixième en valeur. Les grands groupes comme Baidu, Sense et Alibaba ont présenté des chatbots et des LLM opérationnels (quoique loin des modèles d’OpenAI : lire Qant du 21 mars et du 10 février). Cette effervescence s’est déclenchée sans que les start-up chinoises n’aient accès aux GPU les plus avancées. Baichuan, par exemple, déclare avoir entraîné son modèle sur des puces A800 de Nvidia.
Cinq grands groupes américains sont principalement concernés : AMD, AWS, Google, Intel et Nvidia. Ce dernier est ressorti une nouvelle fois vainqueur du benchmarking trimestriel du consortium MLCommons, qui lançait un nouvel étalonnage : l’entraînement d’un modèle comme GPT-3, qui requiert normalement plus d’un mois et environ 10 millions de dollars. Le H100 de Nividia est sorti vainqueur. Quand elle sera disponible, la future puce d’Intel Habana Gaudi2 le surpassera, mais elle devra se mesurer à l’A100, la nouvelle génération que prépare Nvidia (lire Qant du 31 mai). Alors que les processeurs graphiques (GPU) monopolisent toute l’attention depuis des années, la dernière puce Xeon, une CPU traditionnelle, fait son apparition au classement. Un signal à rapprocher de l’architecture CPU+GPU des processeurs Grace Hopper, sur lesquels Nvidia s’appuie pour l’entraînement des modèles à mille millards de paramètres, comme GPT-4.
Pour en savoir plus :
Source archive Kessel : https://qant.kessel.media/posts/pst_a5ef4d34b7af4fd7bb4df988aabb489e
