Un de nos articles (Bertrand et al. 2026) montre un travail de répétabilité sur des méthodes du domaine de l’apprentissage et de l’intelligence artificielle. Nos ordinateurs étant des machines déterministes, il est tout à fait naturel de s’attendre à obtenir les mêmes résultats entre deux exécutions de nos programmes. Nous étudions trois algorithmes de référence en classification de données : K-Means, DBSCAN et Ward – et évaluons la répétabilité au bit près des résultats de leur implémentation dans les bibliothèques scikit-learn et SciPy en Python. Nous avons constaté que la répétabilité au bit près peut être perdue pour une des implémentations testées lorsque l’exécution est effectuée en parallèle (à l’aide de la bibliothèque OpenMP) afin d’accélérer les calculs.

Des mesures de consommation d’énergie ont été effectuées afin de comparer ces implémentations. Les résultats suggèrent que l’approche immédiate de parallélisation des calculs sur un serveur de type « IA », utilisant de nombreux cœurs et une carte accélératrice puissante et adaptée (Nvidia H100), permet plus de rapidité mais au détriment de la répétabilité.

« Reproduce or Race? » telle est la question qui se pose. Dans la quête de meilleures performances, nous perdons la reproductibilité qui donne à notre travail une valeur scientifique. Il est important de concentrer nos efforts sur l’efficacité de nos technologies basées sur l’IA, tout en gardant la maîtrise de l’outil informatique sans quoi toutes les consommations énergétiques associées à ces calculs sont « parties en fumées » du point de vue scientifique.

D’autre part, une autre étude les générateurs de nombres pseudo-aléatoires (PRNG) sont devenus omniprésents dans les technologies d’intelligence artificielle, principalement en apprentissage automatique (Machine Learning ou ML) en raison de leur utilité pour de nombreuses méthodes. Dans ce contexte, de multiples flux stochastiques sont générés en « boîte noire » — pour diverses techniques telles que la descente de gradient stochastique ou le « dropout » ou pour gérer la « température » des modèles de langage. Lorsque ces flux ne sont pas réellement maîtrisés, cela peut compromettre la répétabilité, entravant ainsi le débogage, l’interprétabilité et la scientificité des résultats.

Si le domaine du ML offre un potentiel de progrès considérables dans divers secteurs, il suscite également des préoccupations persistantes, notamment en matière de reproductibilité et de consommation d’énergie. La reproductibilité est essentielle à la rigueur scientifique et à l’explicabilité, tandis que l’efficacité énergétique répond à l’impératif de préservation des ressources mondiales limitées.

Dans une de nos études (Antunes et Hill 2026), nous examinons si les principaux PRNG utilisés dans les langages, bibliothèques et frameworks de ML garantissent une qualité statistique et une reproductibilité numérique équivalentes à celles des implémentations originales en C de ces mêmes algorithmes. Nous évaluons également l’efficacité temporelle et la consommation énergétique de ces différentes implémentations. Nos expériences portent sur Python, NumPy, TensorFlow et PyTorch, en utilisant les algorithmes Mersenne Twister, Permuted Congruential Generator (PCG) et Philox. Nous avons constaté que les performances temporelles des technologies ML sont très proches de celles des implémentations en C, atteignant parfois même des niveaux de performance supérieurs. Par ailleurs, il est à noter que les technologies ML n’ont consommé que 10 % d’énergie supplémentaire par rapport à leurs équivalents en C. Toutefois, si la qualité statistique s’est révélée comparable, la reproductibilité numérique entre différentes plateformes — pour des graines (seeds) et des algorithmes identiques — n’a pas été atteinte ce qui montre l’écueil scientifique que nous avions pressenti et sur lequel peuvent buter bien des études utilisant l’intelligence artificielle.

Bibliographie

ANTUNES, Benjamin et HILL, David RC. Random numbers for machine learning : A comparative study of reproducibility and energy consumption. Journal of Data Science and Intelligent Systems, 2026, vol. 4, no 1, p. 26-38. (Q1)

Bertrand, Anthony, Engelbert Mephu Nguifo, Violaine Antoine, and David R. C. Hill. 2026. ‘A K-Means, Ward, and DBSCAN Repeatability Study’. Cloud Computing and Data Science, April 2, 215–45.

Dans cette rubrique

• Énergie

  L’intelligence artificielle (IA) s’est imposée comme un facteur clé de développement. Mais l’entraînement de ces modèles d’IA ainsi que leur utilisation a un coût environnemental important (sans parler de la fabrication du matériel sur lequel ces modèles s’exécutent). Il est nécessaire de faire (…)

• OBSERVAe

  Le projet a pour objectif d’évaluer la plus-value apportée par les nouvelles technologies de communication satellitaire (Figure 1), bas coût, face aux enjeux d’observation et de gestion de la ressource en eau. Pour cela le projet vise à instrumenter plusieurs sites d’intérêt sur des bassins (…)

• LowFlowSensor

  Réseaux de capteurs intelligents et communicants pour le suivi bas coûts de l’aggravation des étiages et la dégradation des environnements aquatiques Water in Auvergne ! 3 sites explorant la diversité des réponses au sein du continuum fluvial Problématique : Le projet s’inscrit dans la (…)

• CPER IDEAL - 2023-2028

  Le projet IDEAL, soutenu par le Contrat Plan État-Région (Dossier CPER 2202091701), adresse la question de la gestion des données massives générées par les objets connectés. En effet, les données massives sont omniprésentes dans tous les secteurs, posant des défis scientifiques et techniques (…)