CLOUD : un modèle fondamental évolutif et informé par la physique pour l’apprentissage de représentations cristallines

Pourquoi apprendre à partir des cristaux est important

Nous vivons dans un monde construit à partir de cristaux : les puces de nos téléphones, les batteries des voitures électriques et les catalyseurs qui épurent les gaz d’échappement dépendent tous de la manière dont les atomes s’organisent en motifs répétés. Comprendre comment la structure d’un cristal influence son comportement est essentiel pour inventer de meilleurs matériaux, mais calculer ces propriétés avec des simulations physiques traditionnelles ou des expériences en laboratoire est lent et coûteux. Cet article présente une nouvelle approche d’IA, appelée CLOUD, qui apprend à partir de millions de cristaux connus et de principes physiques de base pour prédire rapidement le comportement de nouveaux matériaux cristallins.

Transformer les structures cristallines en chaînes simples

Un défi majeur pour apprendre aux ordinateurs à connaître les cristaux est de décrire un motif atomique tridimensionnel sous une forme qu’un modèle peut traiter efficacement. Plutôt que d’entrer des coordonnées atomiques complètes, les auteurs conçoivent une description compacte appelée SCOPE. Elle capture trois éléments essentiels : la symétrie globale du cristal, les ensembles répétés de sites atomiques équivalents et quels éléments occupent ces sites, y compris leurs proportions relatives. Tout cela est exprimé sous la forme d’une chaîne courte, sans coordonnées. Cette chaîne conserve l’information structurelle la plus importante tout en étant peu coûteuse à stocker et facile à lire pour un modèle de type langage.

Un modèle de langage pour les matériaux

En s’appuyant sur SCOPE, les auteurs créent CLOUD, un modèle fondamental basé sur un transformeur et proche, par son esprit, des modèles utilisés pour le langage naturel. Plutôt que d’apprendre à partir de phrases d’internet, CLOUD est entraîné sur des chaînes SCOPE pour plus de six millions de cristaux rassemblés dans des bases de données publiques. Pendant ce pré-entraînement, le modèle voit de manière répétée des chaînes partielles avec certains jetons masqués et apprend à deviner les pièces manquantes, ce qui l’oblige à internaliser les motifs reliant symétrie, arrangement des sites et composition. Ensuite, une couche de prédiction simple est ajoutée et le modèle est affiné sur des jeux de données plus petits et étiquetés pour prédire des propriétés spécifiques comme l’énergie de formation, la largeur de bande, la rigidité mécanique et la réponse diélectrique.

Précis, évolutif et largement applicable

Testé sur des benchmarks standard en matériaux, CLOUD égalise ou dépasse de nombreux modèles d’apprentissage automatique existants, y compris ceux qui reposent sur des coordonnées atomiques complètes. Il est particulièrement performant lorsque les données sont rares ou lorsque les cristaux testés diffèrent de ceux vus pendant l’entraînement, une situation courante dans la découverte de matériaux. Le modèle fonctionne aussi bien sur des structures plus complexes ou « non conventionnelles » contenant des défauts, de grandes cellules unitaires ou des couches de basse dimensionnalité. L’analyse de l’attention interne du modèle révèle qu’il se concentre naturellement sur les jetons de symétrie dans SCOPE, confirmant qu’il a appris à utiliser des indices physiquement significatifs. Les auteurs étudient en outre comment la performance s’améliore à mesure qu’ils augmentent la taille du modèle et les données d’entraînement, et constatent que CLOUD suit des lois d’échelle prévisibles, suggérant que des versions encore plus grandes et plus puissantes pourraient être développées à l’avenir.

Mêler l’IA à la physique fondamentale

Ce travail va au-delà de la simple reconnaissance de motifs en intégrant un modèle physique classique directement dans le processus d’apprentissage. De nombreuses propriétés importantes, comme la capacité thermique et l’énergie interne, dépendent des vibrations à longue portée des atomes dans un cristal et varient avec la température. Plutôt que de demander à l’IA de prédire ces valeurs directement à une température unique, les auteurs créent CLOUD-DEBYE : CLOUD est entraîné pour prédire une quantité intermédiaire appelée température de Debye, qui caractérise la façon dont le cristal vibre, et cette prédiction est injectée dans une formule de Debye standard qui donne la capacité thermique et l’énergie en fonction de la température. Parce que les équations de Debye sont implémentées de manière à laisser passer les gradients, toute la chaîne peut être entraînée de bout en bout en n’utilisant que des données de capacité thermique à une température.

Ce que cela signifie pour la découverte de nouveaux matériaux

CLOUD-DEBYE dépasse non seulement des réseaux neuronaux avancés basés sur des graphes pour la prédiction des propriétés liées aux vibrations, mais produit aussi des résultats qui respectent les lois thermodynamiques sur une large plage de températures, même pour des matériaux et des températures qu’il n’a jamais vus pendant l’entraînement. Cela montre que combiner un apprentissage à grande échelle fondé sur les données avec une physique bien établie peut produire des modèles à la fois précis et dignes de confiance. En termes pratiques, la plateforme CLOUD peut rapidement filtrer des nombres vastes d’architectures cristallines hypothétiques, estimer un grand nombre de leurs propriétés et le faire d’une manière qui respecte les contraintes physiques de base. Cela ouvre la voie à une découverte et une conception plus rapides et plus fiables des matériaux cristallins qui soutiendront l’électronique, les technologies énergétiques et les applications structurelles de demain.

Citation: Xu, C., Zhu, S. & Viswanathan, V. CLOUD: A Scalable and Physics-Informed Foundation Model for Crystal Representation Learning. Nat Commun 17, 4074 (2026). https://doi.org/10.1038/s41467-026-70467-3

Mots-clés: apprentissage automatique des cristaux, découverte de matériaux, modèles fondamentaux, représentations sensibles à la symétrie, IA informée par la physique