Ulepszanie przewidywania własności materiałów na podstawie składu przez transfer wiedzy między modalnościami

Dlaczego przewidywanie zachowania materiałów ma znaczenie

Projektowanie nowych baterii, ogniw słonecznych czy mocniejszych stopów często zaczyna się od prostego przepisu określającego, które pierwiastki zmieszać. Przekształcenie takiego przepisu w rzeczywisty materiał o znanej wytrzymałości, przewodnictwie czy stabilności zwykle wymaga kosztownych obliczeń kwantowych lub eksperymentów. W tym badaniu pokazano, jak zaawansowane modele językowe AI, pierwotnie stworzone do analizy tekstu, mogą uczyć się z różnych rodzajów danych o materiałach, a następnie przewidywać istotne własności bezpośrednio na podstawie wzoru chemicznego, zmniejszając koszty i czas potrzebny do przeszukiwania ogromnych przestrzeni możliwych związków.

Od przepisów do przewidywań

Tradycyjne narzędzia uczenia maszynowego w nauce o materiałach dzielą się na dwie grupy. Jedne potrzebują szczegółowych struktur krystalicznych opisujących rozmieszczenie atomów w trzech wymiarach i wtedy potrafią dokładnie przewidywać własności, choć przy dużym koszcie obliczeniowym. Drugie opierają się wyłącznie na ogólnym wzorze chemicznym — ile atomów każdego pierwiastka występuje — co jest tańsze, ale zazwyczaj mniej precyzyjne. Autorzy dążą do zlikwidowania tej luki: chcą modeli, które widzą tylko wzór, a działają niemal tak dobrze jak metody uwzględniające strukturę, umożliwiając szybkie przesiewanie związków, które nigdy nie zostały zsyntezowane ani zamodelowane strukturalnie.

Nauczanie AI języka materiałów

Zespół rozwija chemiczne modele językowe, które traktują wzór jak ciąg tokenów, podobnie jak słowa w zdaniu. Najpierw modele uczą się uzupełniać brakujące fragmenty wzorów, zadanie treningowe pomagające wychwycić regularności w tym, które pierwiastki łączą się i w jakich stosunkach. Autorzy dodatkowo nakierowują to uczenie na materiały termodynamicznie stabilne, dzięki czemu model zwraca większą uwagę na realistyczne składy. Wprowadzają kluczowy zwrot: zamiast uczyć się tylko z tekstu jak tradycyjne modele językowe, ich modele są wyrównane z oddzielnym modelem bazowym, który już nauczył się z wielu źródeł, w tym struktur krystalicznych, zachowań elektronicznych i rozkładów ładunku. W efekcie model językowy dziedziczy bogatą wiedzę strukturalną, jednocześnie pracując tylko na podstawie wzorów.

Dwie drogi wymiany wiedzy

Naukowcy badają dwie komplementarne strategie, które nazywają niejawnym i jawnym transferem wiedzy między modalnościami. W wersji niejawnej model językowy oparty na wzorze jest trenowany tak, by dopasowywać wewnętrzne reprezentacje generowane przez multimodalny model bazowy — w ten sposób dyskretnie przyswaja, jak struktury i wzorce elektroniczne odnoszą się do składu. W wersji jawnej duży model generatywny najpierw proponuje prawdopodobne struktury krystaliczne dla każdego wzoru, a następnie grafowe sieci neuronowe, dobrze radzące sobie z sieciami atomów, przewidują własności z tych struktur. Ta dwustopniowa ścieżka próbuje odtworzyć brakujące informacje o strukturze przed dokonaniem predykcji.

Jak dobrze działają metody

Modele testowano na dwóch dużych zestawach benchmarkowych obejmujących dziesiątki wielkości docelowych, od przerw energetycznych istotnych dla ogniw słonecznych po własności mechaniczne, takie jak moduł ścinania. W większości zadań, szczególnie dla zestawów opartych na obliczeniach mechaniki kwantowej, modele z niejawnym transferem osiągają mniejsze błędy predykcji niż wcześniejsze modele językowe i często dorównują silnym metodom opartym na strukturze. Pipeline z jawnym transferem także poprawia wyniki w porównaniu z poprzednimi modelami opartymi na składzie, ale jest spowolniony przez konieczność generowania struktur krystalicznych. Wytworzenie tych struktur może zająć kilkadziesiąt razy więcej czasu na materiał niż bezpośrednia predykcja modelem językowym, szczególnie gdy skład obejmuje wiele różnych pierwiastków.

Zajrzeć do czarnej skrzynki

Aby zrozumieć, czego nauczył się model językowy, autorzy stosują analizę z teorii gier, która mierzy, jak różne elementy wejścia, pojedynczo lub w kombinacji, wpływają na przewidywaną własność. Patrząc na moduł ścinania, związany z odpornością materiału na zmianę kształtu, stwierdzili, że pewne pierwiastki i grupy pierwiastków mocno podnoszą lub obniżają wartość, co zgadza się ze znanymi twardymi związkami, takimi jak borki i węgliki. Niektóre trzytokenowe wzorce we wzorze można nawet powiązać z dobrze znanymi prototypami krystalicznymi, co sugeruje, że model niejawnie wychwycił motywy strukturalne na podstawie samego składu.

Co to oznacza dla przyszłego odkrywania materiałów

Podsumowując, badanie pokazuje, że dzielenie się wiedzą między różnymi typami danych o materiałach może znacząco poprawić przewidywanie własności, gdy dostępny jest tylko wzór chemiczny. Podejście niejawne, w którym model językowy jest kierowany przez multimodalny model bazowy, daje najlepsze połączenie dokładności i szybkości, co czyni je atrakcyjnym do dużych wirtualnych przeglądów nowych związków. Jawna ścieżka rekonstruująca struktury krystaliczne stanowi inną obiecującą opcję, zwłaszcza w miarę poprawy generatorów struktur. Razem te metody wskazują kierunek rozwoju narzędzi AI, które mogą szybko przesiać ogromne przestrzenie chemiczne i wyłonić najciekawsze kandydatury na długo przed wyhodowaniem pierwszego kryształu.

Cytowanie: Rubtsov, I., Dudakov, I., Kuratov, Y. et al. Enhancing composition-based materials property prediction by cross-modal knowledge transfer. Sci Rep 16, 16434 (2026). https://doi.org/10.1038/s41598-026-53182-3

Słowa kluczowe: informatyka materiałowa, chemiczne modele językowe, predykcja własności, uczenie multimodalne, struktury krystaliczne