W kierunku godnej zaufania sztucznej inteligencji w dziedzictwie kulturowym

Dlaczego inteligentniejsze narzędzia mają znaczenie dla naszej przeszłości

Od zrujnowanych świątyń po kruche pergaminy — współcześni specjaliści od dziedzictwa polegają na narzędziach cyfrowych, by rozumieć i chronić ślady historii człowieka. Sztuczna inteligencja (SI) potrafi przesiać ogromne zbiory obrazów, skanów i zapisów znacznie szybciej niż człowiek, ale może też błędnie odczytać bądź zniekształcić historie, które te obiekty opowiadają. Artykuł bada, jak sprawić, by SI była nie tylko wydajna, lecz także sprawiedliwa, przejrzysta i godna zaufania, gdy służy badaniu i ochronie dziedzictwa kulturowego.

Nowe wsparcie dla starych skarbów

Muzea, archeolodzy i konserwatorzy sięgają po SI, by klasyfikować zdjęcia, mapować uszkodzenia budowli i rekonstruować utracone detale z rozbitych obiektów. Techniki opracowane pierwotnie dla samochodów autonomicznych czy handlu internetowego pomagają teraz interpretować stare mozaiki, rzeźby i historyczne ulice. Jednak dane z dziedzictwa kulturowego są wyjątkowo nieuporządkowane i nierówne: niektóre regiony i epoki są bogato udokumentowane, inne pojawiają się jedynie w rozproszonych zapiskach. Jeśli SI uczy się głównie na podstawie znanych zabytków i zachodnich kolekcji, może pomijać lub błędnie interpretować dziedzictwo grup mniejszościowych czy mniej znanych miejsc. Autorzy argumentują, że ponieważ dziedzictwo kształtuje tożsamości i pamięć, błędy w tym obszarze to nie tylko problemy techniczne, lecz także kwestie etyczne.

Gdzie algorytmy mogą zawieść

Autorzy rozrysowują liczne sposoby, w jakie uprzedzenia mogą przenikać do SI stosowanej w dziedzictwie. Część uprzedzeń wynika z braków w danych: na przykład uszkodzone mozaiki, gdzie brakujące kafelki mylą systemy rozpoznawania wzorców, albo zapisy historyczne, które pomijają całe społeczności. Inne wynikają z tego, kto jest reprezentowany: popularne zbiory często pokazują monety, ikony i budynki z Europy, przez co obiekty spoza Zachodu są niedoreprezentowane. Nawet gdy materiały istnieją, etykiety mogą się różnić między ekspertami, a zdjęcia w mediach społecznościowych znanych miejsc mogą odzwierciedlać spojrzenie turystów, a nie lokalne perspektywy. Artykuł grupuje te problemy w kategorie, takie jak brakujące dane, niedoreprezentowanie mniejszości, różnice kontekstowe między regionami oraz przestarzałe poglądy utrwalone w starych skanach czy archiwach. Dla każdego typu proponuje praktyczne środki zaradcze — od poszerzania kolekcji o narracje mniejszości po rutynowe aktualizowanie modeli cyfrowych w miarę zmiany miejsc.

Uczynienie decyzji maszyn zrozumiałymi

Zaufanie, twierdzą autorzy, zależy nie tylko od lepszych danych, lecz także od jaśniejszych wyjaśnień. Wiele współczesnych systemów SI działa jako „czarne skrzynki”: klasyfikują arkadę jako gotycką lub ścianę jako uszkodzoną, nie pokazując powodów. Artykuł proponuje wielowarstwowe podejście do wyjaśnialności. Jedna warstwa analizuje wewnętrzne mechanizmy modelu, inna — jak lokalna historia i kontekst wpływają na decyzje, a kolejne skupiają się na praktycznym znaczeniu wyniku i na poziomie pewności systemu. Wyjaśnienia mogą być globalne, opisujące zachowanie systemu jako całości, lub lokalne, dotyczące pojedynczej predykcji dotyczącej konkretnego budynku czy artefaktu. Aby ocenić, czy te wyjaśnienia naprawdę pomagają, autorzy definiują proste, zorientowane na człowieka metryki, takie jak satysfakcja użytkownika, ciekawość, zaufanie oraz wpływ na jakość podejmowanych decyzji.

Testowanie ram na rzeczywistych danych dziedzictwa

Aby sprawdzić, jak ich pomysły działają w praktyce, badacze ponownie przyjrzeli się wcześniejszemu systemowi SI analizującemu gęste chmury punktów 3D historycznych budynków. System ten bardzo dobrze przypisuje klastry punktów do elementów architektonicznych, takich jak arkady, okna czy kolumny, ale nie został zaprojektowany z myślą o sprawiedliwości czy przejrzystości. Oceniany według nowych etycznych metryk, eksperci stwierdzili, że jedynie częściowo rozumieją, jak dochodzi do wniosków, a system niewiele wyjaśnia na temat alternatywnych interpretacji. Autorzy proponują użycie nowszych modeli, które mają wbudowane wyjaśnienia. Modele te porównują fragmenty budynku z wyuczonymi „prototypowymi” kształtami i wskazują przykłady, które wpłynęły na przypisanie danej etykiety, tak by specjaliści od dziedzictwa mogli zobaczyć i poddać dyskusji rozumowanie zamiast po prostu akceptować nieprzejrzyste odpowiedzi.

Budowanie odpornych na przyszłość strażników kultury

Mówiąc wprost, artykuł argumentuje, że SI powinna wspierać ludzkie osądy w pracy nad dziedzictwem, a nie je cicho zastępować. Poprzez systematyczne wyszukiwanie uprzedzeń i naleganie, by systemy wyjaśniały swoje wybory w języku i formach wizualnych zrozumiałych dla ekspertów, proponowane ramy mają zapewnić, że SI pozostanie zgodna z wartościami włączenia, dokładności i szacunku dla różnorodności kulturowej. Autorzy sugerują, że podobne etycznie świadome projekty mogłyby przynieść korzyści także w wrażliwych obszarach, takich jak zdrowie, edukacja czy środowisko. Dla dziedzictwa kulturowego przesłanie jest jasne: tylko SI, która jest przejrzysta, sprawiedliwa i otwarta na kwestionowanie, może być godna zaufania, by pomagać opowiadać historie naszej wspólnej przeszłości.

Cytowanie: Paolanti, M., Frontoni, E. & Pierdicca, R. Towards trustworthy AI in cultural heritage. npj Herit. Sci. 14, 131 (2026). https://doi.org/10.1038/s40494-026-02403-z

Słowa kluczowe: dziedzictwo kulturowe, godna zaufania SI, uprzedzenia algorytmiczne, wyjaśnialna SI, konserwacja zabytków