Hacia una IA confiable en el patrimonio cultural

Por qué importan herramientas más inteligentes para nuestro pasado

Desde templos en ruinas hasta pergaminos frágiles, los expertos en patrimonio de hoy dependen de herramientas digitales para entender y proteger los vestigios de la historia humana. La inteligencia artificial (IA) puede analizar enormes volúmenes de imágenes, escaneos y registros mucho más rápido que cualquier persona, pero también puede interpretar mal o distorsionar las historias que cuentan esos objetos. Este artículo explora cómo podemos lograr que la IA no solo sea poderosa, sino también justa, transparente y digna de confianza cuando se usa para estudiar y salvaguardar el patrimonio cultural.

Nuevos auxiliares para tesoros antiguos

Museos, arqueólogos y conservadores recurren a la IA para clasificar fotos, mapear daños en edificios y reconstruir detalles perdidos de objetos rotos. Técnicas desarrolladas originalmente para coches autónomos o comercio electrónico ayudan ahora a interpretar mosaicos antiguos, esculturas y calles históricas. Sin embargo, los datos de patrimonio cultural son excepcionalmente desordenados y desiguales: algunas regiones y épocas están documentadas con profusión, mientras que otras aparecen solo en registros dispersos. Si la IA aprende principalmente a partir de monumentos conocidos y colecciones occidentales, puede ignorar o interpretar mal el patrimonio de grupos minoritarios o lugares menos celebrados. El artículo sostiene que, dado que el patrimonio cultural moldea identidades y memorias, los errores aquí no son solo fallos técnicos sino problemas éticos.

Dónde pueden equivocarse los algoritmos

Los autores trazan las múltiples formas en que el sesgo puede filtrarse en la IA aplicada al patrimonio. Algunos sesgos provienen de lagunas en los datos: por ejemplo, mosaicos dañados cuyos azulejos faltantes confunden a los sistemas de reconocimiento de patrones, o registros históricos que omiten comunidades enteras. Otros derivan de quién está representado: los conjuntos de datos populares tienden a mostrar monedas, iconos y edificios de Europa, dejando subrepresentados los objetos no occidentales. Incluso cuando el material existe, las etiquetas pueden variar entre expertos, y las fotos en redes sociales de sitios famosos pueden reflejar instantáneas turísticas más que perspectivas locales. El artículo agrupa estos problemas en categorías como datos faltantes, subrepresentación de minorías, diferencias contextuales entre regiones y visiones anticuadas congeladas en escaneos o archivos viejos. Para cada tipo, sugiere contramedidas prácticas, desde ampliar las colecciones para incluir narrativas minoritarias hasta actualizar rutinariamente los modelos digitales conforme cambian los sitios.

Hacer comprensibles las decisiones de las máquinas

La confianza, sostienen los autores, depende no solo de mejores datos sino también de explicaciones más claras. Muchos sistemas modernos de IA actúan como “cajas negras”: clasifican un arco como gótico o una pared como dañada sin mostrar por qué. El artículo propone un enfoque en capas para la explicabilidad. Una capa examina la mecánica interna del modelo, otra cómo la historia local y el contexto influyen en sus decisiones, y otras se centran en qué significa el resultado en la práctica y cuánta confianza tiene el sistema. Las explicaciones pueden ser globales, describiendo el comportamiento general del sistema, o locales, centradas en una predicción concreta sobre un edificio o artefacto específico. Para juzgar si esas explicaciones realmente ayudan, los autores definen métricas sencillas centradas en las personas, como la satisfacción del usuario, la curiosidad, la confianza y el efecto en la calidad de la decisión.

Probar el marco con datos reales de patrimonio

Para ver cómo funcionan sus ideas en la práctica, los investigadores revisitan un sistema de IA anterior que analiza nubes de puntos 3D densas de edificios históricos. Ese sistema es muy bueno asignando automáticamente cada conjunto de puntos a elementos arquitectónicos como arcos, ventanas o columnas, pero no fue diseñado teniendo en cuenta la equidad o la transparencia. Al evaluarlo con las nuevas métricas éticas, los expertos hallaron que solo comprendían en parte cómo llegaba a sus conclusiones y que el sistema hacía poco por explicar interpretaciones alternativas. Los autores proponen usar modelos más recientes que integren la explicación en su diseño. Estos modelos comparan partes de un edificio con “prototipos” aprendidos y resaltan qué ejemplos guiaron una etiqueta dada, de modo que los especialistas en patrimonio puedan ver y debatir el razonamiento en lugar de aceptar simplemente una respuesta opaca.

Construir guardianes de la cultura a prueba de futuro

En términos sencillos, este artículo sostiene que la IA debe ayudar al juicio humano en el trabajo de patrimonio, no reemplazarlo silenciosamente. Al detectar sistemáticamente el sesgo e insistir en que los sistemas expliquen sus elecciones en lenguaje y visuales que los expertos puedan entender, el marco propuesto busca mantener la IA alineada con los valores de inclusión, precisión y respeto por la diversidad cultural. Los autores sugieren que diseños similares sensibles a la ética podrían beneficiar también áreas delicadas como la salud, la educación y el medio ambiente. Para el patrimonio cultural, el mensaje es claro: solo la IA que sea transparente, justa y abierta a ser cuestionada puede merecerse la confianza para ayudar a contar las historias de nuestro pasado compartido.

Cita: Paolanti, M., Frontoni, E. & Pierdicca, R. Towards trustworthy AI in cultural heritage. npj Herit. Sci. 14, 131 (2026). https://doi.org/10.1038/s40494-026-02403-z

Palabras clave: patrimonio cultural, IA confiable, sesgo algorítmico, IA explicable, conservación del patrimonio