Gobernanza democrática mediante deliberación y votación basadas en DAO para la toma de decisiones inclusiva en modelos de IA

Por qué esto importa para los usuarios cotidianos de tecnología

Cuando pedimos a una IA que dibuje una imagen o responda una pregunta, rara vez vemos quién decidió cómo debe comportarse ese sistema. Este artículo explora una nueva manera de dar a la gente común —especialmente a quienes suelen quedar excluidos— una voz real en el diseño y la actualización de los modelos de IA. En lugar de que las empresas tecnológicas dicten todas las reglas a puerta cerrada, los autores prueban un sistema democrático basado en blockchain que permite a comunidades diversas debatir, votar y configurar directamente cómo la IA maneja cuestiones sensibles como los estereotipos en imágenes.

Problemas por decisiones ocultas en la IA

Los sistemas de IA modernos se construyen a partir de grandes conjuntos de datos y código complejo, pero la toma de decisiones que los rodea suele ser opaca. Esa falta de transparencia ha provocado discriminación, mala representación e incluso violaciones de la privacidad o de la propiedad intelectual. Los daños no se distribuyen por igual: las personas con discapacidad y las comunidades del Sur Global son a menudo tanto usuarios tempranos de la IA como quienes más sufren cuando algo sale mal. Las herramientas tradicionales para escuchar al público —como encuestas y grupos focales— tienen dificultades para seguir el ritmo de una IA que avanza rápidamente y no suelen facilitar discusiones profundas, construcción de consenso o aportes continuos.

Un nuevo tipo de ayuntamiento digital

Los autores proponen usar Organizaciones Autónomas Descentralizadas, u ODAs (DAOs, por sus siglas en inglés), como una especie de ayuntamiento digital para la gobernanza de la IA. Las DAOs son sistemas basados en blockchain que permiten a las personas tomar decisiones colectivas mediante reglas transparentes y contratos inteligentes en lugar de una autoridad central. En este estudio, la estructura de la DAO respalda un proceso de varios pasos: la gente primero discute en lenguaje natural preguntas cargadas de valores, luego ve opciones concretas sobre cómo podría comportarse un modelo de IA y, finalmente, vota las alternativas que prefieren. El caso de estudio se centra en un problema familiar: el sesgo de género en modelos de texto a imagen, como dibujar siempre a una enfermera como mujer y a un director ejecutivo como hombre ante un enunciado neutral.

Cómo se llevó a cabo el estudio con grupos infrarepresentados

Para ver si este marco democrático podía funcionar en la práctica, los investigadores realizaron un experimento en línea con 177 participantes procedentes de dos grupos desatendidos: personas del Sur Global y usuarios ciegos o con discapacidad visual en Estados Unidos. Los participantes primero interactuaron con un asistente de IA sobre un escenario de imagen sesgada, luego debatieron con otras personas en un foro en línea y, finalmente, votaron propuestas para cambiar el comportamiento del modelo de texto a imagen. El equipo comparó cuatro configuraciones de gobernanza, variando tanto cómo se combinaban las preferencias (un método de clasificación simple frente a un método cuadrático que permite a la gente expresar opiniones más fuertes invirtiendo más de su “presupuesto” de voto) como cuánto poder de decisión tenía cada persona (igual para todos frente a una división sesgada 20/80).

Qué querían las personas para una generación de imágenes más justa

A pesar de las diferencias culturales, los participantes convergieron en varias expectativas compartidas para imágenes de IA más justas. Muchos deseaban mayor control por parte del usuario, como opciones para personalizar el género u otros rasgos visibles, o recibir varias imágenes distintas y luego elegir la que mejor se ajustara a sus necesidades. Les importaban tanto la idoneidad social como la precisión estadística: algunos aceptaban que en su contexto local la mayoría de las enfermeras fueran mujeres, mientras que otros recalcaban la necesidad de evitar reforzar estereotipos. Los participantes del Sur Global a menudo favorecían una “posición intermedia”, con suficiente diversidad para no confundir a los usuarios, mientras que muchos participantes estadounidenses mostraron menor tolerancia a resultados sesgados o ambiguos. En todos los grupos, las personas con discapacidad destacaron la importancia de una representación inclusiva y los riesgos de imágenes estrechas o idealizadas.

Qué sistemas de votación se percibieron como más democráticos

En general, los participantes informaron que el proceso les resultó placentero, significativo y digno de confianza, y que creían que su aportación se usaría para mejorar el modelo de IA. La combinación que destacó como más justa fue la votación cuadrática junto con poder de decisión igual para todos. En este esquema, la gente sintió que su voz se reflejaba mejor, que la igualdad política era mayor y que el proceso mantenía el orden sin dejar de ser inclusivo. Este método pareció amplificar las opiniones fuertemente sostenidas por minorías sin otorgar simplemente mayor influencia a quienes tienen más recursos. Al mismo tiempo, los autores advierten que tales mecanismos pueden sobrerrepresentar a grupos más pequeños en algunos contextos, por lo que los sistemas futuros deberán ajustar los parámetros de gobernanza según los temas y las comunidades concretas.

Qué significa esto para el futuro de las reglas de la IA

El estudio muestra que es posible avanzar más allá de las políticas impuestas por las empresas y hacia una gobernanza computacional y democrática de la IA. Al combinar discusión estructurada, reglas de votación transparentes y registros de decisión respaldados por blockchain, los sistemas basados en DAO pueden dar a los grupos marginados una vía creíble para moldear el comportamiento de la IA. Para los usuarios cotidianos, esto podría parecer finalmente funciones integradas en productos que permitan impugnar salidas específicas, participar en deliberaciones y votar cambios en los modelos. Los autores sostienen que marcos participativos así —diseñados cuidadosamente para proteger la privacidad y prevenir capturas de poder— son una vía prometedora para alinear la IA con una gama más amplia de valores humanos, en lugar de solo los de desarrolladores y directivos.

Cita: Sharma, T., Potter, Y., Park, J. et al. Democratic governance through DAO-based deliberation and voting for inclusive decision making in AI models. Sci Rep 16, 11792 (2026). https://doi.org/10.1038/s41598-026-40180-8

Palabras clave: gobernanza de la IA, votación democrática, sesgo algorítmico, organizaciones descentralizadas, modelos de texto a imagen