Gouvernance démocratique par délibération et vote via DAO pour une prise de décision inclusive dans les modèles d’IA

Pourquoi cela compte pour les utilisateurs quotidiens de la technologie

Lorsque nous demandons à une IA de dessiner une image ou de répondre à une question, nous voyons rarement qui a décidé du comportement de ce système. Cet article explore une nouvelle manière de donner aux personnes ordinaires — en particulier à celles qui sont habituellement exclues — une véritable voix dans la conception et la mise à jour des modèles d’IA. Plutôt que de laisser les entreprises technologiques établir toutes les règles à huis clos, les auteurs testent un système démocratique basé sur la blockchain qui permet à des communautés diverses de débattre, voter et infléchir directement la façon dont l’IA traite des sujets sensibles comme les stéréotypes dans les images.

Les problèmes liés aux décisions cachées dans l’IA

Les systèmes d’IA modernes sont construits à partir d’ensembles de données gigantesques et de codes complexes, pourtant la prise de décision les concernant reste souvent opaque. Ce manque de transparence a entraîné des discriminations, des représentations erronées et même des atteintes à la vie privée ou à la propriété intellectuelle. Les préjudices ne se répartissent pas équitablement : les personnes en situation de handicap et les communautés du Sud global sont souvent à la fois des utilisatrices précoces de l’IA et celles qui subissent le plus les conséquences lorsqu’elle échoue. Les outils traditionnels d’écoute du public — tels que les enquêtes et les groupes de discussion — peinent à suivre le rythme rapide de l’IA et n’encouragent pas facilement la discussion approfondie, la construction de consensus ou la participation continue.

Un nouveau type de mairie numérique

Les auteurs proposent d’utiliser les organisations autonomes décentralisées, ou DAO, comme une sorte de mairie numérique pour la gouvernance de l’IA. Les DAO sont des systèmes basés sur la blockchain qui permettent aux personnes de prendre des décisions collectives via des règles transparentes et des contrats intelligents au lieu d’une autorité centrale. Dans cette étude, la structure DAO soutient un processus en plusieurs étapes : d’abord, les personnes débattent en langage naturel de questions chargées de valeurs, puis elles examinent des choix concrets sur le comportement possible d’un modèle d’IA, et enfin elles votent pour les options qu’elles préfèrent. L’étude de cas se concentre sur un problème familier — le biais de genre dans les modèles texte-vers-image, par exemple le fait de toujours représenter une infirmière comme une femme et un dirigeant comme un homme face à une consigne neutre.

Comment l’étude a été menée avec des groupes sous-représentés

Pour vérifier si ce cadre démocratique pouvait fonctionner en pratique, les chercheurs ont mené une expérience en ligne avec 177 participants issus de deux groupes mal desservis : des personnes du Sud global et des personnes aveugles ou malvoyantes aux États-Unis. Les participants ont d’abord interagi avec un assistant IA à propos d’un scénario d’image biaisée, puis ont discuté avec d’autres personnes dans un forum en ligne, et enfin ont voté sur des propositions visant à modifier le comportement du modèle texte-vers-image. L’équipe a comparé quatre configurations de gouvernance, en faisant varier à la fois la manière dont les préférences étaient combinées (une méthode de classement simple versus une méthode quadratique qui permet aux gens d’exprimer des sentiments plus forts en investissant davantage de leur « budget » de vote) et la répartition du pouvoir de décision entre les individus (égalité pour tous versus une répartition biaisée 20/80).

Ce que les gens souhaitaient pour une génération d’images plus équitable

Malgré les différences culturelles, les participants se sont accordés sur plusieurs attentes partagées pour des images d’IA plus justes. Beaucoup souhaitaient davantage de contrôle utilisateur, comme des options pour personnaliser le genre ou d’autres traits visibles, ou la possibilité de recevoir plusieurs images différentes puis de choisir celle qui répondait le mieux à leurs besoins. Ils se souciaient à la fois de l’adéquation sociale et de la fidélité statistique : certains acceptaient que la plupart des infirmières soient des femmes dans leur contexte local, tandis que d’autres insistaient sur la nécessité d’éviter de renforcer des stéréotypes. Les participants du Sud global favorisaient souvent une « voie médiane », avec suffisamment de diversité pour ne pas désorienter les utilisateurs, tandis que de nombreux participants américains se montraient moins tolérants envers des sorties biaisées ou ambiguës. Dans tous les groupes, les personnes en situation de handicap ont souligné l’importance d’une représentation inclusive et les risques liés à des images étroites ou idéalisées.

Quels systèmes de vote paraissaient les plus démocratiques

Les participants ont généralement déclaré que le processus leur avait paru agréable, significatif et digne de confiance, et qu’ils croyaient que leurs contributions seraient utilisées pour améliorer le modèle d’IA. La combinaison qui a été perçue comme la plus juste était le vote quadratique associé à un pouvoir décisionnel égal pour chaque personne. Dans ce cadre, les gens avaient l’impression que leur voix était mieux reflétée, que l’égalité politique était plus élevée et que le processus restait ordonné tout en étant inclusif. Cette méthode semblait amplifier les opinions fortement ancrées de minorités sans simplement donner plus d’influence à ceux qui disposent de plus de ressources. En même temps, les auteurs avertissent que de tels mécanismes peuvent surreprésenter certains petits groupes dans certains contextes, si bien que les systèmes futurs devront ajuster les paramètres de gouvernance selon les sujets et les communautés concernées.

Ce que cela signifie pour l’avenir des règles de l’IA

L’étude montre qu’il est possible d’aller au-delà des politiques descendantes des entreprises et de tendre vers une gouvernance computationnelle et démocratique de l’IA. En combinant des discussions structurées, des règles de vote transparentes et des enregistrements de décision soutenus par la blockchain, les systèmes basés sur les DAO peuvent offrir aux groupes marginalisés un moyen crédible d’influer sur le comportement de l’IA. Pour les utilisateurs quotidiens, cela pourrait, à terme, se traduire par des fonctionnalités intégrées aux produits permettant de contester des résultats spécifiques, de participer à des délibérations et de voter sur des modifications de modèle. Les auteurs soutiennent que de tels cadres participatifs — soigneusement conçus pour protéger la vie privée et prévenir les prises de pouvoir — sont une voie prometteuse pour aligner l’IA sur un spectre plus large de valeurs humaines, plutôt que seulement celles des développeurs et des dirigeants.

Citation: Sharma, T., Potter, Y., Park, J. et al. Democratic governance through DAO-based deliberation and voting for inclusive decision making in AI models. Sci Rep 16, 11792 (2026). https://doi.org/10.1038/s41598-026-40180-8

Mots-clés: gouvernance de l’IA, vote démocratique, biais algorithmique, organisations décentralisées, modèles texte-vers-image