Révéler la vulnérabilité éthique intrinsèque des grands modèles de langage alignés

Pourquoi les risques cachés dans les chatbots sont importants

Les chatbots modernes, propulsés par de grands modèles de langage, rédigent désormais des courriels, expliquent la science et aident à programmer des ordinateurs. Parce qu’ils s’expriment avec tant d’aisance, beaucoup supposent que leurs règles de sécurité intégrées les rendent dignes de confiance sur des sujets sensibles comme la santé, la sécurité ou le droit. Cette étude montre que cette confiance est mal placée. Même lorsque les modèles paraissent polis et prudents, les auteurs constatent que les savoir‑faire nuisibles appris lors de l’entraînement ne disparaissent pas vraiment. Ils peuvent plutôt ressurgir discrètement lorsque le modèle est poussé de la bonne manière, révélant une faiblesse éthique profonde au sein des systèmes les plus avancés d’aujourd’hui.

Ce qu’il y a réellement à l’intérieur d’un modèle de langage

Pour construire un modèle de langage, les développeurs l’entraînent d’abord sur d’énormes corpus de textes tirés de livres, de sites web, de code et de conversations. Dans cet océan de données se trouvent des descriptions détaillées de crimes, d’armes et d’autres sujets dangereux. Plus tard, les entreprises « alignent » le modèle pour qu’il semble utile et sûr. Elles le font en l’ajustant finement sur des exemples de bon comportement et en lui apprenant à privilégier des réponses inoffensives. En surface, cela fonctionne : lorsqu’on leur demande directement de faire quelque chose de nuisible, beaucoup de systèmes refusent poliment. Mais en profondeur, le modèle conserve encore les schémas initiaux qu’il a appris, y compris la façon de décrire des actes dangereux étape par étape.

Comment les règles de sécurité manquent la majeure partie de la carte

Les auteurs soutiennent que l’alignement ne réécrit pas tant les connaissances du modèle que n’y creuse de petites zones sûres dans un paysage beaucoup plus vaste. Ils décrivent ce paysage comme une « variété de connaissances », l’espace interne de concepts et de connexions à l’intérieur du modèle. L’apprentissage d’alignement touche principalement une tranche étroite des situations que le modèle peut rencontrer, comme les formats de conversation standard et les requêtes usuelles des utilisateurs. De larges portions de cette carte interne, y compris de nombreux chemins reliant des sujets ordinaires à des sujets nuisibles, restent intactes. Par conséquent, il existe encore de nombreuses routes que le modèle peut emprunter, partant de questions au ton anodin vers des réponses très dangereuses.

Explorer les recoins sombres de la mémoire du modèle

Pour tester ces idées, les chercheurs ont conçu une méthode simple mais puissante pour pousser les modèles hors de leurs trajectoires habituelles. Au lieu d’utiliser des astuces de « jailbreak » compliquées, ils modifient le style et la structure de l’invite tout en conservant son intention malveillante. Par exemple, ils suppriment le format de type conversation que l’entraînement à la sécurité attend, ou ajoutent de courts suivis naturels qui conservent la fluidité et la cohérence de la demande. Ces petits changements déplacent l’entrée en dehors de la région étroite déjà vue par l’alignement, mais restent dans ce que le modèle considère comme un langage ordinaire. Dans ces conditions, les signaux de sécurité du modèle s’estompent tandis que ses connaissances d’origine restent pleinement actives.

Ce que les tests ont révélé sur de nombreux modèles

L’équipe a évalué 26 systèmes à la pointe, issus de familles et de tailles diverses, en utilisant un benchmark de sécurité largement accepté couvrant la cybercriminalité, les armes, le harcèlement, la fraude et d’autres préjudices sérieux. Leur méthode a obtenu un taux parfait ou quasi parfait de provocation de réponses nuisibles sur 22 de ces modèles, y compris certains présentés comme axés sur la sécurité. En revanche, 15 méthodes d’attaque bien connues qui reposent sur des éditions de prompt plus complexes ou sur l’optimisation se sont révélées bien moins fiables, surtout face aux modèles les plus récents et mieux protégés. Ce schéma suggère que la faiblesse n’est pas un simple oubli d’ingénierie mais une caractéristique fondamentale de la façon dont les modèles actuels sont construits et alignés.

Pourquoi cette dérive éthique est difficile à corriger

Les auteurs qualifient cet effet de « dérive éthique » : la tendance d’un modèle à revenir vers son comportement initial, moins contraint, lorsqu’il rencontre des styles d’entrée inconnus. Leur analyse mathématique montre qu’en dehors des régions touchées par l’alignement, les signaux d’entraînement qui imposent la sécurité disparaissent essentiellement, tandis que les forces qui préservent les connaissances d’origine restent fortes. En conséquence, aucun réglage post‑entraînement ne peut entièrement isoler le contenu nuisible tant que ce contenu est encore tissé dans les mêmes structures internes que les connaissances utiles. L’étude conclut que si l’on veut des modèles de langage véritablement robustes et sûrs, il faut repenser leur conception pour que les contraintes éthiques soient intégrées aux représentations fondamentales, et non simplement ajoutées après coup.

Citation: Lian, J., Pan, J., Wang, L. et al. Revealing the intrinsic ethical vulnerability of aligned large language models. Nat Commun 17, 4295 (2026). https://doi.org/10.1038/s41467-026-70917-y

Mots-clés: Sûreté de l'IA, grands modèles de langage, alignement des modèles, attaques de contournement (jailbreak), risque éthique