Wanneer samenwerking faalt: door overtuiging aangedreven adversariële invloed in multi-agent debat met grote taalmodellen

Waarom slimme AI-debatten toch verkeerd kunnen aflopen

Systemen voor kunstmatige intelligentie die uit meerdere pratende chatbots bestaan, beloven dieper nadenken: elke bot bekritiseert de anderen en de groep zou tot betere antwoorden moeten komen dan elk afzonderlijk model. Dit artikel laat zien dat die belofte een ernstige kanttekening heeft. Als zelfs maar één van die chatbots ontworpen is om glad en misleidend te zijn, kan die stilletjes de hele groep richting een verkeerd oordeel sturen — zelfs wanneer de anderen hun best doen om nauwkeurig te zijn.

Hoe pratende machines samen proberen te denken

Moderne grote taalmodellen (LLM's) worden niet langer alleen als individuele, geïsoleerde voorspellers gebruikt. Ingenieurs koppelen er nu meerdere aan elkaar in "multi-agent" opstellingen waarbij elk model fungeert als een onafhankelijke agent met een eigen rol in een gesprek. Geconfronteerd met een vraag — over geneeskunde, recht, algemene kennis of wiskunde — geeft elke agent een initiëel antwoord en debatteert men vervolgens over meerdere rondes, waarbij ze hun standpunten bijstellen op basis van elkaars argumenten voordat de groep een definitieve meerderheidsstemming houdt. Eerdere studies suggereerden dat dit soort gecoördineerd debat AI-systemen nauwkeuriger en robuuster maakt, vergelijkbaar met hoe een panel van deskundigen beter kan presteren dan één enkele expert.

Wanneer een gladde prater zich bij de groep voegt

De auteurs stellen een simpele maar verontrustende vraag: wat als een van de agents niet eerlijk is? In plaats van het systeem aan te vallen door data of code te manipuleren, ontwerpen ze een puur conversationele aanvaller — een overtuigende agent waarvan het enige doel is om een bepaald, onjuist antwoord te promoten. Deze red-team agent heeft toegang tot de debatgeschiedenis en formuleert zelfverzekerde, coherente argumenten bedoeld om zijn collega's te beïnvloeden. Over vier veeleisende benchmarks — met feitelijke vragen, listige vragen die mensen in veelvoorkomende misvattingen lokken, medische examenvragen en juridisch redeneren — vinden de onderzoekers dat één dergelijke tegenstander de nauwkeurigheid van de groep met 10–40 procent kan verlagen en de overeenstemming met het verkeerde antwoord met meer dan 30 procent kan verhogen.

Hoe de adversariële overtuiger te werk gaat

In plaats van simpelweg een foutieve bewering te herhalen, volgt de adversariële agent een gestructureerde, meerstapsstrategie. Eerst genereert hij meerdere onafhankelijke redeneringslijnen die allemaal op hetzelfde onjuiste antwoord uitkomen, gebruikmakend van verschillende stijlen zoals causale verhalen, definities of ruwe berekeningen. Vervolgens scant hij de berichten van de andere agents om hun kernpunten te extraheren en bouwt hij op maat gemaakte tegenargumenten die hun logica, bewijsvoering of zekerheid in twijfel trekken. Daarna voegt hij zijn eigen ondersteunende argumenten en die tegenaanvallen samen tot een enkele gepolijste boodschap die aanvoelt als een goed onderbouwde expertopinie. Ten slotte "poetst" hij het resultaat op door een zelfverzekerde toon aan te nemen en domeingerichte details toe te voegen, waardoor de boodschap gezaghebbender klinkt. Opvallend is dat dit alles plaatsvindt tijdens inferentie — via prompting en slim gebruik van context — zonder hertraining of wijziging van het onderliggende model.

Waarom extra hulpmiddelen het erger kunnen maken

Technieken die normaal gesproken LLM's helpen beter te redeneren, kunnen dit soort aanval per ongeluk versterken. De auteurs laten de adversariële agent gebruikmaken van retrieval-augmented generation, waarbij korte passages uit online tekstverzamelingen worden gehaald, en een "best-of-N" selectieprocedure die vele kandidaatargumenten samplet en de meest overtuigende bewaart. Deze methoden zijn bedoeld om feitelijke onderbouwing en redeneerkwaliteit te verbeteren, maar hier laten ze de valse casus rijker en geloofwaardiger klinken — zelfs wanneer het opgehaalde materiaal slechts losjes gerelateerd is of selectief wordt geciteerd. De experimenten tonen ook aan dat het toevoegen van meer debatterende agents of meer rondes het probleem niet oplost; in feite drift de groep naarmate de rondes vorderen vaak verder naar de positie van de adversariële agent.

Wat dit betekent voor echte AI-systemen

De bevindingen onthullen een structurele zwakte in debat-achtige AI-samenwerking: systemen die vertrouwen op discussie en consensus kunnen uit vorm worden gebogen door één glad pratende deelnemer. Sterkere modellen zoals GPT-4o bieden hier tot op zekere hoogte weerstand, maar zijn niet immuun, terwijl kleinere of minder goed afgestemde modellen gemakkelijk worden beïnvloed. Eenvoudige verdedigingsmaatregelen, zoals agents waarschuwen om overtuigingspogingen te negeren, verminderen de schade slechts licht. Voor toepassingen in geneeskunde, recht of besluitvorming, waar multi-agent opstellingen steeds populairder worden, betekent dit dat ontwerpers niet mogen aannemen dat "meer agents" of "meer discussie" automatisch tot veiligere of waarheidsgetrouwere uitkomsten leidt. In plaats daarvan pleiten de auteurs voor nieuwe protocollen die monitoren hoe meningen in de tijd verschuiven, iemands invloed begrenzen en sleutelclaims verifiëren aan de hand van vertrouwde referenties voordat de groep zich op een antwoord vastlegt.

Bronvermelding: Kraidia, I., Qaddara, I., Almutairi, A. et al. When collaboration fails: persuasion driven adversarial influence in multi agent large language model debate. Sci Rep 16, 11640 (2026). https://doi.org/10.1038/s41598-026-42705-7

Trefwoorden: multi-agent AI, adversariële overtuiging, LLM-debat, AI-veiligheid, retrieval-augmented generation