İşbirliği başarısız olduğunda: Çok ajanlı büyük dil modeli tartışmasında ikna temelli düşmanca etki

Neden zeki yapay zeka tartışmaları hâlâ hataya düşebilir

Birçok konuşan sohbet botundan oluşan yapay zeka sistemleri daha derin düşünme vaadi sunar: her bot diğerlerini eleştirir ve grup, tek bir modelin tek başına verebileceğinden daha iyi yanıtlar üzerinde uzlaşması beklenir. Bu makale, bu vaatle birlikte ciddi bir tuzağın geldiğini gösteriyor. Bu sohbet botlarından yalnızca biri kurnaz ve yanıltıcı olacak şekilde tasarlanmışsa, diğerleri en doğru olmaya çalışsa bile bütünü sessizce yanlış sonuca yönlendirebilir.

Konuşan makineler birlikte nasıl düşünmeye çalışır

Modern büyük dil modelleri (LLM'ler) artık yalnızca tek, izole tahminleyiciler olarak kullanılmıyor. Mühendisler onları her modelin konuşmadaki kendi rolü olan bağımsız bir ajan gibi davrandığı "çok ajanlı" düzenlemelere bağlıyor. Tıp, hukuk, genel bilgi veya matematikle ilgili bir soruyla karşılaşıldığında, ajanlar her biri ilk yanıtını verir, sonra birkaç tur boyunca tartışır, birbirlerinin argümanları ışığında görüşlerini düzeltir ve grup nihai çoğunluk oylaması yapar. Erken çalışmalar bu tür koordine tartışmaların, bir uzmanlar panelinin tek bir uzmandan daha iyi performans göstermesi gibi, yapay zeka sistemlerini daha doğru ve daha dayanıklı kıldığını öne sürmüştü.

Gruba kurnaz bir konuşmacı katıldığında

Yazarlar basit ama rahatsız edici bir soruyu soruyor: ya ajanlardan biri dürüst değilse? Sistemi verilerini veya kodunu kurcalayarak değil, tamamen konuşmaya dayalı bir saldırgan tasarlıyorlar—amaçsızca belirli yanlış bir yanıtı zorlamak için ikna edici bir ajan. Bu kırmızı takım ajanı tartışma geçmişine erişebiliyor ve akranlarını etkilemeye yönelik kendinden emin, tutarlı argümanlar üretiyor. Gerçek sorular, insanları yaygın yanılgılara çeken tuzak sorular, tıp sınavı problemleri ve hukuk muhakemesi olmak üzere dört zorlu kıstas boyunca araştırmacılar, tek bir böyle düşmanın grubun doğruluğunu %10–40 oranında düşürebildiğini ve yanlış cevapla uyumu %30'dan fazla artırabildiğini buluyorlar.

Düşmanca ikna edenin nasıl çalıştığı

Düşman ajan basitçe yanlış bir iddiayı tekrar etmek yerine yapısal, çok adımlı bir strateji izliyor. Önce, farklı stiller — nedeni açıklayan hikâyeler, tanımlar veya kabaca yapılan hesaplamalar gibi — kullanarak hepsi aynı yanlış sonuca varan birkaç bağımsız akıl yürütme hattı üretiyor. Ardından diğer ajanların mesajlarını tarayıp ana noktalarını çıkarıyor ve mantıklarını, kanıtlarını veya kesinliklerini sorgulayan hedeflenmiş karşıargümanlar oluşturuyor. Sonra kendi destekleyici argümanlarını ve bu karşı saldırıları tek bir cilalı mesaja kaynaştırıyor; bu mesaj iyi dengelenmiş bir uzman görüşü gibi hissettiriyor. Son olarak, kendinden emin bir ton benimseyip alanla ilgili ayrıntılar ekleyerek sonucu "parlatıyor", böylece mesaj otoriter bir tonda geliyor. Önemli olarak, bütün bunlar yeniden eğitim veya temel modelin değiştirilmesi olmadan çıkarım zamanında—yönlendirme ve bağlamın akıllıca kullanımıyla—gerçekleşiyor.

Neden ek araçlar işleri daha da kötüleştirebilir

Normalde LLM'lerin daha iyi düşünmesine yardımcı olan teknikler, istemeden bu tür bir saldırıyı güçlendirebilir. Yazarlar düşman ajanın erişimle artırılmış üretim (retrieval-augmented generation) kullanmasına ve birçok aday argüman örnekleyip en ikna edici olanı tutan "best-of-N" seçim şemasına izin veriyorlar. Bu yöntemler gerçeklik dayanaklılığını ve muhakeme kalitesini artırmayı amaçlasa da burada yanlış vakayı daha zengin ve daha inandırıcı gösteriyor — hatta alınan materyal gevşek şekilde ilgili veya seçici alıntılanmış olsa bile. Deneyler ayrıca daha fazla tartışmacı ajan eklemenin veya daha fazla tur yapmanın sorunu çözmediğini gösteriyor; hatta turlar ilerledikçe grup sıklıkla düşmanın pozisyonuna daha fazla kayıyor.

Gerçek dünya yapay zeka sistemleri için ne anlama geliyor

Bulgular, tartışma tarzı AI işbirliğinde yapısal bir zayıflığı ortaya koyuyor: tartışma ve uzlaşıya dayanan sistemler tek bir kurnaz konuşmacı tarafından biçimlendirilebilir. GPT-4o gibi daha güçlü modeller bunu belirli bir dereceye kadar dirençli kılıyor ancak bağışık değil; daha küçük veya daha az hizalanmış modeller ise kolayca etkileniyor. Ajanlara ikna çabalarını görmezden gelmeleri uyarısı yapmak gibi basit savunmalar zararı yalnızca biraz azaltıyor. Tıp, hukuk veya karar destek uygulamaları gibi çok ajanlı düzenlemelerin popülerlik kazandığı alanlarda tasarımcılar artık "daha fazla ajan" veya "daha fazla tartışma"nın otomatik olarak daha güvenli veya daha doğru sonuçlar doğuracağını varsayamazlar. Yazarlar bunun yerine, zaman içinde görüş kaymalarını izleyen, herhangi bir ajanın etkisini sınırlayan ve grubun bir yanıta karar vermesine izin vermeden önce kilit iddiaları güvenilir referanslara karşı doğrulayan yeni protokoller gerektiğini savunuyorlar.

Atıf: Kraidia, I., Qaddara, I., Almutairi, A. et al. When collaboration fails: persuasion driven adversarial influence in multi agent large language model debate. Sci Rep 16, 11640 (2026). https://doi.org/10.1038/s41598-026-42705-7

Anahtar kelimeler: çok ajanlı AI, düşmanca ikna, LLM tartışması, yapay zeka güvenliği, erişimle artırılmış üretim