Multi-Agent Debate (DE)

Multi-Agenten-Debatten (engl. multi-agent debate) sind ein Ansatz im Bereich der großen Sprachmodelle (LLM), bei dem mehrere interagierende Agenten (Instanzen eines Sprachmodells) gemeinsam die Lösung einer gestellten Aufgabe diskutieren, indem sie Argumente und Lösungsversuche austauschen. Das Ziel dieses Prozesses ist es, kollektiv die korrekteste und fundierteste Antwort auf die gestellte Frage zu erarbeiten. Der Ansatz basiert auf der Idee der „Gesellschaft des Geistes“, bei der verschiedene Modelle die Schlussfolgerungen der anderen überprüfen und ergänzen. Studien haben gezeigt, dass eine Multi-Agenten-Diskussion die Genauigkeit und Zuverlässigkeit der Antworten im Vergleich zur Antwortgenerierung durch eine einzelne Methode erheblich steigern kann: Die endgültige Antwort, die nach den Debatten der Agenten erzielt wird, ist in der Regel faktisch zuverlässiger und bewältigt Aufgaben, die logisches Denken erfordern, besser. Insbesondere wird eine Verringerung der Anzahl von Halluzinationen (nicht existierenden „Fakten“) und eine höhere Erfolgsquote bei komplexen Testaufgaben bei Anwendung dieser Strategie beobachtet.

Die Idee, mehrere KIs für Debatten einzusetzen, geht auf Arbeiten zur Sicherheit künstlicher Intelligenz zurück. Im Jahr 2018 schlug eine Gruppe von Forschern bei OpenAI (G. Irving, P. Christiano, D. Amodei) das Konzept AI safety via debate vor – das Trainieren von Agenten durch kompetitive Debatten, in denen zwei Modell-Gegner abwechselnd kurze Argumente vorbringen und ein menschlicher Schiedsrichter entscheidet, wer von ihnen die wahrheitsgetreuere und nützlichere Information präsentiert hat. Es wurde angenommen, dass solche Debatten bei einer optimalen Strategie der KI ermöglichen würden, extrem komplexe Fragen zu beantworten, wobei vom Schiedsrichter nur die Bewertung der Glaubwürdigkeit der Argumente verlangt wird. In den folgenden Jahren, mit dem Aufkommen leistungsfähiger LLMs, wurde das Prinzip der Debatten zwischen Modellen direkt zur Verbesserung der Antwortqualität der Modelle selbst angewendet – bereits ohne die zwingende Beteiligung eines Menschen, sondern mit einer automatisierten Auswahl der besten Lösung. Moderne Multi-Agenten-LLM-Systeme nutzen den Dialog zwischen Kopien oder verschiedenen Modellen, um gegenseitig Fehler zu korrigieren und gemeinsam zu einem fundierteren Ergebnis zu gelangen.

Ablauf einer Multi-Agenten-Debatte

Im Szenario einer Multi-Agenten-Debatte arbeiten mehrere Agenten-Modelle parallel an derselben Aufgabe. In der Regel wird jedem Agenten zunächst die ursprüngliche Frage oder Aufgabe vorgelegt, woraufhin jeder Agent unabhängig eine eigene Antwort generiert. Anschließend folgt eine Reihe von Kommunikationsrunden zwischen den Agenten: In jeder Runde tauschen alle Teilnehmer ihre aktuellen Lösungen aus, und jeder Agent erhält die Antworten der anderen als zusätzlichen Kontext, auf dessen Grundlage er seine Antwort in der nächsten Runde verfeinert oder verbessert. Dieser Zyklus wird mehrere Iterationen lang fortgesetzt (normalerweise eine feste Anzahl von Runden oder bis eine explizite Einigung erzielt wird), danach wird der Prozess gestoppt und die endgültige Antwort ausgegeben. Die Debatten ahmen eine menschliche Diskussion nach und ermöglichen es den Modellen, die Antworten der anderen zu kritisieren und ihre Denkfähigkeiten zu kombinieren, um die Lösungsqualität zu verbessern. Beispielsweise verwendeten Yilun Du und Kollegen (MIT und Google Brain) in Experimenten drei Instanzen eines Sprachmodells, die ein Problem über zwei Runden diskutierten (eine höhere Rundenzahl wurde aufgrund des Zeit- und Rechenaufwands begrenzt); es wurde gezeigt, dass selbst bei einem so begrenzten Dialog die Endergebnisse merklich besser wurden und die Genauigkeit mit zunehmender Anzahl von Agenten oder Runden weiter anstieg (wenn auch mit abnehmendem Ertrag).

Das Verfahren der Multi-Agenten-Debatte wird vollständig in der Inferenzphase (inference) mithilfe spezieller Prompts zur Organisation des Dialogs zwischen bereits trainierten Modellen umgesetzt. Das bedeutet, dass die Methode kein Nachtrainieren der LLMs selbst erfordert und sogar auf „Blackbox-Modelle“ angewendet werden kann – es genügt, Zugriff auf die Textgenerierung der Modelle zu haben und ihre Kommunikation nach einem vordefinierten Muster zu koordinieren.

Zur Bestimmung der endgültigen Antwort nach mehreren Runden werden verschiedene Ansätze verwendet. Einer der einfachsten Mechanismen ist die Abstimmung: Die Agenten können am Ende unabhängig ihre endgültigen Lösungen vorschlagen, woraufhin die von der Mehrheit unterstützte Variante (oder beispielsweise die am häufigsten vorkommende Antwort) ausgewählt wird. Ein anderer Ansatz ist die Forderung nach einem Konsens, d. h., die Diskussion wird fortgesetzt, bis alle Modelle zu derselben Antwort gelangen. Schließlich kann ein separater Schiedsrichter-Agent eingesetzt werden: entweder ein separates neuronales Netz, das auf die Bewertung von Antworten trainiert wurde, oder einer der Agenten, der die Funktion eines Arbiters übernimmt. Der Schiedsrichter beobachtet den Verlauf der Diskussion und wählt aus, wessen Argument am überzeugendsten oder korrektesten war. Die Wahl des Entscheidungsmechanismus beeinflusst die Eigenschaften des Systems: So sind Abstimmung oder Konsens einfach zu implementieren, können aber Gruppenfehler festschreiben, während ein beurteilender Schiedsrichter (insbesondere einer, der darauf trainiert ist, die richtige Antwort zu erkennen) theoretisch in der Lage ist, die richtige Lösung auch bei Widersprüchen zwischen den Agenten zu identifizieren. Allerdings hat auch der Schiedsrichter-Ansatz seine Schwierigkeiten – beispielsweise kann ein Modell, das als Schiedsrichter fungiert und mit den Teilnehmern identisch ist, unbewusst zugunsten des vertrauten Argumentationsstils eines der Agenten voreingenommen sein.

Konfigurationsvarianten für Agenten und Kommunikation

Multi-Agenten-Systeme mit LLMs können sich in der Zusammensetzung und der Art der Interaktion der Agenten unterscheiden. Eine homogene Konfiguration bedeutet, dass alle Agenten Kopien desselben Modells (oder von Modellen ähnlichen Niveaus) sind, während eine heterogene Konfiguration Modelle unterschiedlichen Typs oder unterschiedlicher Größe umfasst. Im homogenen Fall verfügen alle Teilnehmer über vergleichbare Fähigkeiten, und ihre Meinungsverschiedenheiten entstehen nur durch die stochastische Generierung von Antworten oder unterschiedliche Anfangsbedingungen (z. B. Unterschiede in den Prompts). Im heterogenen Ansatz können starke und schwache Modelle gleichzeitig eingesetzt werden, was es potenziell ermöglicht, dass einige Agenten die Schwächen anderer ausgleichen. So zeigen Studien, dass die Interaktion verschiedener LLMs dazu führt, dass schwächere Modelle ihre Lösungen verbessern, indem sie Feedback von stärkeren erhalten. Ein anschauliches Beispiel ist eine gemeinsame Debatte zwischen den Sprachmodellen ChatGPT (GPT-4) und Google Bard bei der Lösung einer mathematischen Textaufgabe: Jedes dieser Modelle gab einzeln eine falsche Antwort, aber im Laufe der Diskussion konnten sie sich gegenseitig auf Fehler hinweisen und schließlich die richtige Lösung abstimmen, indem sie die Stärken des jeweils anderen nutzten. Gleichzeitig birgt Heterogenität auch Risiken: Ein erhebliches Ungleichgewicht der Fähigkeiten kann zur Dominanz eines Modells führen, und wenn die Mehrheit der Agenten eine gemeinsame Fehleinschätzung oder einen fehlerhaften Bias aufweist, können die Debatten schnell zu einer einheitlichen, aber falschen Antwort konvergieren – ein Phänomen, das als „Echokammer“-Effekt bekannt wurde. Eine theoretische Analyse (Estornell & Liu, NeurIPS 2024) zeigte, dass bei sehr ähnlichen Modellen die Debatte in einer statischen Dynamik erstarren kann, in der alle Teilnehmer die Meinung der Mehrheit wiederholen, selbst wenn diese auf einem gemeinsamen Fehler in ihren Daten beruht. Daher ist bei heterogenen Systemen eine sorgfältige Auswahl der Agenten wichtig – beispielsweise werden Modelle mit einem vergleichbaren Wissensstand ausgewählt, damit keines dominiert und die anderen in die Irre führt.

Ein weiterer Aspekt ist die Kommunikationsstruktur zwischen den Agenten. In grundlegenden Implementierungen wird eine vollständig verbundene Topologie der Kommunikation verwendet: In jeder Runde erhält jeder Agent die Antworten aller anderen. Ein solcher „Jeder-an-jeden“-Austausch maximiert die verfügbaren Informationen, verursacht aber erhebliche Kosten – das Kontextvolumen wächst proportional zur Anzahl der Agenten, was die Berechnungen erschwert. Eine Alternative ist eine sparse Topologie, die einschränkt, mit wem jeder Agent direkt Daten austauscht. Beispielsweise können die Agenten in Form eines Netzwerk-Graphen (Ring, Baum usw.) angeordnet werden, bei dem jeder nur die Antworten seiner Nachbarn erhält. Eine Studie von Google (Li et al., 2024) ergab, dass die Einschränkung der Konnektivität des Agentennetzwerks die Generierungskosten erheblich senken kann, ohne die Lösungsqualität zu beeinträchtigen und manchmal sogar zu verbessern, im Vergleich zu einer vollständig verbundenen Diskussion. In Experimenten mit den Modellen GPT-3.5 und Mistral lieferte ein sparse Schema von „Nachbarschaftsdiskussionen“ die gleiche oder eine höhere Genauigkeit bei Aufgaben (einschließlich Mathematik), während die durchschnittliche Anzahl der Kontext-Token pro Schritt um eine Größenordnung reduziert wurde. Dieses Ergebnis deutet darauf hin, dass ein übermäßiger Nachrichtenaustausch nicht immer notwendig ist – es genügt, die Schlüsselinteraktionen zwischen den Agenten richtig zu organisieren, damit sie mit geringerem Aufwand zur richtigen Lösung gelangen.

Neben der Topologie sind auch verschiedene Debattenformate möglich. Beispielsweise können einigen Agenten unterschiedliche Rollen zugewiesen werden: Einige agieren als „Ideengeneratoren“, andere als „Kritiker“ oder „Prüfer“ von Lösungen. Ein solcher rollenbasierter Ansatz versucht, eine Arbeitsteilung zu imitieren, bei der sich jeder Agent auf eine bestimmte Aufgabe spezialisiert (z. B. schlägt einer eine Hypothese vor, ein zweiter prüft die Fakten, ein dritter bewertet die logische Konsistenz). Eine weitere Variante ist die abwechselnde Diskussion (Round-Robin): Die Agenten sprechen nicht gleichzeitig, sondern streng nacheinander und wechseln sich in einer festen Reihenfolge als Sprecher und Reagierender ab. Dies ähnelt formellen Debatten, bei denen den Teilnehmern das Wort nach einer Tagesordnung erteilt wird, was eine gleichberechtigte Teilnahme aller Agenten gewährleisten kann. Ein weiterer Ansatz ist die dynamische Regulierung von Meinungsverschiedenheiten: Das System kann den Grad der Uneinigkeit zwischen den Antworten der Agenten in jeder Runde gezielt verstärken oder abschwächen. Beispielsweise kann gefördert werden, dass die Antworten in den ersten Phasen maximal voneinander abweichen (um verschiedene Hypothesen abzudecken) und sich gegen Ende annähern. Ein solcher Mechanismus wurde in der Arbeit von Chang (2024) vorgeschlagen, um eine vorzeitige Einigung zu verhindern: Er erhält ein moderates Maß an Widersprüchen zwischen den Agenten aufrecht und fördert so die Entstehung neuer Argumente und eine tiefere Diskussion.

Vorteile und Effektivität des Ansatzes

Multi-Agenten-Debatten haben aufgrund ihrer Fähigkeit, die Leistungsfähigkeit von Sprachmodellen bei komplexen Aufgaben zu steigern, Aufmerksamkeit erregt. Eine ganze Reihe unabhängiger Studien aus den Jahren 2023–2024 hat bestätigt, dass eine Gruppe interagierender LLMs in der Lage ist, die Antwortqualität eines einzelnen Modells bei der Bearbeitung derselben Aufgabe zu übertreffen. Insbesondere wurden Verbesserungen in Bereichen nachgewiesen, die komplexe Schlussfolgerungen erfordern: von mathematischen Berechnungen über Programmierung bis hin zur Textzusammenfassung. So stellen Yin et al. (2023), Chan et al. (2023), Chen et al. (2024) und andere fest, dass Multi-Agenten-Systeme einzelne LLMs bei arithmetischen Aufgaben, der Code-Generierung und sogar bei der Erstellung von Zusammenfassungen von Dokumenten deutlich übertreffen. Der Grund dafür ist die Vielfalt der Perspektiven: Jeder Agent kann Details oder Fehler bemerken, die andere übersehen haben, und den Kollegen Feedback geben. Gegenseitige Kritik und der Austausch unterschiedlicher Hypothesen führen zu einer umfassenderen Betrachtung der Aufgabe, wodurch die endgültige Antwort genauer und zuverlässiger wird.

Beispielsweise präsentierten Forscher des MIT und von Google Brain unter der Leitung von Yilun Du auf der ICML 2024 die Arbeit „Improving factuality and reasoning in language models through multiagent debate“, in der eine signifikante Verbesserung der Lösungsqualität durch das Hinzufügen von Debatten zwischen drei Instanzen eines Modells nachgewiesen wurde. Ihren Ergebnissen zufolge ermöglichte das Verfahren der Multi-Agenten-Diskussion höhere Leistungsindikatoren bei einer Reihe von Aufgaben im Vergleich zur normalen Einzelnutzung desselben Modells: Die Genauigkeit bei der Lösung mathematischer und strategischer Aufgaben stieg, während die Anzahl der faktischen Fehler sank. Insbesondere verbesserte der Multi-Agenten-Ansatz die Ergebnisse des Modells bei Tests zum mathematischen Denken, zur Faktenüberprüfung und sogar bei Aufgaben, die strategische Planung erfordern. Die Autoren stellen fest, dass „die endgültige Antwort, die nach einer solchen mehrrundigen Diskussion generiert wird, sowohl faktisch korrekter als auch erfolgreicher bei der Lösung von Aufgaben ist, die logisches Denken erfordern“. Nachfolgend finden Sie eine Abbildung, die die Genauigkeit der Ausführung verschiedener Aufgaben durch ein Modell allein und mit der Verwendung von Multi-Agenten-Debatten vergleicht.

Vergleich der Genauigkeit bei mehreren Aufgaben für die Generierung durch einen einzelnen Agenten (blau) und für den Modus der Multi-Agenten-Debatten (rot). Der Multi-Agenten-Ansatz (multi-agent debate) zeigt eine höhere Genauigkeit in verschiedenen Domänen, einschließlich faktischer Fragen (Biografien), dem Wissenstest MMLU, der Überprüfung der Korrektheit von Schachzügen, der Lösung arithmetischer Ausdrücke, textbasierter mathematischer Aufgaben auf Schulniveau (GSM8K) und der Findung des optimalen Schachzugs. Laut dem Diagramm stärken Debatten besonders die Fähigkeiten des Modells bei komplexen strategischen Aufgaben (z. B. der Suche nach dem optimalen Schachzug) und reduzieren den Anteil an Fehlern bei mathematischen Berechnungen und Wissensfragen deutlich.

Ein weiterer Vorteil des Multi-Agenten-Ansatzes ist die Überwindung der Grenzen der einzelnen Selbstkontrolle des Modells. Einzelne LLMs verwenden oft die Technik der Self-Reflection (Selbstreflexion), bei der das Modell seine eigene ursprüngliche Antwort bewertet und korrigiert. Es wurde jedoch festgestellt, dass diese Methode zum Problem der „Degeneration of Thought“ (Degeneration des Denkens) neigt: Wenn das Modell von seiner ursprünglichen Antwort überzeugt ist, generiert es bei der Selbstüberprüfung keine grundlegend neuen Ideen, selbst wenn die ursprüngliche Lösung falsch ist. Mit anderen Worten, das Modell neigt dazu, sich auf seine erste erdachte Lösung zu fixieren und Alternativen abzulehnen. Multi-Agenten-Debatten helfen, diesen Effekt aufzuheben: Mehrere gleichberechtigte Agenten können anfangs unterschiedliche Hypothesen vorschlagen und dann die Argumente der anderen konsequent in Frage stellen, was die Suche nach unkonventionellen Denkwegen anregt. Tian Liang und Kollegen (EMNLP 2024) nannten ihr Multi-Agenten-Schema MAD (Multi-Agent Debate) und zeigten, dass es tatsächlich divergentes (vielfältiges) Denken bei Modellen fördert und die Ergebnisse bei Aufgaben verbessert, die eine tiefgehende Bearbeitung des Problems erfordern. In ihrer Implementierung streiten mehrere Agenten nach dem „Auge-um-Auge“-Prinzip (jeder opponiert abwechselnd gegen die Argumente des anderen), und über dem Prozess steht ein unterstützender Schiedsrichter, der die Diskussion leitet und die endgültige Entscheidung trifft. Die Experimente von Liang et al. zeigten die Wirksamkeit dieses Ansatzes bei komplexen Testdatensätzen – bei Aufgaben der Commonsense-Übersetzung (Übersetzung von Sätzen unter Berücksichtigung des impliziten gesunden Menschenverstands) und bei kontraintuitiver Arithmetik (mathematische Rätsel mit auf den ersten Blick unlogischen Bedingungen) lieferte die Multi-Agenten-Diskussion korrektere Antworten als Standardmethoden. Die Analyse ergab auch, dass Debatten für das beste Ergebnis adaptiv unterbrochen werden sollten, um eine übermäßige Länge zu vermeiden, und nur ein moderates Konfliktniveau zwischen den Agenten aufrechterhalten werden sollte – zu aggressives oder umgekehrt zu zustimmendes Verhalten verschlechtert die Ergebnisse.

Der Multi-Agenten-Ansatz hat sich nicht nur für typische Frage-Antwort-Aufgaben als nützlich erwiesen. Er findet Anwendung in anderen Bereichen, beispielsweise für ein sichereres und konsistenteres Verhalten von Modellen. Einzelne Studien nutzen Debatten zwischen Agenten für Aufgaben der Moderation und Regelentwicklung: Mehrere LLMs können diskutieren, ob eine gegebene Antwort nach ethischen Normen akzeptabel ist, und sich so gegenseitig Feedback beim bestärkenden Lernen geben. Es wurde festgestellt, dass Debatten subtilere und fundiertere Bewertungssignale erzeugen können, die bei der Feinabstimmung von Modellen auf Sicherheit und Nützlichkeit helfen. Es wurden auch Versuche unternommen, den Ansatz auf multimodale Aufgaben auszuweiten – beispielsweise, wenn einige Agenten ein Bild beschreiben und andere die Übereinstimmung der Beschreibung mit dem Bild überprüfen. In einer Arbeit von Google (2024) wurde der Erfolg einer solchen Erweiterung gezeigt: Der multimodale Ansatz verbesserte die Ergebnisse sowohl bei rein textbasierten Aufgaben als auch beim multimodalen Verständnis von Bildern und demonstrierte die Universalität der „Gesellschaft des Geistes“. Interessanterweise kann die Interaktion im Rahmen von Debatten, wie bereits erwähnt, das Niveau schwächerer Modelle erhöhen. Wenn beispielsweise LLMs unterschiedlicher Leistungsfähigkeit an einer gemeinsamen Diskussion teilnehmen, werden „schwächere Modelle allmählich stärker, indem sie erfolgreiche Strategien von stärkeren übernehmen“. Somit löst das Multi-Agenten-System nicht nur die gestellte Aufgabe, sondern dient auch als eine Art Mechanismus des kollektiven Lernens der Modelle voneinander.

Einschränkungen und offene Probleme

Trotz erheblicher Vorteile stoßen Multi-Agenten-Debatten auf eine Reihe von Schwierigkeiten und Einschränkungen. Eine der größten ist der hohe Ressourcenverbrauch dieses Ansatzes. Um eine Diskussion zu organisieren, muss die Textgenerierung bei großen Modellen mehrfach aufgerufen werden: Wenn n Agenten in T Runden teilnehmen, steigt die Gesamtzahl der LLM-Aufrufe um das n x T-fache im Vergleich zu einer einzigen Antwort. Darüber hinaus muss das Modell in jeder Runde nicht nur die ursprüngliche Frage als Kontext verarbeiten, sondern auch alle Äußerungen aus den vorherigen Runden (die Antworten aller Agenten). Mit zunehmender Anzahl von Agenten und Runden wächst das Volumen der Kontexteingabe somit exponentiell, was zum Effekt der Context Explosion führt – einer Überlastung des Kontextfensters und erhöhten Verarbeitungskosten. In Experimenten wurde festgestellt, dass selbst das Hinzufügen von 2-3 Diskussionsrunden die Gesamtzahl der Kontext-Token, die das Modell lesen muss, und damit auch die Antwortzeit erheblich erhöht. Theoretisch verbessert sich die Lösungsqualität mit zunehmender Anzahl von Iterationen, aber praktisch stellen viele Arbeiten abnehmende Erträge nach einigen Runden fest: Oft wird der maximale Effekt in der zweiten oder dritten Runde erzielt, danach können weitere Diskussionen zur Wiederholung derselben Argumente oder sogar zu einer Verringerung der Genauigkeit aufgrund von Kontextübersättigung führen. Beispielsweise zeigten He et al. (2023) einen Anstieg der Genauigkeit nur bis zur 2. Debattenrunde, gefolgt von einem Rückgang, und ähnlich berichten Liu, Li und Kollegen (2024) von einem Qualitätsmaximum bei etwa 4 Runden, wonach zusätzliche Zyklen nur noch stören. Somit ist die Bestimmung der optimalen Debattendauer eine komplexe Aufgabe: Eine zu kurze Diskussion kann das Potenzial des kollektiven Verstandes nicht voll ausschöpfen, während eine zu lange Diskussion Informationsrauschen und Kontextüberlastung verursachen kann.

Ein weiteres Problem sind die Risiken einer Gruppeneinigung auf eine falsche Antwort. Wenn alle Agenten über ähnliche Erfahrungen verfügen und fälschlicherweise von einer bestimmten Tatsache überzeugt sind, können sie die Fehleinschätzung des anderen verstärken. Es entsteht ein Echokammer-Effekt: Im Verlauf der Debatte kommen die Modelle zu einem Konsens, aber nicht, weil sie die Wahrheit gefunden haben, sondern aufgrund der Bestätigung eines ursprünglichen gemeinsamen Bias. Theoretische Ergebnisse (Estornell & Liu, 2024) deuten darauf hin, dass bei identischen Modellen Debatten in Stagnation verfallen können, indem sie die Meinung der Mehrheit wiederholen, ohne dass neue Ideen entstehen. Besonders gefährlich ist dies, wenn diese Mehrheit einen gemeinsamen Fehler teilt, der beispielsweise in den Trainingsdaten verankert ist – dann wird das Ergebnis der gesamten Diskussion falsch sein. Um dieses Problem zu überwinden, werden spezielle Interventionsmethoden (Diversity-Pruning) vorgeschlagen: In jeder Runde werden zu ähnliche Antworten algorithmisch entfernt, um die Agenten zu ermutigen, unterschiedliche Varianten mit maximaler Informationsentropie zu generieren. Dies verringert die Wahrscheinlichkeit, dass alle Antworten Variationen desselben Fehlers sind. Ein weiterer Ansatz ist die Erkennung und Widerlegung von Fehlvorstellungen (Misconception Refutation): Das System versucht, gemeinsame Annahmen der Agenten automatisch zu identifizieren und stellt gezielt diejenigen in Frage, die falsch sein könnten. In der Arbeit von Estornell & Liu wurde ein Satz von drei solchen Interventionen vorgeschlagen – neben den genannten auch Quality-Pruning (Auswahl der relevantesten und qualitativ hochwertigsten Argumente in jedem Schritt) – und es wurde gezeigt, dass ihre Kombination die Effektivität von Debatten merklich erhöht und die Tendenz zur Echokammer verhindert.

Schließlich ist zu beachten, dass die Stabilität und Vorhersagbarkeit von Multi-Agenten-Diskussionen noch weit von ideal entfernt sind. In einigen Experimenten führten Debatten zu instabilen Ergebnissen – verschiedene Durchläufe derselben Diskussion konnten zu unterschiedlichen Antworten konvergieren, oder die Gesamtantwort war schlechter als die eines einzelnen Modells ohne Debatte. Wang et al. (2024) und Smit et al. (2023) stellten unabhängig voneinander Fälle fest, in denen das Hinzufügen von Agenten die Leistung verschlechterte, was auf eine feine Linie zwischen nützlicher Kritik und destruktiven Auseinandersetzungen hindeutet. Die Identifizierung der Bedingungen, unter denen der Multi-Agenten-Ansatz garantiert nützlich ist, bleibt Gegenstand der Forschung. Offene Fragen sind: wie man automatisch entscheidet, wann die Debatte zu beenden und die Antwort festzulegen ist, um den Vorteil nicht zu verpassen und nicht in eine endlose Debatte zu geraten, und wie die kollektive Entscheidung getroffen werden soll – sei es durch Abstimmung, Konsens oder mit Hilfe eines externen Schiedsrichters – um für verschiedene Arten von Aufgaben am zuverlässigsten zu sein. Ein akutes Problem ist auch die Sicherheit und Kontrollierbarkeit von Multi-Agenten-Systemen: Es muss sichergestellt werden, dass die Agenten nicht gemeinsam unerwünschte oder toxische Inhalte generieren und die schädlichen Tendenzen der anderen nicht verstärken. Diese Fragen, insbesondere die zur Sicherheit und Skalierbarkeit, werden als aktuell und komplex anerkannt. Aktuelle Übersichten stellen fest, dass weitere Forschungen zur Entwicklung zuverlässiger Abbruchregeln für Diskussionen, zur Bewertung der Skalierbarkeit des Ansatzes bei zunehmender Anzahl von Agenten und Runden sowie zur Implementierung von Methoden erforderlich sind, die die Zuverlässigkeit und Korrektheit der kollektiv gewonnenen Antwort gewährleisten. Die Lösung dieser Aufgaben wird es ermöglichen, Multi-Agenten-Debatten in ein noch leistungsfähigeres und universelleres Werkzeug zur Schaffung intelligenterer und sichererer Systeme der künstlichen Intelligenz zu verwandeln.

Links

• Improving Factuality and Reasoning in Language Models with Multiagent Debate – Projektseite
• AI safety via debate – der ursprüngliche Artikel von OpenAI
• Improving Multi-Agent Debate with Sparse Communication Topology – Artikel über die Optimierung der Kommunikation
• Literature Review Of Multi-Agent Debate For Problem-Solving – Literaturübersicht
• Encouraging Divergent Thinking in Large Language Models through Multi-Agent Debate – Artikel über MAD
• Improving Multi-Agent Debate with Contrastive Deliberation and Diversity-Promoting Interventions – Artikel NeurIPS 2024

Literatur

• Irving, G. et al. (2018). AI Safety via Debate. arXiv:1805.00899.
• Du, Y. et al. (2023). Improving Factuality and Reasoning in Language Models through Multiagent Debate. arXiv:2305.14325.
• Liang, T. et al. (2023). Encouraging Divergent Thinking in Large Language Models through Multi-Agent Debate. arXiv:2305.19118.
• Li, Y. et al. (2024). Improving Multi-Agent Debate with Sparse Communication Topology. arXiv:2406.11776.
• Guo, T. et al. (2024). Large Language Model based Multi-Agents: A Survey of Progress and Challenges. arXiv:2402.01680.
• Li, J. et al. (2024). More Agents Is All You Need. arXiv:2402.05120.
• Estornell, A.; Liu, Y. (2024). Multi-LLM Debate: Framework, Principals, and Interventions. NeurIPS 2024.
• Eo, S. et al. (2025). Debate Only When Necessary: Adaptive Multiagent Collaboration for Efficient LLM Reasoning. arXiv:2504.05047.
• Tillmann, A. (2025). Literature Review Of Multi-Agent Debate For Problem-Solving. arXiv:2506.00066.
• Cui, Y. et al. (2025). Efficient Leave-One-Out Approximation in LLM Multi-Agent Debate Based on Introspection. arXiv:2505.22192.
• La Malfa, E. et al. (2025). Large Language Models Miss the Multi-Agent Mark. arXiv:2505.21298.