Multi-Agent Debate (FA)
مناظره چندعاملی (به انگلیسی: multi-agent debate) – رویکردی در حوزه مدلهای زبانی بزرگ (LLM) است که در آن چند عامل تعاملگر (نمونههایی از یک مدل زبانی) بهصورت مشترک راهحل یک مسئله مشخص را از طریق تبادل استدلالها و پاسخهای پیشنهادی بررسی میکنند. هدف این فرایند، دستیابی جمعی به دقیقترین و مستدلترین پاسخ ممکن برای سؤال مطرحشده است. این رویکرد بر ایده «جامعهای از عقول» مبتنی است، که در آن مدلهای مختلف نتیجهگیریهای یکدیگر را بررسی و تکمیل میکنند[1]. پژوهشها نشان دادهاند که بحث چندعاملی میتواند بهطور چشمگیری دقت و قابلیت اطمینان پاسخها را در مقایسه با تولید پاسخ بهصورت تکی افزایش دهد: پاسخ نهایی حاصل از مناظره عاملان معمولاً از نظر واقعی معتبرتر بوده و در وظایف نیازمند استدلال عملکرد بهتری دارد[1]. بهویژه، کاهش تعداد توهمات (واقعیتهای ساختگی) و افزایش موفقیت در آزمونهای چالشبرانگیز هنگام استفاده از این راهبرد مشاهده شده است[1].
ایده بهرهگیری از چندین هوش مصنوعی برای مناظره، ریشه در پژوهشهای حوزه ایمنی هوش مصنوعی دارد. در سال ۲۰۱۸، گروهی از محققان OpenAI (G. Irving، P. Christiano، D. Amodei) مفهوم AI safety via debate را مطرح کردند – آموزش عاملان از طریق مناظرههای رقابتی، که در آن دو حریف مدلی بهنوبت استدلالهای کوتاهی ارائه میدهند و یک داور انسانی تصمیم میگیرد کدامیک اطلاعات صادقانهتر و مفیدتری ارائه کرده است[2]. فرض بر این بود که با راهبرد بهینه، اینگونه مناظرات به هوش مصنوعی اجازه میدهد به سؤالات بسیار دشوار پاسخ دهد و تنها نیاز به ارزیابی اعتبار استدلالها توسط داور باشد[2]. در سالهای بعد، با ظهور LLMهای قدرتمند، اصل مناظره میان مدلها مستقیماً برای بهبود کیفیت پاسخهای خود مدلها بهکار گرفته شد – دیگر بدون حضور اجباری انسان، بلکه با انتخاب خودکار بهترین راهحل. سیستمهای چندعاملی مدرن LLM از گفتگو میان نسخههای یکسان یا مدلهای مختلف استفاده میکنند تا خطاهای یکدیگر را اصلاح کرده و بهصورت مشترک به نتیجهای مستدلتر برسند.
رویه مناظره چندعاملی
در سناریوی مناظره چندعاملی، چند عامل-مدل بهطور موازی روی یک مسئله کار میکنند. معمولاً در ابتدا سؤال یا مسئله اصلی به هر عامل ارائه میشود، پس از آن هر عامل بهطور مستقل پاسخ خود را تولید میکند. سپس یک سری دور تبادل نظر میان عاملان انجام میشود: در هر دور، همه شرکتکنندگان راهحلهای جاری خود را به اشتراک میگذارند و هر عامل پاسخهای دیگران را بهعنوان زمینه اضافی دریافت میکند تا بر اساس آن پاسخ خود را در دور بعدی اصلاح یا بهبود دهد[3]. این چرخه چند تکرار ادامه مییابد (معمولاً تعداد دورها ثابت است یا تا رسیدن به توافق آشکار ادامه مییابد)، پس از آن فرایند متوقف شده و پاسخ نهایی ارائه میشود. مناظره، بحث انسانی را شبیهسازی میکند و به مدلها اجازه میدهد پاسخهای یکدیگر را نقد کرده و تواناییهای استدلالی خود را برای بهبود کیفیت راهحل ترکیب کنند[3]. برای مثال، Yilun Du و همکاران (MIT و Google Brain) در آزمایشهایشان از ۳ نمونه مدل زبانی استفاده کردند که مسئله را طی ۲ دور بررسی میکردند (دورهای بیشتر به دلیل هزینههای زمانی و محاسباتی محدود شد)؛ نشان داده شد که حتی با این گفتگوی محدود، پاسخهای نهایی بهطور محسوسی بهتر شدند و با افزایش تعداد عاملان یا دورها، دقت به رشد خود ادامه داد (هرچند با بازده نزولی)[1].
رویه مناظره چندعاملی کاملاً در مرحله استنتاج (inference) با استفاده از promptهای ویژه برای سازماندهی گفتگو میان مدلهای از پیش آموزشدیده پیادهسازی میشود. این بدان معناست که این روش نیازی به fine-tuning خود LLMها ندارد و میتواند حتی برای «جعبههای سیاه» هم بهکار رود – کافی است به تولید متن مدلها دسترسی داشته باشید و ارتباط آنها را بر اساس الگوی از پیش تعریفشده هماهنگ کنید[1][4].
برای تعیین پاسخ نهایی پس از چند دور، رویکردهای مختلفی بهکار میرود. یکی از سادهترین مکانیسمها رأیگیری است: عاملان میتوانند در پایان بهطور مستقل راهحلهای نهایی خود را پیشنهاد دهند، پس از آن گزینهای که مورد حمایت اکثریت قرار گرفته (یا بهعنوان مثال، پاسخی که بیشترین تکرار را داشته) انتخاب میشود[4]. رویکرد دیگر – الزام به اجماع است، یعنی ادامه بحث تا زمانی که همه مدلها به پاسخ یکسانی برسند[4]. در نهایت، ممکن است یک عامل داور جداگانه وارد شود: یا یک شبکه عصبی جداگانه آموزشدیده برای ارزیابی پاسخها، یا یکی از عاملان که با نقش داوری سخن میگوید. داور روند بحث را رصد کرده و انتخاب میکند که کدام استدلال قانعکنندهتر یا صحیحتر بوده است[4]. انتخاب مکانیسم تصمیمگیری بر ویژگیهای سیستم تأثیر میگذارد: رأیگیری یا اجماع در پیادهسازی ساده هستند اما ممکن است خطاهای گروهی را تثبیت کنند، در حالی که داور ارزیاب (بهویژه اگر برای شناسایی پاسخ درست آموزش دیده باشد) از نظر نظری قادر است پاسخ صحیح را حتی در صورت وجود تناقض میان عاملان استخراج کند. اما رویکرد داوری نیز چالشهای خود را دارد – برای مثال، اگر مدلی که نقش داور را ایفا میکند همان مدلی باشد که عاملان هم هستند، ممکن است ناخواسته به سمت سبک استدلال آشنای یکی از عاملان سوگیری داشته باشد[4].
تنظیمات عاملان و ارتباطات
سیستمهای چندعاملی با LLM میتوانند از نظر ترکیب و نحوه تعامل عاملان متفاوت باشند. پیکربندی همگن به این معناست که همه عاملان نسخههایی از یک مدل (یا مدلهایی با سطح مشابه) هستند، در حالی که ناهمگن شامل مدلهایی با انواع یا اندازههای مختلف است. در حالت همگن، همه شرکتکنندگان تواناییهای مشابهی دارند و اختلافات آنها تنها به دلیل تولید تصادفی پاسخها یا شرایط اولیه متفاوت (مانند تفاوت در promptها) ایجاد میشود. در رویکرد ناهمگن، میتوان همزمان مدلهای قوی و ضعیف را بهکار گرفت که به برخی عاملان این امکان را میدهد نقاط ضعف دیگران را جبران کنند. برای مثال، پژوهشها نشان میدهند که تعامل LLMهای مختلف باعث میشود مدلهای ضعیفتر راهحلهای خود را با دریافت بازخورد از مدلهای قویتر بهبود دهند[3]. نمونه قابل توجه – مناظره مشترک میان مدلهای زبانی ChatGPT (GPT-4) و Google Bard در حل یک مسئله ریاضی متنی: هر یک از این مدلها بهتنهایی پاسخ نادرستی داد، اما در جریان گفتگو توانستند خطاهای یکدیگر را نشان داده و در نهایت به راهحل درست دست یابند، با استفاده از نقاط قوت هر کدام[1]. در عین حال، ناهمگنی خطراتی هم بههمراه دارد: عدم تعادل قابل توجه در تواناییها ممکن است به تسلط یک مدل منجر شود، و اگر اکثر عاملان باور غلط یا سوگیری مشترکی داشته باشند، مناظره ممکن است سریعاً به یک پاسخ واحد اما نادرست همگرا شود – پدیدهای که به آن اثر «اتاق پژواک» گفته میشود[4]. تحلیل نظری (Estornell و Liu، NeurIPS 2024) نشان داد که با مدلهای بسیار مشابه، مناظره ممکن است در یک دینامیک ایستا فرو رود که همه شرکتکنندگان نظر اکثریت را تکرار میکنند، حتی اگر بر اساس خطای مشترک در دادههایشان باشد[4]. بنابراین در سیستمهای ناهمگن، انتخاب دقیق عاملان اهمیت دارد – برای مثال، مدلهایی با سطح دانش قابل مقایسه انتخاب میشوند تا هیچکدام بر دیگران تسلط نداشته یا آنها را گمراه نکند[4].
جنبه دیگر – ساختار ارتباط میان عاملان است. در پیادهسازیهای پایه، از توپولوژی کاملاً متصل استفاده میشود: در هر دور، هر عامل پاسخهای همه دیگران را دریافت میکند. این تبادل «همه با همه» اطلاعات در دسترس را به حداکثر میرساند، اما هزینههای قابل توجهی ایجاد میکند – حجم زمینه (context) متناسب با تعداد عاملان رشد میکند که محاسبات را سنگینتر میسازد. گزینه جایگزین، توپولوژی پراکنده است که محدود میکند هر عامل مستقیماً با چه کسانی داده تبادل کند. برای مثال، عاملان را میتوان در قالب یک گراف-شبکه (حلقه، درخت و غیره) چیند که هر کدام فقط پاسخهای همسایگانش را دریافت کند. پژوهش Google (Li et al., 2024) نشان داد که محدودیت در اتصال شبکه عاملان میتواند هزینههای تولید را بهطور قابل توجهی کاهش دهد بدون اینکه کیفیت را کاهش دهد، و گاهی آن را بهبود بخشد در مقایسه با بحث کاملاً متصل[3]. در آزمایشهایی با مدلهای GPT-3.5 و Mistral، طرح پراکنده «بحث همسایگی» دقت مشابه یا بالاتری در وظایف (از جمله ریاضیات) داشت، در حالی که میانگین تعداد tokenهای زمینه در هر گام را یک مرتبه کاهش داد[3]. این نتیجه نشان میدهد که تبادل پیام بیش از حد همیشه ضروری نیست – کافی است تعاملات کلیدی میان عاملان را بهدرستی سازماندهی کنید تا با هزینه کمتر به راهحل درست برسند.
علاوه بر توپولوژی، قالبهای مختلفی برای اجرای مناظره وجود دارد. برای مثال، میتوان به عاملان مختلف نقشهای متفاوتی داد: برخی در نقش «تولیدکنندگان ایده»، برخی دیگر در نقش «منتقدان» یا «تأییدکنندگان» راهحل ظاهر شوند[4]. این رویکرد نقشمحور تلاش میکند تقسیم کار را شبیهسازی کند، که در آن هر عامل در یک وظیفه خاص تخصص دارد (مثلاً یکی فرضیه ارائه میدهد، دومی واقعیتها را بررسی میکند، سومی سازگاری منطقی را ارزیابی میکند). گزینه دیگر – بحث نوبتی (round-robin) است: عاملان نه بهطور همزمان، بلکه بهترتیب صحبت میکنند و به نوبت نقش گوینده و پاسخدهنده را در ترتیبی ثابت برعهده میگیرند[4]. این شبیه به مناظرههای رسمی است که در آنها کلام بر اساس مقررات به شرکتکنندگان داده میشود، که میتواند مشارکت برابر همه عاملان را تضمین کند. رویکرد دیگر – تنظیم پویای اختلافنظرها است: سیستم میتواند بهطور ویژه درجه عدم توافق میان پاسخهای عاملان را در هر دور تقویت یا کاهش دهد[4]. برای مثال، میتوان تشویق کرد که در مراحل اولیه پاسخها حداکثر تفاوت داشته باشند (برای پوشش فرضیههای مختلف)، و با نزدیک شدن به پایان، همگراتر شوند. چنین مکانیسمی در پژوهش Chang (2024) برای جلوگیری از توافق زودرس پیشنهاد شده است: با حفظ سطح معتدلی از تضاد میان عاملان، ظهور استدلالهای جدید و بررسی عمیقتر را تحریک میکند[4].
مزایا و اثربخشی رویکرد
مناظره چندعاملی به دلیل توانایی افزایش عملکرد مدلهای زبانی در وظایف دشوار توجهها را جلب کرده است. مجموعهای از پژوهشهای مستقل طی سالهای ۲۰۲۳-۲۰۲۴ تأیید کردهاند که گروهی از LLMهای تعاملگر میتوانند از نظر کیفیت پاسخ از یک مدل منفرد پیشی بگیرند، در حالی که روی همان مسئله کار میکنند. بهویژه، بهبودهایی در حوزههایی که نیازمند استدلال پیچیده هستند مشاهده شده: از محاسبات ریاضی تا برنامهنویسی و خلاصهسازی متن. بدینترتیب، Yin و همکاران (۲۰۲۳)، Chan و همکاران (۲۰۲۳)، Chen و همکاران (۲۰۲۴) و دیگران خاطرنشان میکنند که سیستمهای چندعاملی بهطور مطمئن LLMهای منفرد را در مسائل حسابی، تولید کد و حتی ایجاد خلاصههای اسناد پشت سر میگذارند[4]. دلیل آن – تنوع دیدگاهها است: هر عامل میتواند جزئیات یا خطاهایی را که دیگران از قلم انداختهاند تشخیص دهد و بازخورد ارائه کند. نقد متقابل و تبادل فرضیههای مختلف به بررسی جامعتر مسئله منجر میشود[4]، در نتیجه پاسخ نهایی دقیقتر و قابل اطمینانتر خواهد بود.
برای مثال، محققان MIT و Google Brain به رهبری Yilun Du در ICML 2024 پژوهشی با عنوان «Improving factuality and reasoning in language models through multiagent debate» ارائه دادند که در آن بهبود قابل توجهی در کیفیت راهحلها با افزودن مناظره میان سه نمونه از مدل نشان داده شد[1]. بر اساس نتایج آنها، رویه مناظره چندعاملی در برخی وظایف شاخصهای بالاتری نسبت به استفاده عادی تکنمونهای از همان مدل بهدست داد: دقت حل مسائل ریاضی و استراتژیک افزایش یافت و تعداد خطاهای واقعی کاهش پیدا کرد[1]. بهویژه، رویکرد چندعاملی نتایج مدل را در آزمونهای استدلال ریاضی، بررسی واقعیتها و حتی در وظایف نیازمند برنامهریزی استراتژیک بهبود بخشید[1]. نویسندگان خاطرنشان میکنند که «پاسخ نهایی تولیدشده پس از این بحث چندمرحلهای، هم از نظر واقعی صحیحتر است و هم در حل وظایف استدلالی موفقتر»[1]. در زیر تصویری ارائه شده که دقت انجام وظایف مختلف توسط مدل را بهصورت منفرد و با استفاده از مناظره چندعاملی مقایسه میکند.
مقایسه دقت در چندین وظیفه برای تولید تککاربره (آبی) و برای حالت مناظره چندعاملی (قرمز). رویکرد چندعاملی (multi-agent debate) دقت بالاتری در حوزههای مختلف نشان میدهد، از جمله سؤالات واقعی (بیوگرافیها)، آزمون دانش MMLU، بررسی صحت حرکات شطرنج، حل عبارات حسابی، مسائل ریاضی متنی سطح مدرسه (GSM8K) و یافتن بهترین حرکت شطرنج[1]. بر اساس دادههای نمودار، مناظره بهویژه تواناییهای مدل را در وظایف استراتژیک پیچیده (مانند جستجوی حرکت بهینه در شطرنج) تقویت میکند و سهم خطاها را در محاسبات ریاضی و سؤالات دانش واقعی بهطور قابل توجهی کاهش میدهد.
مزیت دیگر رویکرد چندعاملی – غلبه بر محدودیتهای خودکنترلی تکی مدل است. LLMهای منفرد اغلب از تکنیک self-reflection (خودبازتابی) استفاده میکنند، که در آن مدل خودش پاسخ اولیهاش را ارزیابی و اصلاح میکند. اما مشاهده شده که این روش مستعد مشکل «degeneration-of-thought» – تدهور تفکر – است: اگر مدل به پاسخ اولیهاش ایمان بیاورد، در خودبررسی ایدههای اساساً جدیدی تولید نمیکند، حتی اگر راهحل اولیه اشتباه باشد[5]. به عبارت دیگر، مدل تمایل دارد روی اولین راهحلی که ابداع کرده گیر کند و گزینههای جایگزین را رد کند[5]. مناظره چندعاملی کمک میکند این اثر رفع شود: چند عامل برابر در ابتدا میتوانند فرضیههای مختلفی پیشنهاد دهند و سپس استدلالهای یکدیگر را بهصورت متوالی به چالش بکشند، که تفکر غیرمتعارف را تحریک میکند. Tian Liang و همکاران (EMNLP 2024) طرح چندعاملی خود را MAD (Multi-Agent Debate) نامیدند و نشان دادند که این طرح واقعاً تفکر واگرا (متنوع) مدلها را تشویق میکند و نتایج را در وظایفی که نیاز به بررسی عمیق مسئله دارند بهبود میبخشد[5]. در پیادهسازی آنها، چند عامل بر اساس اصل «چشم در برابر چشم» بحث میکنند (هر کدام به نوبت با استدلالهای دیگری مقابله میکند)، و یک داور کمکی بر فرایند نظارت داشته، بحث را هدایت کرده و راهحل نهایی را انتخاب میکند[5]. آزمایشهای Liang و همکاران اثربخشی این رویکرد را روی مجموعههای آزمایشی چالشبرانگیز نشان داد – در وظایف ترجمه با منطق متعارف (ترجمه جملات با در نظر گرفتن منطق پنهان) و در حساب ضدشهودی (معماهای ریاضی با شرایط در نگاه اول غیرمنطقی)، بحث چندعاملی پاسخهای دقیقتری نسبت به روشهای استاندارد داد[5]. تحلیل همچنین نشان داد که برای بهترین نتیجه، مناظره باید بهصورت تطبیقی متوقف شود، بدون اینکه بیش از حد طولانی شود، و فقط سطح معتدلی از تعارض میان عاملان حفظ شود – رفتار بیش از حد تهاجمی یا برعکس، بیش از حد توافقی نتایج را بدتر میکند[5].
رویکرد چندعاملی نهتنها برای وظایف معمول پرسش-پاسخ مفید واقع شد. در حوزههای دیگری هم کاربرد پیدا کرده، برای مثال برای رفتار ایمنتر و سازگارتر مدلها. پژوهشهای خاصی از مناظره عاملان در وظایف مدیریت محتوا و تنظیم قوانین استفاده میکنند: چند LLM میتوانند درباره اینکه آیا پاسخ دادهشده از نظر اخلاقی قابل قبول است بحث کنند و به این ترتیب در یادگیری با تقویت به یکدیگر بازخورد ارائه دهند. مشاهده شده که مناظره قادر است سیگنالهای ارزیابی ظریفتر و مستدلتری تولید کند که در تنظیم مدلها برای ایمنی و مفید بودن کمک میکنند[3]. همچنین تلاشهایی برای گسترش به وظایف چندوجهی انجام شده – برای مثال، وقتی برخی عاملان تصویری را توصیف میکنند و دیگران انطباق توصیف با تصویر را بررسی میکنند. پژوهش Google (2024) موفقیت چنین گسترشی را نشان داد: رویکرد چندوجهی هم در وظایف صرفاً متنی و هم در درک چندوجهی تصاویر نتایج را بهبود بخشید و تطبیقپذیری «جامعه عقول» را نشان داد[3]. جالب است که تعامل در قالب مناظره میتواند سطح مدلهای ضعیفتر را ارتقا دهد، همانطور که پیشتر ذکر شد. برای مثال، وقتی LLMهای با تواناییهای مختلف در یک بحث مشترک شرکت میکنند، «مدلهای ضعیفتر بهتدریج تقویت میشوند و راهبردهای موفق را از مدلهای قویتر میآموزند»[3]. بدینترتیب، سیستم چندعاملی نهتنها وظیفه مطرحشده را حل میکند، بلکه به نوعی مکانیسم یادگیری جمعی مدلها از یکدیگر نیز عمل میکند.
محدودیتها و مسائل باز
علیرغم مزایای قابل توجه، مناظره چندعاملی با برخی چالشها و محدودیتها مواجه است. یکی از مهمترینها، منابع بری بالای این رویکرد است. برای سازماندهی بحث، تولید متن توسط مدلهای بزرگ باید چندین بار فراخوانی شود: اگر n عامل در T دور شرکت کنند، تعداد کل فراخوانی به LLM نسبت به یک پاسخ، n × T برابر افزایش مییابد. علاوه بر این، در هر دور مدل باید نهتنها سؤال اصلی، بلکه همه ردوبدلهای دورهای قبلی (پاسخهای همه عاملان) را بهعنوان زمینه پردازش کند. بدینترتیب، با افزایش تعداد عاملان و دورها، حجم ورودی زمینه بهصورت نمایی رشد میکند، که به اثر context explosion منجر میشود – سرریز پنجره زمینه و افزایش هزینههای پردازش[3]. در آزمایشها مشاهده میشود که افزودن حتی ۲-۳ دور بحث، تعداد کل tokenهای زمینهای را که مدل باید محاسبه کند بهطور قابل توجهی افزایش میدهد و در نتیجه زمان پاسخ را نیز افزایش میدهد. از نظر نظری، کیفیت راهحل با افزایش تعداد تکرارها بهبود مییابد، اما در عمل بسیاری از پژوهشها بازده نزولی پس از چند دور را گزارش میدهند: اغلب حداکثر اثر در دور دوم یا سوم بهدست میآید و پس از آن بحثهای بیشتر ممکن است به تکرار همان استدلالها یا حتی کاهش دقت به دلیل اشباع زمینه منجر شوند[4]. برای مثال، Xi و همکاران (۲۰۲۳) رشد دقت را فقط تا دور ۲ مناظره نشان دادند و سپس افت مشاهده کردند، به همین ترتیب Liu و Li با همکاران (۲۰۲۴) از اوج کیفیت در حدود ۴ دور گزارش میدهند و پس از آن چرخههای اضافی فقط مانع میشوند[4]. بنابراین، تعیین مدت بهینه مناظره یک وظیفه دشوار است: بحث خیلی کوتاه ممکن است تمام پتانسیل عقل جمعی را آشکار نکند، در حالی که بحث خیلی طولانی – میتواند نویز اطلاعاتی و اضافهبار زمینه ایجاد کند.
مشکل دیگر – خطرات توافق گروهی بر پاسخ نادرست است. اگر همه عاملان تجربه مشابهی داشته باشند و به اشتباه از واقعیتی مطمئن باشند، ممکن است توهم یکدیگر را تقویت کنند. اثر اتاق پژواک رخ میدهد: در جریان مناظره مدلها به اجماع میرسند، اما نه به این دلیل که حقیقت را یافتهاند، بلکه در نتیجه تأیید سوگیری مشترک اولیه. نتایج نظری (Estornell و Liu، ۲۰۲۴) نشان میدهد که با مدلهای یکسان، مناظره ممکن است به رکود فرو برود، نظر اکثریت را بدون ظهور ایدههای جدید تکرار کند[4]. بهویژه خطرناک است وقتی این اکثریت خطای مشترکی را که مثلاً در دادههای آموزشی نهفته به اشتراک میگذارند – در آن صورت نتیجه کل بحث نادرست خواهد بود[6][4]. برای غلبه بر این مشکل، روشهای مداخله ویژهای (diversity-pruning) پیشنهاد شده است: در هر دور، پاسخهای بیش از حد مشابه بهصورت الگوریتمی حذف میشوند و عاملان را تشویق میکند که با حداکثر آنتروپی اطلاعاتی گزینههای مختلفی تولید کنند[6]. این احتمال اینکه همه پاسخها تغییرات یک خطای مشترک باشند را کاهش میدهد. روش دیگر – شناسایی و ابطال باورهای غلط (misconception refutation) است: سیستم تلاش میکند بهطور خودکار مفروضات مشترک عاملان را شناسایی کرده و عمداً به آنهایی که ممکن است نادرست باشند چالش بزند[6]. در پژوهش Estornell و Liu مجموعهای از سه مداخله مشابه پیشنهاد شده – علاوه بر موارد ذکرشده، quality-pruning (انتخاب مرتبطترین و باکیفیتترین استدلالها در هر مرحله) – و نشان داده شده که ترکیب آنها اثربخشی مناظره را بهطور قابل توجهی افزایش میدهد و از گرایش به اتاق پژواک جلوگیری میکند[6][6].
بالاخره، باید اشاره کرد که پایداری و پیشبینیپذیری بحثهای چندعاملی هنوز از ایدهآل فاصله دارند. در برخی آزمایشها، مناظره به نتایج ناپایداری منجر شد – اجراهای مختلف یک بحث مشابه ممکن بود به پاسخهای متفاوتی همگرا شوند، یا پاسخ جمعی بدتر از یک مدل منفرد بدون مناظره بود[4]. Wang و همکاران (۲۰۲۴) و Smit و همکاران (۲۰۲۳) بهطور مستقل مواردی را گزارش دادند که افزودن عاملان عملکرد را بدتر کرد، که نشاندهنده مرز ظریفی میان نقد مفید و اختلافات مخرب است[4]. شناسایی شرایطی که در آنها رویکرد چندعاملی قطعاً مفید است، همچنان موضوع تحقیق میماند. سؤالات باز عبارتند از: چگونه بهطور خودکار تصمیم بگیریم که مناظره را کِی متوقف کرده و پاسخ را ثبت کنیم، تا نه مزیت از دست برود و نه وارد بحث بیپایان شویم، و چگونه بهصورت جمعی تصمیم بگیریم – از طریق رأیگیری، اجماع یا با کمک داور خارجی – که برای انواع مختلف وظایف قابل اطمینانتر است[4]. همچنین مشکل ایمنی و قابلیت کنترل سیستمهای چندعاملی بهشدت مطرح است: باید اطمینان حاصل شود که عاملان بهصورت مشترک محتوای نامطلوب یا سمی تولید نخواهند کرد و تمایلات مضر یکدیگر را تقویت نمیکنند. این سؤالات، بهویژه در رابطه با ایمنی و مقیاسپذیری، بهعنوان مسائل مهم و پیچیده شناخته شدهاند[4]. مرورهای معاصر خاطرنشان میکنند که پژوهشهای بیشتری نیاز است که به توسعه قوانین توقف قابل اطمینان برای بحثها، ارزیابی مقیاسپذیری رویکرد با افزایش تعداد عاملان و دورها، و همچنین به پیادهسازی روشهایی اختصاص یابد که قابلیت اطمینان و صحت پاسخ بهدستآمده بهصورت جمعی را تضمین کنند[4]. حل این مسائل، مناظره چندعاملی را به ابزاری قدرتمندتر و همهجانبهتر برای ایجاد سیستمهای هوش مصنوعی هوشمندتر و ایمنتر تبدیل خواهد کرد.
پیوندها
- Improving Factuality and Reasoning in Language Models with Multiagent Debate — صفحه پروژه
- AI safety via debate — مقاله اصلی OpenAI
- Improving Multi-Agent Debate with Sparse Communication Topology — مقاله درباره بهینهسازی ارتباطات
- Literature Review Of Multi-Agent Debate For Problem-Solving — مرور ادبیات
- Encouraging Divergent Thinking in Large Language Models through Multi-Agent Debate — مقاله درباره MAD
- Improving Multi-Agent Debate with Contrastive Deliberation and Diversity-Promoting Interventions — مقاله NeurIPS 2024
منابع
- Irving, G. et al. (2018). AI Safety via Debate. arXiv:1805.00899.
- Du, Y. et al. (2023). Improving Factuality and Reasoning in Language Models through Multiagent Debate. arXiv:2305.14325.
- Liang, T. et al. (2023). Encouraging Divergent Thinking in Large Language Models through Multi-Agent Debate. arXiv:2305.19118.
- Li, Y. et al. (2024). Improving Multi-Agent Debate with Sparse Communication Topology. arXiv:2406.11776.
- Guo, T. et al. (2024). Large Language Model based Multi-Agents: A Survey of Progress and Challenges. arXiv:2402.01680.
- Li, J. et al. (2024). More Agents Is All You Need. arXiv:2402.05120.
- Estornell, A.; Liu, Y. (2024). Multi-LLM Debate: Framework, Principals, and Interventions. NeurIPS 2024.
- Eo, S. et al. (2025). Debate Only When Necessary: Adaptive Multiagent Collaboration for Efficient LLM Reasoning. arXiv:2504.05047.
- Tillmann, A. (2025). Literature Review Of Multi-Agent Debate For Problem-Solving. arXiv:2506.00066.
- Cui, Y. et al. (2025). Efficient Leave-One-Out Approximation in LLM Multi-Agent Debate Based on Introspection. arXiv:2505.22192.
- La Malfa, E. et al. (2025). Large Language Models Miss the Multi-Agent Mark. arXiv:2505.21298.
یادداشتها
- ↑ 1.00 1.01 1.02 1.03 1.04 1.05 1.06 1.07 1.08 1.09 1.10 «Improving Factuality and Reasoning in Language Models with Multiagent Debate». composable-models.github.io. [۱]
- ↑ 2.0 2.1 Irving, Geoffrey et al. «AI safety via debate». arXiv. [۲]
- ↑ 3.0 3.1 3.2 3.3 3.4 3.5 3.6 3.7 3.8 Liu, Xiang Lisa et al. «Improving Multi-Agent Debate with Sparse Communication Topology». arXiv. [۳]
- ↑ 4.00 4.01 4.02 4.03 4.04 4.05 4.06 4.07 4.08 4.09 4.10 4.11 4.12 4.13 4.14 4.15 4.16 4.17 4.18 4.19 4.20 4.21 4.22 «Literature Review Of Multi-Agent Debate For Problem-Solving». arXiv. [۴]
- ↑ 5.0 5.1 5.2 5.3 5.4 5.5 Liang, Tian et al. «Encouraging Divergent Thinking in Large Language Models through Multi-Agent Debate». ACL Anthology. [۵]
- ↑ 6.0 6.1 6.2 6.3 6.4 «Improving Multi-Agent Debate with Contrastive Deliberation and Diversity-Promoting Interventions». NeurIPS 2024. [۶]