Role Prompting — توجيه الأدوار

From Systems analysis wiki
Jump to navigation Jump to search

توجيه الأدوار (بالإنجليزية: role prompting)، المعروف أيضًا باسم توجيه الشخصية (بالإنجليزية: persona prompting)، هو أسلوب في مجال هندسة التوجيه لـنماذج اللغة الكبيرة (LLM)، يتم من خلاله تعيين دور أو شخصية أو هوية خبيرة محددة للنموذج بشكل صريح قبل تنفيذ مهمة ما[1]. بعبارة أخرى، يُنص في نص الطلب أو التعليمات النظامية على أن النموذج هو، على سبيل المثال، «معلم» أو «مؤرخ» أو «قرصان»، وبذلك يتم تحديد الأسلوب والنبرة والسلوك للإجابة التي يتم إنشاؤها[2].

يُستخدم هذا النهج على نطاق واسع في أنظمة الحوار. على سبيل المثال، التوجيه النظامي القياسي لـ ChatGPT «You are a helpful assistant» («أنت مساعد مفيد») يحدد فعليًا الدور الأساسي للنموذج في التواصل[3].

الغرض والتطبيق

الهدف من توجيه الأدوار هو توجيه النموذج نحو أسلوب وتركيز معين في الإجابة، مما يجعلها أكثر ملاءمة وتوافقًا مع سياق المهمة. فتعيين الدور يسمح بتحديد النبرة والمفردات المناسبة للنموذج. وهذا مفيد بشكل خاص في المهام الإبداعية والمفتوحة، حيث يساعد الدور في جعل النص أكثر حيوية وتنوعًا من الناحية الأسلوبية[4].

يُستخدم هذا الأسلوب أيضًا في السيناريوهات المهنية. على سبيل المثال، يمكن إعطاء روبوت الدردشة للدعم الفني دور ممثل خدمة مهذب، وفي الأنظمة متعددة الوكلاء، يتم تخصيص شخصية لكل وكيل (مثل «مدير»، «مطور») ليتعاونوا بفعالية[1]. مرونة نماذج LLM الحديثة تسمح لها بتجسيد أي دور تقريبًا — من شخصية خيالية إلى متخصص في مجال ضيق — وتوليد إجابات تتوافق إلى أقصى حد مع الصورة المحددة[1].

التأثير على الجودة والدقة

مسألة فعالية توجيه الأدوار في تحسين الدقة الموضوعية للإجابات لا تزال موضوعًا للبحث النشط، وغالبًا ما تكون النتائج متناقضة.

نتائج متناقضة

من ناحية، هناك دراسات تظهر تحسنًا في النتائج. على سبيل المثال، في دراسة لـ Zheng وآخرين (2023)، وُجد أنه إذا كان دور النموذج يتوافق موضوعيًا مع المهمة، فقد يزداد أداؤه[5]. وفي دراسة Kong وآخرين (2024)، يُذكر أن توجيه الأدوار يمكن أن يحسن استدلال النموذج في مهام zero-shot عند اختيار الشخصية المناسبة[5].

من ناحية أخرى، تظهر الدراسات واسعة النطاق صورة أكثر تعقيدًا. ففي تجربة منهجية شملت 162 دورًا مختلفًا، لم يُلاحظ أي تحسن كبير في الدقة مقارنة بالسيناريو المحايد[3]. بل على العكس، في المتوسط، أدى التوجيه القائم على الدور إلى خفض طفيف في دقة الإجابات[3].

تصف دراسة Kim وآخرين (2024) التدخل القائم على الأدوار بأنه «سلاح ذو حدين»: فقد أظهرت التجربة أن نموذج GPT-4 مع تعليمات الدور تمكن من حل بعض الأسئلة بشكل صحيح بينما كان يخطئ بدونها (تحسن بنسبة ≈15.8%)، ولكن في المقابل، تسبب الدور في فشل النموذج في حل نسبة كبيرة مماثلة من المهام (تدهور بنسبة ≈13.8%)[5]. وهذا يؤكد أن إضافة دور بحد ذاتها لا تضمن تحسين الجودة وقد تؤثر على سلوك النموذج بشكل غير متوقع.

الميزة المؤكدة لتوجيه الأدوار هي التحكم في أسلوب وشكل الإجابة. حتى لو لم يساهم الدور في زيادة دقة الحقائق، فإنه يسمح بالحصول على إجابات بالنبرة المطلوبة (ودية، رسمية، إرشادية)، مما يجعل الردود أكثر ترابطًا وجاذبية للمستخدم[4].

توصيات لإنشاء الأدوار

تقدم الأبحاث عددًا من النصائح العملية للتطبيق الفعال لتوجيه الأدوار:

  • اختيار الدور: يُنصح باختيار أدوار اجتماعية محايدة (مثل «زميل»، «مرشد»)، وتجنب الأدوار الحميمية جدًا أو شديدة التخصص[6].
  • الصياغة: من الأفضل تحديد الدور مباشرة بلسان النموذج («أنت X»)، بدلاً من السيناريوهات التخيلية المعقدة («تخيل أنك...»). أثبت التعيين المباشر للشخصية فعالية أكبر[6].
  • نهج من خطوتين: للطلبات المعقدة، يُقترح تقسيم المهمة إلى خطوتين: أولاً، إعطاء النموذج التعليمات المتعلقة بدوره وسياقه، وفقط بعد ذلك طرح السؤال الرئيسي. هذا يسمح للنموذج «بتقمص الشخصية» أولاً ويزيد من استقرار النتائج[6].

القيود والمخاطر

يرتبط استخدام توجيه الأدوار بعدد من المخاطر النظامية.

تعزيز الصور النمطية والتحيز

تتبنى نماذج LLM بشكل غير مقصود الصور النمطية المتجذرة في بيانات التدريب. قد يؤدي تعيين دور مرتبط بمهنة معينة أو جنس أو جنسية إلى تفعيل هذه الصور النمطية وتعزيزها في الإجابات[6]. أظهرت دراسة أجراها Gupta وزملاؤه (2023) أن إضافة سمات اجتماعية (مثل العمر والعرق) إلى الدور يمكن أن تؤدي إلى انحياز في مخرجات النموذج وتقليل دقة الاستدلال بشكل كبير[5]. وكشف تحليل آخر (Deshpande et al., 2023) أن بعض الشخصيات تؤدي إلى زيادة السمية في الإجابات المولدة[5].

ثغرات أمنية

قد يستخدم المهاجمون توجيه الأدوار لتجاوز قيود الإشراف (وهي تقنية تُعرف باسم كسر الحماية أو jailbreak). أظهرت الأبحاث أن تعيين شخصية خاصة (مثل شخصية ليس لديها قيود أخلاقية) يسهل دفع نماذج LLM نحو تنفيذ إجراءات محظورة. نجح Shah وآخرون (2023) في استخدام تعاون عدة وكلاء «ذوي أدوار» لتجاوز قيود النموذج، مما يوضح وجود ثغرة نظامية[7].

لذلك، عند تعيين دور للنموذج، من المهم مراعاة التحيزات المحتملة والآثار غير المرغوب فيها المضمنة في هذا الدور، وتطبيق هذا الأسلوب بحذر[6].

روابط

مراجع

  • Kim, J.; Yang, N.; Jung, K. (2024). Persona is a Double-edged Sword: Mitigating the Negative Impact of Role-playing Prompts in Zero-shot Reasoning Tasks. arXiv:2408.08631.
  • Kong, A. et al. (2023). Better Zero-Shot Reasoning with Role-Play Prompting. arXiv:2308.07702.
  • Zheng, M. et al. (2023). When “A Helpful Assistant” Is Not Really Helpful: Personas in System Prompts Do Not Improve Performances of Large Language Models. arXiv:2311.10054.
  • Shah, R. et al. (2023). Scalable and Transferable Black-Box Jailbreaks for Language Models via Persona Modulation. arXiv:2311.03348.
  • Deshpande, P. et al. (2024). Evaluating Persona-Prompted LLM Responses in Power-Disparate Health Communication. arXiv:2503.01532.
  • Xiong, F. et al. (2025). The Influence of Persona Assignment on Stereotypes and Safeguards in Chinese Large Language Models. arXiv:2506.04975.
  • Li, Y. et al. (2025). System Prompts as a Mechanism of Bias in Large Language Models. arXiv:2505.21091.
  • Wang, L. et al. (2025). Persona-Assigned Large Language Models Exhibit Human-Like Bias and Toxicity. arXiv:2506.20020.
  • Grover, K. et al. (2023). In-Context Impersonation Reveals Large Language Models’ Ability to Simulate Human Personas. PDF.
  • Verma, V. et al. (2024). Systematic Survey of Prompt Engineering in Large Language Models. arXiv:2402.07927.
  • Gupta, S. et al. (2024). Exploring the Impact of Personality Traits on LLM Bias and Toxicity. arXiv:2502.12566.
  • Safdari, M. et al. (2024). LLMs are Vulnerable to Malicious Prompts Disguised as Scientific Language. arXiv:2501.14073.

ملاحظات

  1. 1.0 1.1 1.2 «Use role prompting with Watsonx and Granite». IBM.
  2. «Role Prompting: Guide LLMs with Persona-Based Tasks». Learn Prompting. [١]
  3. 3.0 3.1 3.2 «When "A Helpful Assistant" Is Not Really Helpful: Personas in System Prompts Do Not Improve Performances of Large Language Models». arXiv. [٢]
  4. 4.0 4.1 «Is Role Prompting Effective?». Learn Prompting. [٣]
  5. 5.0 5.1 5.2 5.3 5.4 «Persona is a Double-edged Sword: Enhancing the Zero-shot Reasoning by Ensembling the Role-playing and Neutral Prompts». arXiv. [٤]
  6. 6.0 6.1 6.2 6.3 6.4 «Role Prompting: Guide LLMs with Persona-Based Tasks». Learn Prompting. [٥]
  7. Shah, S., et al. (2023). «Scalable and Transferable Black-Box Jailbreaks for Language Models via Persona Modulation». ACL Anthology. [٦]