Role Prompting (DE)

From Systems analysis wiki
Jump to navigation Jump to search

Role Prompting, auch bekannt als Persona Prompting, ist eine Technik im Bereich des Prompt Engineering für große Sprachmodelle (LLMs), bei der dem Modell vor der Ausführung einer Aufgabe explizit eine bestimmte Rolle, Persona oder Expertenidentität zugewiesen wird[1]. Mit anderen Worten wird im Text des Prompts oder der Systemanweisung festgelegt, dass das Modell beispielsweise ein „Lehrer“, „Historiker“ oder „Pirat“ ist, wodurch Stil, Ton und Verhalten der generierten Antwort bestimmt werden[2].

Dieser Ansatz wird häufig in dialogorientierten Systemen eingesetzt. Beispielsweise legt der Standard-System-Prompt von ChatGPT, „You are a helpful assistant“ („Du bist ein hilfreicher Assistent“), die grundlegende Rolle des Modells in der Kommunikation fest[3].

Zweck und Anwendung

Das Ziel des Role Prompting ist es, das Modell auf einen bestimmten Stil und Fokus in der Antwort auszurichten, um sie relevanter und kontextuell passender für die Aufgabe zu machen. Die Zuweisung einer Rolle ermöglicht es, dem Modell eine entsprechende Tonalität und ein passendes Vokabular vorzugeben. Dies ist besonders nützlich bei kreativen und offenen Aufgaben, bei denen die Rolle hilft, den Text lebendiger und stilistisch vielfältiger zu gestalten[4].

Die Technik wird auch in professionellen Szenarien eingesetzt. Beispielsweise kann einem Chatbot für den technischen Support die Rolle eines höflichen Kundendienstmitarbeiters zugewiesen werden, und in Multi-Agenten-Systemen wird jedem Agenten eine eigene Persona (z. B. „Manager“, „Entwickler“) zugewiesen, damit sie effektiv zusammenarbeiten[1]. Die Flexibilität moderner LLMs ermöglicht es ihnen, praktisch jede Rolle anzunehmen – von einer fiktiven Figur bis hin zu einem hochspezialisierten Experten – und Antworten zu generieren, die dem vorgegebenen Bild bestmöglich entsprechen[1].

Einfluss auf Qualität und Genauigkeit

Die Frage, ob Role Prompting die objektive Genauigkeit von Antworten verbessert, ist Gegenstand aktiver Forschung, und die Ergebnisse sind oft widersprüchlich.

Widersprüchliche Ergebnisse

Einerseits gibt es Studien, die eine Verbesserung der Ergebnisse zeigen. So wurde in der Arbeit von Zheng et al. (2023) festgestellt, dass die Leistung des Modells steigen kann, wenn die Rolle thematisch zur Aufgabe passt[5]. In der Arbeit von Kong et al. (2024) wird behauptet, dass Role Prompting das Zero-Shot-Schlussfolgern des Modells bei einer gut gewählten Persona verbessern kann[5].

Andererseits zeigen groß angelegte Studien ein komplexeres Bild. In einem systematischen Experiment mit 162 verschiedenen Rollen wurde kein signifikanter Genauigkeitsgewinn im Vergleich zu einem neutralen Szenario festgestellt[3]. Darüber hinaus hat ein Role Prompt die Genauigkeit der Antworten im Durchschnitt sogar leicht verringert[3].

Die Arbeit von Kim et al. (2024) beschreibt die Rollenzuweisung als „zweischneidiges Schwert“: Das Experiment zeigte, dass das Modell GPT-4 mit einer Rollenanweisung einen Teil der Fragen korrekt löste, bei denen es ohne Anweisung Fehler machte (eine Verbesserung von ≈15,8 %), während ein fast ebenso großer Anteil der Aufgaben durch die Rolle im Gegenteil „zerstört“ wurde (eine Verschlechterung von ≈13,8 %)[5]. Dies unterstreicht, dass das Hinzufügen einer Rolle allein keine Qualitätssteigerung garantiert und das Verhalten des Modells unvorhersehbar beeinflussen kann.

Ein unbestreitbarer Vorteil des Role Prompting ist die Kontrolle über Stil und Format der Antwort. Auch wenn die Rolle die faktische Genauigkeit nicht verbessert, ermöglicht sie Antworten in einer bestimmten Tonalität (freundlich, formell, belehrend), was die Antworten für den Benutzer kohärenter und ansprechender macht[4].

Empfehlungen zur Erstellung von Rollen

Die Forschung liefert eine Reihe praktischer Ratschläge für die effektive Anwendung von Role Prompting:

  • Wahl der Rolle: Es wird empfohlen, neutrale soziale Rollen (z. B. „Kollege“, „Mentor“) zu wählen und übermäßig intime oder hochspezialisierte Rollen zu vermeiden[6].
  • Formulierung: Die Rolle sollte direkt aus der Perspektive des Modells zugewiesen werden („Du bist X“) und nicht durch komplexe hypothetische Szenarien („Stell dir vor, du wärst...“). Die direkte Zuweisung einer Persona erweist sich als effektiver[6].
  • Zweistufiger Ansatz: Bei komplexen Anfragen wird empfohlen, die Aufgabe in zwei Schritte zu unterteilen: Zuerst wird dem Modell seine Rolle und der Kontext zugewiesen, und erst danach wird die eigentliche Frage gestellt. Dies ermöglicht es dem Modell, zunächst „in die Rolle zu schlüpfen“, und erhöht die Stabilität des Ergebnisses[6].

Einschränkungen und Risiken

Die Anwendung von Role Prompting ist mit einer Reihe systemischer Risiken verbunden.

Verstärkung von Stereotypen und Voreingenommenheit

LLMs übernehmen unweigerlich die in den Trainingsdaten verankerten Stereotypen. Die Zuweisung einer Rolle, die mit einem bestimmten Beruf, Geschlecht oder einer Nationalität verbunden ist, kann diese Stereotypen in den Antworten aktivieren und verstärken[6]. Eine Studie von Gupta und Kollegen (2023) zeigte, dass das Hinzufügen sozialer Attribute (Alter, ethnische Zugehörigkeit) zur Rolle die Ausgabe des Modells verzerren und die Genauigkeit der Schlussfolgerungen erheblich verringern kann[5]. Eine andere Analyse (Deshpande et al., 2023) ergab, dass einige Personas zu einer erhöhten Toxizität der generierten Antworten führen[5].

Sicherheitslücken

Angreifer können Role Prompting nutzen, um Moderationsbeschränkungen zu umgehen (eine Technik, die als Jailbreaking bekannt ist). Studien haben gezeigt, dass die Zuweisung einer speziellen Persona (z. B. einer Figur ohne ethische Einschränkungen) es erleichtert, ein LLM zu verbotenen Handlungen zu verleiten. Shah et al. (2023) nutzten erfolgreich die Kooperation mehrerer „Rollen“-Agenten, um die Einschränkungen des Modells zu umgehen, was eine systemische Schwachstelle aufzeigt[7].

Daher ist es bei der Zuweisung einer Rolle an ein Modell wichtig, mögliche Vorurteile und unerwünschte Effekte, die in dieser Rolle verankert sind, zu berücksichtigen und diese Methode mit Bedacht anzuwenden[6].

Literatur

  • Kim, J.; Yang, N.; Jung, K. (2024). Persona is a Double-edged Sword: Mitigating the Negative Impact of Role-playing Prompts in Zero-shot Reasoning Tasks. arXiv:2408.08631.
  • Kong, A. et al. (2023). Better Zero-Shot Reasoning with Role-Play Prompting. arXiv:2308.07702.
  • Zheng, M. et al. (2023). When “A Helpful Assistant” Is Not Really Helpful: Personas in System Prompts Do Not Improve Performances of Large Language Models. arXiv:2311.10054.
  • Shah, R. et al. (2023). Scalable and Transferable Black-Box Jailbreaks for Language Models via Persona Modulation. arXiv:2311.03348.
  • Deshpande, P. et al. (2024). Evaluating Persona-Prompted LLM Responses in Power-Disparate Health Communication. arXiv:2503.01532.
  • Xiong, F. et al. (2025). The Influence of Persona Assignment on Stereotypes and Safeguards in Chinese Large Language Models. arXiv:2506.04975.
  • Li, Y. et al. (2025). System Prompts as a Mechanism of Bias in Large Language Models. arXiv:2505.21091.
  • Wang, L. et al. (2025). Persona-Assigned Large Language Models Exhibit Human-Like Bias and Toxicity. arXiv:2506.20020.
  • Grover, K. et al. (2023). In-Context Impersonation Reveals Large Language Models’ Ability to Simulate Human Personas. PDF.
  • Verma, V. et al. (2024). Systematic Survey of Prompt Engineering in Large Language Models. arXiv:2402.07927.
  • Gupta, S. et al. (2024). Exploring the Impact of Personality Traits on LLM Bias and Toxicity. arXiv:2502.12566.
  • Safdari, M. et al. (2024). LLMs are Vulnerable to Malicious Prompts Disguised as Scientific Language. arXiv:2501.14073.

Einzelnachweise

  1. 1.0 1.1 1.2 „Use role prompting with Watsonx and Granite“. IBM.
  2. „Role Prompting: Guide LLMs with Persona-Based Tasks“. Learn Prompting. [1]
  3. 3.0 3.1 3.2 „When "A Helpful Assistant" Is Not Really Helpful: Personas in System Prompts Do Not Improve Performances of Large Language Models“. arXiv. [2]
  4. 4.0 4.1 „Is Role Prompting Effective?“. Learn Prompting. [3]
  5. 5.0 5.1 5.2 5.3 5.4 „Persona is a Double-edged Sword: Enhancing the Zero-shot Reasoning by Ensembling the Role-playing and Neutral Prompts“. arXiv. [4]
  6. 6.0 6.1 6.2 6.3 6.4 „Role Prompting: Guide LLMs with Persona-Based Tasks“. Learn Prompting. [5]
  7. Shah, S., et al. (2023). „Scalable and Transferable Black-Box Jailbreaks for Language Models via Persona Modulation“. ACL Anthology. [6]