Méta-prompting

Le méta-prompting (de l'anglais meta-prompting) est une méthode avancée de prompt engineering dans laquelle les grands modèles de langage (LLM) sont utilisés pour créer, ajuster et optimiser leurs propres instructions (prompts). Contrairement aux approches traditionnelles où un humain rédige manuellement des instructions détaillées, le méta-prompting se concentre sur la définition de la structure de résolution de la tâche et des rôles que le modèle doit assumer. En d'autres termes, il décrit comment résoudre une tâche, plutôt que quoi faire dans chaque cas spécifique.

Cette approche permet aux LLM de décomposer de manière autonome des problèmes complexes, de clarifier les requêtes et d'améliorer leurs réponses de manière itérative, ouvrant ainsi la voie à la création de systèmes d'intelligence artificielle plus autonomes et adaptatifs.

Méthodes et approches principales

Le terme « méta-prompting » s'est répandu dans la littérature scientifique fin 2023 – début 2024, lorsque plusieurs groupes de recherche ont présenté des approches similaires pour piloter les LLM.

La méthode du « scénario d'échafaudage » (Scaffolding)

L'une des approches clés a été proposée par des chercheurs de l'Université de Stanford et d'OpenAI. Dans ce schéma, appelé scaffolding, un même modèle de langage (GPT-4 dans les expériences) joue simultanément plusieurs rôles :

• Chef d'orchestre (Conductor) : Reçoit le méta-prompt de haut niveau et décompose la tâche complexe en une série de sous-tâches plus simples.
• Experts : Le « chef d'orchestre » initialise plusieurs de ses propres instances en tant qu'« experts », chacune résolvant une sous-tâche distincte selon des instructions spécifiques.
• Intégration : Le « chef d'orchestre » coordonne le travail des « experts » et intègre leurs réponses dans la solution finale.

Cette approche d'orchestration a permis d'améliorer considérablement l'efficacité de la résolution de tâches complexes. Par exemple, dans les expériences, le méta-prompting a surpassé les requêtes classiques en une seule étape de 17,1 % et d'autres méthodes avancées de 15 à 17 % sur des ensembles de tâches nécessitant un raisonnement multi-étapes (par exemple, le jeu « 24 », les énigmes d'échecs). Il est important de noter que cette méthode est indépendante de la tâche (task-agnostic) et fonctionne en mode zero-shot, ne nécessitant aucun exemple spécifique pour chaque nouvelle tâche.

Approche théorique et modèles structurels

En parallèle, un groupe de chercheurs de l'Université de Tsinghua a proposé son propre concept de méta-prompting, en déplaçant l'accent du contenu de la tâche vers sa syntaxe et la forme de la représentation des données. S'appuyant sur un modèle catégoriel, ils ont démontré qu'une description abstraite de la structure du problème permet au modèle de construire un raisonnement proche de la profondeur humaine et de décomposer efficacement les questions complexes en étapes plus simples.

Concepts associés

Les idées du méta-prompting se retrouvent également dans d'autres méthodes :

• Automatic Prompt Engineer (APE) : Une méthode où un LLM génère et sélectionne automatiquement des instructions efficaces pour lui-même, en les évaluant en fonction de la qualité des résultats obtenus.
• Self-Refine : Une approche où le modèle améliore itérativement sa réponse en analysant de manière critique la version précédente et en générant des corrections basées sur cette critique.

Applications et avantages

Le méta-prompting a démontré une grande efficacité dans les tâches nécessitant un raisonnement complexe en plusieurs étapes, telles que les démonstrations mathématiques, la programmation et la résolution de casse-têtes étape par étape. Les principaux avantages de la méthode sont :

• Efficacité en termes de tokens : La concentration sur la structure générale de la tâche plutôt que sur l'énumération de nombreux exemples réduit la taille du prompt. Un méta-prompt constitue un modèle universel nécessitant moins de tokens.
• Stabilité et impartialité : La méthode évite la dépendance à des exemples spécifiques, ce qui rend le modèle moins sujet aux biais induits par les particularités des échantillons d'entraînement.
• Adaptation dynamique : Contrairement à un prompt statique, le méta-prompting permet une amélioration itérative. Le modèle peut, au cours de la résolution, clarifier les instructions, demander des informations manquantes et ajuster sa stratégie.
• Généralisation à de nouvelles tâches : Les instructions de haut niveau sont plus facilement transposables à de nouvelles tâches inédites, ce qui fait du méta-prompting une forme avancée de l'approche zero-shot.

Limites et risques

• Coût et complexité des calculs : La méthode nécessite de multiples appels au modèle pour une seule tâche, ce qui augmente le temps de traitement et le coût des requêtes API. Les implémentations actuelles fonctionnent de manière séquentielle, ce qui rend la parallélisation difficile.
• Dépendance aux capacités du modèle : L'efficacité du méta-prompting dépend fortement de la qualité du LLM de base. Les recherches ont montré que GPT-3.5 ne bénéficie que très peu de cette méthode, tandis que pour GPT-4 et les modèles ultérieurs, le gain est nettement plus important.
• Limitations fondamentales des LLM : Le méta-prompting n'est pas une panacée. Si la tâche dépasse les connaissances du modèle de base, même un méta-prompt parfaitement formulé ne garantit pas un résultat correct. Dans de tels cas, il est nécessaire de recourir soit à un fine-tuning, soit à une intégration avec des outils externes (par exemple, une recherche sur Internet ou un interpréteur de code).

Liens

• Exemple de méta-prompting dans l'OpenAI Cookbook
• Description de la méthode dans le Prompt Engineering Guide

Bibliographie

• Suzgun, M.; Kalai, A. T. (2024). Meta-Prompting: Enhancing Language Models with Task-Agnostic Scaffolding. arXiv:2401.12954.
• Zhang, Y.; Yuan, Y.; Yao, A. C.-C. (2023). Meta Prompting for AGI Systems. arXiv:2311.11482.
• Zhou, Y. et al. (2022). Large Language Models Are Human-Level Prompt Engineers. arXiv:2211.01910.
• Madaan, A. et al. (2023). Self-Refine: Iterative Refinement with Self-Feedback. arXiv:2303.17651.
• Ning, X. et al. (2023). Skeleton-of-Thought: Prompting LLMs for Efficient Parallel Generation. arXiv:2307.15337.
• Chen, X. et al. (2023). Universal Self-Consistency for Large Language Model Generation. arXiv:2311.17311.
• Wang, X. et al. (2022). Self-Consistency Improves Chain-of-Thought Reasoning in Language Models. arXiv:2203.11171.
• Fernando, C. et al. (2023). PromptBreeder: Self-Referential Self-Improvement via Prompt Evolution. arXiv:2309.16797.
• Zhou, P. et al. (2024). Self-DISCOVER: Large Language Models Self-Compose Reasoning Structures. arXiv:2402.03620.
• Chen, J. et al. (2024). Thought-Augmented Reasoning with Large Language Models. arXiv:2406.04271.