Prompt (language models) (FA)

پرامپت (از انگلیسی prompt — «راهنما» یا «درخواست متنی») در زمینه مدل‌های زبانی بزرگ (LLM) — متن ورودی یا دستورالعملی است که کاربر برای تولید پاسخ مورد نظر در اختیار مدل قرار می‌دهد. پرامپت وظیفه را برای مدل تعریف می‌کند و شامل شرایط لازم، زمینه و نمونه‌ها می‌شود. اثربخشی مدل تا حد زیادی به کیفیت پرامپت تدوین‌شده بستگی دارد.

رشته‌ای که روش‌های توسعه و بهینه‌سازی درخواست‌های متنی را مطالعه می‌کند، prompt engineering (مهندسی پرامپت) نام دارد. هدف آن دریافت پاسخ‌های هرچه مرتبط‌تر، دقیق‌تر و ایمن‌تر از مدل‌های AI است. پرامپت درست‌نوشته‌شده یک «مسیر» برای اجرای وظیفه به مدل ارائه می‌دهد و به تعیین زمینه مورد نیاز و نتیجه مطلوب کمک می‌کند.

تاریخچه توسعه رویکرد

ایده کنترل رفتار LLM از طریق راهنماهای متنی با رشد توانایی‌های خود مدل‌ها تکامل یافت.

مراحل اولیه (GPT-2)

همین در سال ۲۰۱۹، پژوهشگران OpenAI نشان دادند که مدل‌های زبانی بزرگ از پیش‌آموزش‌دیده، مانند GPT-2، می‌توانند وظایف جدید را بدون آموزش اضافی حل کنند، به شرطی که آن‌ها را به صورت متن فرموله کنند. مقاله «Language Models are Unsupervised Multitask Learners» یک تحول اساسی را مشخص کرد: به جای fine-tuning مدل برای هر وظیفه، کافی شد که در ورودی یک دستورالعمل قابل فهم برای آن تنظیم شود.

پیشرفت بزرگ با GPT-3 و In-Context Learning

پیشرفت واقعی با انتشار مدل GPT-3 در سال ۲۰۲۰ رخ داد. با داشتن ۱۷۵ میلیارد پارامتر، GPT-3 توانایی یادگیری زمینه‌ای (in-context learning) را نشان داد — یادگیری یک وظیفه جدید «در لحظه» از چند نمونه‌ای که مستقیماً در متن درخواست ارائه شده‌اند. این حالت کاری few-shot learning («یادگیری با چند نمونه») نام گرفت و نشان داد که افزایش مقیاس مدل بدون هیچ‌گونه تنظیم مجدد وزن‌ها به کیفیت بالا در وظایف NLP منجر می‌شود.

ظهور Chain-of-Thought (CoT)

توسعه بیشتر در سال ۲۰۲۲ با بهبود توانایی مدل‌ها در استدلال پیچیده منطقی مرتبط بود. راهنماهای ویژه‌ای در قالب زنجیره استدلال (chain-of-thought prompting) پیشنهاد شدند. در چنین پرامپت‌هایی، مدل نه تنها سؤال، بلکه نمونه‌ای از استدلال گام‌به‌گام و توالی‌مند پیش از پاسخ را نیز دریافت می‌کند. این امر دقت راه‌حل‌ها را در مسائل حسابی و منطقی به طور قابل توجهی بهبود داد. پژوهش Kojima و همکاران نشان داد که می‌توان مدل را حتی بدون نمونه (zero-shot) به استدلال تشویق کرد، فقط با افزودن عبارت «بیایید قدم به قدم فکر کنیم» به انتهای درخواست.

پرامپت‌های چندوجهی

مفهوم پرامپت از محدوده متن فراتر رفت. در سال ۲۰۲۲ با ظهور مدل‌های DALL-E 2 و Stable Diffusion، درخواست‌های کاربر به زبان طبیعی به رابط کاربری جهانی برای تولید تصویر و سپس موسیقی و ویدیو تبدیل شدند.

انواع و تکنیک‌های کاربرد پرامپت

چندین نوع و تکنیک اصلی پرامپت وجود دارد که اغلب با یکدیگر ترکیب می‌شوند.

Zero-shot prompting (درخواست مستقیم)

مدل فقط دستورالعمل یا سؤال را بدون هیچ نمونه‌ای دریافت می‌کند. در این حالت، LLM بر دانش کلی خود که در دوره پیش‌آموزش به دست آورده تکیه می‌کند. برای وظایف ساده مانند ترجمه یا خلاصه‌سازی متن مناسب است.

Few-shot prompting (یادگیری با نمونه‌ها)

علاوه بر دستورالعمل، یک یا چند نمونه با ورودی‌ها و خروجی‌های مورد انتظار در پرامپت گنجانده می‌شود. مدل «در لحظه» بر اساس این نمونه‌ها یاد می‌گیرد و منطق فراگرفته‌شده را بر درخواست جدید اعمال می‌کند. این روش که in-context learning را پیاده‌سازی می‌کند، دقت را در وظایفی که قالب یا سبک خاصی از پاسخ اهمیت دارد به طور قابل توجهی افزایش می‌دهد.

زنجیره استدلال (Chain-of-Thought, CoT)

نوع خاصی از پرامپت برای وظایفی که نیاز به استدلال پیچیده دارند (ریاضیات، منطق). در راهنما، تحلیل گام‌به‌گام یا طرح راه‌حل پیش از پاسخ نهایی گنجانده می‌شود. این کار مدل را وادار می‌کند تا فرآیند استدلال را صریحاً ساختاردهی کند، که کیفیت نتیجه را به طور قابل توجهی بهبود می‌بخشد.

تنظیم راهنما (Prompt Tuning)

تکنیکی که در آن به جای نوشتن دستی پرامپت، از یک راهنمای بهینه‌شده به صورت خودکار استفاده می‌شود. پرامپت به صورت مجموعه‌ای از token‌های قابل‌آموزش ویژه (یک بردار پیوسته) نشان داده می‌شود که به درخواست کاربر اضافه می‌شود. با آموزش تنها این بردار-پرامپت کوچک، می‌توان یک مدل بزرگ «منجمدشده» را با حداقل هزینه محاسباتی به وظیفه جدیدی تطبیق داد.

Prompt Engineering به عنوان یک رشته

ظهور یک حرفه

رشد توانایی‌های LLM منجر به پیدایش تخصص جدیدی شد — مهندس پرامپت. این متخصصان راهنماهای متنی را برای دستیابی به رفتار مورد نظر از AI طراحی و بهینه می‌کنند. مهندسان پرامپت از دانش در زمینه زبانشناسی، منطق و روانشناسی استفاده می‌کنند تا داده‌های ورودی را به مؤثرترین شکل ساختاردهی کنند. در سال‌های ۲۰۲۲ تا ۲۰۲۳ اولین آگهی‌های شغلی برای این سمت ظاهر شد که نشان‌دهنده تقاضای بالا برای مهارت‌های تعامل مؤثر با سیستم‌های AI است.

آینده حرفه و اتوماسیون

این حوزه به سرعت در حال توسعه است و آینده آن موضوع بحث است. پژوهش‌های سال ۲۰۲۴، به عنوان مثال از VMware، نشان دادند که خود AI می‌تواند از طریق آزمایش و بهینه‌سازی، فرمول‌بندی‌های مؤثر درخواست بیابد که اغلب از نمونه‌های انسانی بهتر هستند. این امر این نظر را ایجاد کرده که مهندسی پرامپت دستی ممکن است پدیده‌ای موقتی باشد و به مرور زمان ابزارهای انتخاب خودکار راهنما به استاندارد تبدیل شوند. با این حال، تا سال ۲۰۲۵، تخصص در زمینه مهندسی پرامپت همچنان مورد تقاضا است.

حوزه‌های کاربرد

• پردازش زبان طبیعی: وظایف کلاسیک NLP مانند خلاصه‌سازی خودکار اسناد، ترجمه ماشینی، پاسخ به سؤالات و استخراج اطلاعات.
• چت‌بات‌ها و دستیاران مجازی: پرامپت‌ها به تعریف نقش، سبک ارتباطی و قالب پاسخ‌ها کمک می‌کنند و سیستم‌های گفتگو را ثابت‌تر و مفیدتر می‌سازند.
• تولید کد: مدل‌هایی مانند OpenAI Codex می‌توانند بر اساس توصیف به زبان طبیعی کد برنامه بنویسند که توسعه را تسریع می‌کند.
• تحلیل داده: با استفاده از پرامپت‌ها می‌توان مدل را برای استخراج بینش از گزارش‌های متنی ساختارنیافته یا تولید فرضیه‌ها تنظیم کرد.
• آموزش: ایجاد معلم‌های خصوصی هوشمند که تمرین‌ها تولید می‌کنند، مفاهیم پیچیده را توضیح می‌دهند و پاسخ‌ها را با توجه به سطح آمادگی فراگیر بررسی می‌کنند.
• صنایع خلاقانه: تولید متن، تصاویر هنری، موسیقی و فیلمنامه بر اساس توصیف دقیق.

استفاده مخرب و آسیب‌پذیری‌ها (Prompt Injection)

باز بودن رابط کاربری LLM منجر به پیدایش دسته جدیدی از حملات شد — تزریق راهنما (prompt injection). مهاجم یک درخواست مخرب ویژه فرموله می‌کند که مدل را وادار می‌کند دستورالعمل‌های اولیه خود را نقض کند یا اطلاعات پنهان را افشا کند. کارشناسان این را نوعی حمله «تزریق کد» می‌دانند که در آن به جای کد، دستورالعمل‌های متنی موذیانه به سیستم «تزریق» می‌شوند.

انواع حملات

• Jailbreak: حمله‌ای که به مدل اجازه می‌دهد از محدودیت‌های اعمال‌شده (مانند سیاست‌های اعتدال) «فرار کند» و محتوای ممنوع تولید کند. نمونه معروف پرامپت DAN (Do Anything Now) است که ChatGPT را وادار می‌کرد بدون سانسور پاسخ دهد.
• Prompt Leaking: یک درخواست ویژه مدل را مجبور می‌کند بخش‌هایی از پرامپت سیستمی پنهان خود را فاش کند.
• Token Smuggling: دستورالعمل مخرب به عنوان بخشی بی‌ضرر از درخواست (مثلاً قطعه‌ای از کد) مبدل می‌شود تا فیلترها را دور بزند و رفتار ناخواسته را تحریک کند.

این حملات یک مشکل جدی هستند زیرا روش‌های سنتی امنیت سایبری برای تهدیدات مرتبط با تفسیر زبان طبیعی به خوبی سازگار نیستند.

منابع

• Radford, A. et al. (2019). Language Models are Unsupervised Multitask Learners. PDF.
• Brown, T. B. et al. (2020). Language Models are Few-Shot Learners. arXiv:2005.14165.
• Wei, J. et al. (2022). Chain-of-Thought Prompting Elicits Reasoning in Large Language Models. arXiv:2201.11903.
• Wang, X. et al. (2022). Self-Consistency Improves Chain of Thought Reasoning in Language Models. arXiv:2203.11171.
• Kojima, T. et al. (2022). Large Language Models are Zero-Shot Reasoners. arXiv:2205.11916.
• Li, X. L.; Liang, P. (2021). Prefix-Tuning: Optimizing Continuous Prompts for Generation. arXiv:2101.00190.
• Liu, Y. et al. (2021). Fantastically Ordered Prompts and Where to Find Them: Overcoming Few-Shot Prompt Order Sensitivity. arXiv:2104.08786.
• Chang, K. et al. (2024). Efficient Prompting Methods for Large Language Models: A Survey. arXiv:2404.01077.
• Li, Z. et al. (2024). Prompt Compression for Large Language Models: A Survey. arXiv:2410.12388.
• Genkina, D. (2024). AI Prompt Engineering Is Dead. IEEE Spectrum. [۵].
• Li, W. et al. (2025). A Survey of Automatic Prompt Engineering: An Optimization Perspective. arXiv:2502.11560.
• Wu, Z. et al. (2025). The Dark Side of Function Calling: Pathways to Jailbreaking Large Language Models. EMNLP 2025. PDF.