Core prompt engineering techniques — এর মূল কৌশলসমূহ
Prompt Engineering বিভিন্ন কৌশল ও পদ্ধতি অন্তর্ভুক্ত করে যা বৃহৎ ভাষা মডেলের (LLM) সাথে মিথস্ক্রিয়া সর্বোত্তম করতে এবং কাঙ্ক্ষিত ফলাফল অর্জন করতে সহায়তা করে। এই কৌশলগুলি অনুরোধ কাঠামো তৈরি, প্রসঙ্গ প্রদান, আউটপুট শৈলী নিয়ন্ত্রণ এবং মডেলের যুক্তি প্রদানের ক্ষমতা উন্নত করার সাথে সম্পর্কিত। যেহেতু LLM ইনপুট prompt-এর উপর ভিত্তি করে পরবর্তী token পূর্বানুমান করে প্রতিক্রিয়া তৈরি করে, তাই এই prompt-এর গুণমান ও কাঠামো সরাসরি ফলাফলকে প্রভাবিত করে। Prompt Engineering-এর মূল কৌশলগুলি ডেভেলপার ও ব্যবহারকারীদের মডেলের আচরণ কার্যকরভাবে নিয়ন্ত্রণ করতে, ত্রুটি হ্রাস করতে এবং মডেলের অভ্যন্তরীণ প্যারামিটার পরিবর্তন না করেই নির্দিষ্ট কাজে অভিযোজিত করতে সক্ষম করে।
Prompt-এর মূল নীতি ও কাঠামো
যদিও নির্দিষ্ট বাস্তবায়ন ভিন্ন হতে পারে, কার্যকর prompt প্রায়শই সাধারণ নীতি ও কাঠামো অনুযায়ী তৈরি করা হয়:
- অভিজ্ঞতাভিত্তিক নির্দেশিকা: একটি ব্যবহারিক কাঠামো হিসেবে (তবে শিল্প মানদণ্ড নয়) নিম্নলিখিত নীতিগুলি অনুসরণ করার পরামর্শ দেওয়া হয়: দিকনির্দেশনা দিন, বিন্যাস নির্ধারণ করুন, উদাহরণ প্রদান করুন, গুণমান মূল্যায়ন করুন এবং কাজ বিভক্ত করুন।
- কার্যকর prompt প্রায়শই নিম্নলিখিত উপাদানগুলি অন্তর্ভুক্ত করে:
- ভূমিকা/রোল: কাজের প্রসঙ্গ অথবা মডেলের ভূমিকা/চরিত্র নির্ধারণ করে।
- নির্দেশনা: কী করতে হবে তার স্পষ্ট নির্দেশ।
- প্রসঙ্গ: প্রয়োজনীয় তথ্য (স্থির বা RAG-এর মাধ্যমে গতিশীলভাবে উদ্ধারকৃত)।
- উদাহরণ (Few-shot): কাঙ্ক্ষিত বিন্যাস/শৈলীর প্রদর্শন।
- প্রতিক্রিয়ার অনুরোধ: মডেলকে কী তৈরি করতে হবে তার সুস্পষ্ট নির্দেশ।
- সিস্টেম বার্তা (System Prompt): চ্যাট-ইন্টারফেস API-এ (যেমন OpenAI, Anthropic-এর মডেলে) সম্পূর্ণ সেশনের জন্য বৈশ্বিক নির্দেশনা ও ভূমিকা নির্ধারণ করতে দেয়।
- ফরম্যাটিং: Markdown, JSON, XML বা YAML ব্যবহার prompt কাঠামো তৈরিতে সহায়তা করে এবং প্রতিক্রিয়া পার্সিং সহজ করে। বিভাজক (```, `"""`, XML ট্যাগ) নির্দেশনা থেকে ডেটা আলাদা করার জন্য গুরুত্বপূর্ণ।
নির্দেশনা ও উদাহরণের মূল কৌশল
- স্পষ্ট ও নির্দিষ্ট নির্দেশনা: কাজ, কাঙ্ক্ষিত ফলাফল এবং সীমাবদ্ধতা যতটা সম্ভব সুনির্দিষ্টভাবে বর্ণনা করুন। দ্ব্যর্থতা এড়িয়ে চলুন।
- ভূমিকা মডেলিং (Role Prompting): টোন, শৈলী এবং জ্ঞানভাণ্ডার নিয়ন্ত্রণের জন্য মডেলকে একটি ভূমিকা নির্ধারণ করুন ("তুমি একজন ... বিশেষজ্ঞ")।
- Zero-shot Prompting: উদাহরণ ছাড়া অনুরোধ। সরল বা মডেলের কাছে সুপরিচিত কাজের জন্য কার্যকর।
- Few-Shot Prompting: কাজ প্রদর্শনের জন্য কয়েকটি (সাধারণত ২ থেকে ৫টি) "প্রশ্ন-উত্তর" উদাহরণ প্রদান করা। একটি উদাহরণ সহ বিশেষ ক্ষেত্র হল One-shot Prompting। জটিল বিন্যাস বা শৈলীর জন্য বিশেষভাবে কার্যকর। উদাহরণ থেকে পক্ষপাত (anchoring) বা মিথ্যা pattern ধরা এড়াতে সতর্কতা প্রয়োজন।
প্রসঙ্গ ব্যবস্থাপনার কৌশল
- Retrieval-Augmented Generation (RAG): LLM-এ পাঠানোর আগে বাহ্যিক জ্ঞানভাণ্ডার থেকে প্রাসঙ্গিক তথ্য গতিশীলভাবে prompt-এ যোগ করা। ২০২০ সালে Meta AI কর্তৃক প্রথম প্রস্তাবিত, এই পদ্ধতি hallucination মোকাবেলা এবং ডেটার প্রাসঙ্গিকতা নিশ্চিত করার জন্য একটি মূল পদ্ধতি।
- Chunking: মডেলের context window-এর মধ্যে রাখতে বড় টেক্সট ছোট অংশে (chunk) বিভক্ত করা। কৌশলগুলির মধ্যে রয়েছে বাক্য, অনুচ্ছেদ বা token অনুযায়ী বিভাজন (ওভারল্যাপ সহ)।
- সারসংক্ষেপ (Sumarization): সীমিত প্রসঙ্গে মূল অর্থ প্রেরণের জন্য দীর্ঘ টেক্সট বা কথোপকথনের ইতিহাস সংকুচিত করা।
যুক্তি উন্নয়নের কৌশল (Reasoning)
এই কৌশলগুলি মডেলকে আরও যত্নসহকারে এবং কাঠামোগতভাবে "চিন্তা" করাতে লক্ষ্য করে। এগুলির মধ্যে অনেকের, বিশেষত CoT-এর কার্যকারিতা বৃহৎ স্কেলের মডেলে (সাধারণত ১০০ বিলিয়নেরও বেশি প্যারামিটার) প্রকাশ পায়।
- Chain-of-Thought (CoT): চূড়ান্ত উত্তরের আগে ধাপে ধাপে যুক্তি তৈরি করতে মডেলকে নির্দেশনা দেওয়া। গণিত, যুক্তি এবং বহুধাপীয় কাজে ফলাফল উল্লেখযোগ্যভাবে উন্নত করে।
- Zero-shot CoT: সবচেয়ে সরল রূপ, উদাহরণের প্রয়োজন নেই। Prompt-এ "আসুন ধাপে ধাপে চিন্তা করি" (Let's think step by step) যোগ করা ইতোমধ্যে যুক্তির শৃঙ্খল শুরু করতে পারে।
- CoT-এর বৈচিত্র্য:
- Auto-CoT: Few-shot prompting-এর জন্য স্বয়ংক্রিয়ভাবে যুক্তির উদাহরণ তৈরি।
- Self-Consistency: একাধিক যুক্তির শৃঙ্খল তৈরি এবং "ভোটিং"-এর মাধ্যমে সবচেয়ে ঘন ঘন প্রাপ্ত উত্তর নির্বাচন, যা নির্ভরযোগ্যতা বৃদ্ধি করে।
- Tree-of-Thoughts (ToT): গাছের আকারে একাধিক যুক্তির পথ অন্বেষণ করা, মধ্যবর্তী ধাপে ফিরে যাওয়া এবং মূল্যায়নের সুযোগ সহ। এই কৌশলটি জটিল কাজে উচ্চ কার্যকারিতা প্রদর্শন করে, উদাহরণস্বরূপ "Game of 24" সমাধানের সাফল্য ~৪% থেকে ~৭৪%-এ বৃদ্ধি করে।
- Graph-of-Thought (GoT), LogiCoT এবং অন্যান্য, আরও জটিল বা যৌক্তিকভাবে যাচাইযোগ্য যুক্তির লক্ষ্যে।
- ReAct (Reason and Act): CoT-এর উপর নির্মিত একটি কৌশল। এটি একটি পুনরাবৃত্তিমূলক চক্র যেখানে মডেল যুক্তির ধাপ (Thought) এবং সরঞ্জাম ব্যবহার করে ক্রিয়া (Act) পর্যায়ক্রমে পরিচালনা করে এবং পর্যবেক্ষণের (Observation) উপর ভিত্তি করে তার বোঝাপড়া আপডেট করে।
- Self-Refine: একটি পুনরাবৃত্তিমূলক প্রক্রিয়া যেখানে মডেল প্রথমে একটি উত্তর তৈরি করে, তারপর সমালোচনা করে এবং অবশেষে নিজের সমালোচনার উপর ভিত্তি করে উন্নত করে। এই "তৈরি-সমালোচনা-উন্নতি" চক্র একাধিকবার পুনরাবৃত্তি হতে পারে।
- Take a Step Back Prompting: মডেল প্রথমে সাধারণ নীতি বা বিমূর্ততা প্রণয়ন করে, তারপর সেগুলি নির্দিষ্ট কাজে প্রয়োগ করে।
উন্নত কৌশল: এজেন্ট ও সরঞ্জাম
- সরঞ্জাম ব্যবহার (Tool Usage) / ফাংশন কল (Function Calling): LLM-কে বাহ্যিক API (অনুসন্ধান, ক্যালকুলেটর, ডেটাবেস) কল করার সুযোগ প্রদান। মডেল একটি কাঠামোগত সরঞ্জাম কল অনুরোধ তৈরি করে যা অ্যাপ্লিকেশন দ্বারা কার্যকর হয় এবং ফলাফল মডেলে ফিরিয়ে দেওয়া হয়। আধুনিক LLM (GPT-4, Claude 3) এই ফিচারের অন্তর্নির্মিত সমর্থন রয়েছে।
- এজেন্ট (Agents): LLM-ভিত্তিক সিস্টেম যা স্বায়ত্তভাবে পরিকল্পনা করতে, সরঞ্জাম ব্যবহার করতে এবং লক্ষ্য অর্জনে কাজ করতে পারে। প্রায়শই ReAct-সদৃশ চক্র ব্যবহার করে। Framework (LangChain, AutoGen, CrewAI) এগুলি তৈরি সহজ করে।
- বহু-এজেন্ট সিস্টেম: জটিল কাজ সমাধানের জন্য একাধিক বিশেষায়িত এজেন্টের পারস্পরিক মিথস্ক্রিয়া।
ত্রুটি ও Hallucination হ্রাসের কৌশল
- RAG: উদ্ধারকৃত তথ্যের সাথে উত্তর সংযুক্ত করা।
- উত্তর সীমাবদ্ধতার নির্দেশনা: শুধুমাত্র প্রদত্ত প্রসঙ্গের উপর ভিত্তি করে উত্তর দিতে বা অনিশ্চয়তা নির্দেশ করতে প্রয়োজন ("যদি উত্তর অজানা থাকে, বলুন 'আমি জানি না'")।
- উদ্ধৃতির অনুরোধ: উত্তরের ভিত্তি হওয়া প্রসঙ্গের অংশ উদ্ধৃত করতে বা উৎস নির্দেশ করতে মডেলকে বলা।
- যাচাইকরণ ও স্ব-সমালোচনা: Chain-of-Verification (CoVe) (উত্তর তৈরির পর তা যাচাই ও সংশোধন), Self-Refine বা মডেলকে সরাসরি তার উত্তর ত্রুটির জন্য পরীক্ষা করতে বলার মতো কৌশল ব্যবহার।
- CoT: ধাপে ধাপে যুক্তি স্বতঃস্ফূর্তভাবে যৌক্তিক ত্রুটি হ্রাস করতে পারে।
মূল্যায়ন ও পুনরাবৃত্তির কৌশল
যদিও মূল্যায়ন একটি পৃথক প্রক্রিয়া, এর কিছু দিক prompt engineering-এর অংশ:
- Prompt-এর A/B পরীক্ষা: একই কাজে prompt-এর বিভিন্ন সংস্করণের কার্যকারিতা তুলনা করা।
- মূল্যায়নের জন্য LLM ব্যবহার: অন্য prompt বা মডেল দ্বারা তৈরি উত্তরের গুণমান মূল্যায়নের জন্য একটি শক্তিশালী মডেল (যেমন GPT-4) ব্যবহার (LLM-as-a-Judge)।
Prompt Pattern
সাধারণ পুনর্ব্যবহারযোগ্য কাঠামো:
- Persona Pattern - ব্যক্তিত্ব প্যাটার্ন।
- Output Customization Pattern - আউটপুট কাস্টমাইজেশন প্যাটার্ন।
- Question Refinement Pattern - প্রশ্ন পরিমার্জন প্যাটার্ন।
- Cognitive Verifier / Self-Critique Pattern - জ্ঞানীয় যাচাইকরণ / স্ব-সমালোচনা প্যাটার্ন।
- Step-by-Step / Chain-of-Thought Pattern - ধাপে ধাপে যুক্তির প্যাটার্ন।
- Template Pattern - টেমপ্লেট প্যাটার্ন।
সাহিত্য
- Radford, A. et al. (2019). Language Models are Unsupervised Multitask Learners. PDF.
- Brown, T. B. et al. (2020). Language Models are Few-Shot Learners. arXiv:2005.14165.
- Lewis, P. et al. (2020). Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks. arXiv:2005.11401.
- Li, X. L.; Liang, P. (2021). Prefix-Tuning: Optimizing Continuous Prompts for Generation. arXiv:2101.00190.
- Liu, Y. et al. (2021). Fantastically Ordered Prompts and Where to Find Them: Overcoming Few-Shot Prompt Order Sensitivity. arXiv:2104.08786.
- Bai, Y. et al. (2022). Constitutional AI: Harmlessness from AI Feedback. arXiv:2212.08073.
- Wei, J. et al. (2022). Chain-of-Thought Prompting Elicits Reasoning in Large Language Models. arXiv:2201.11903.
- Wang, X. et al. (2022). Self-Consistency Improves Chain of Thought Reasoning in Language Models. arXiv:2203.11171.
- Kojima, T. et al. (2022). Large Language Models are Zero-Shot Reasoners. arXiv:2205.11916.
- Zhang, Z. et al. (2022). Automatic Chain of Thought Prompting in Large Language Models. arXiv:2210.03493.
- Zhou, D. et al. (2022). Least-to-Most Prompting Enables Complex Reasoning in Large Language Models. arXiv:2205.10625.
- Yao, S. et al. (2022). ReAct: Synergizing Reasoning and Acting in Language Models. arXiv:2210.03629.
- Besta, M. et al. (2023). Graph of Thoughts: Solving Elaborate Problems with Large Language Models. arXiv:2308.09687.
- Madaan, A. et al. (2023). Self-Refine: Iterative Refinement with Self-Feedback. arXiv:2303.17651.
- Schick, T. et al. (2023). Toolformer: Language Models Can Teach Themselves to Use Tools. arXiv:2302.04761.
- Rafailov, R. et al. (2023). Direct Preference Optimization: Your Language Model is Secretly a Reward Model. arXiv:2305.18290.
- Wang, Y. et al. (2023). Self-Instruct: Aligning Language Models with Self-Generated Instructions. arXiv:2212.10560.
- Yao, S. et al. (2023). Tree of Thoughts: Deliberate Problem Solving with Large Language Models. arXiv:2305.10601.
- Chen, S. Y. et al. (2023). Extending Context Window of Large Language Models via Positional Interpolation. arXiv:2306.15595.
- Chang, K. et al. (2024). Efficient Prompting Methods for Large Language Models: A Survey. arXiv:2404.01077.
- Genkina, D. (2024). AI Prompt Engineering Is Dead. IEEE Spectrum. [১].
- Li, Z. et al. (2024). Prompt Compression for Large Language Models: A Survey. arXiv:2410.12388.
- Liang, X. et al. (2024). Internal Consistency and Self-Feedback in Large Language Models: A Survey. arXiv:2407.14507.
- Han, H. et al. (2025). Retrieval-Augmented Generation with Graphs (GraphRAG). arXiv:2501.00309.
- Li, W. et al. (2025). A Survey of Automatic Prompt Engineering: An Optimization Perspective. arXiv:2502.11560.
- Wu, Z. et al. (2025). The Dark Side of Function Calling: Pathways to Jailbreaking Large Language Models. EMNLP 2025. PDF.
- Yang, B. et al. (2025). Hallucination Detection in Large Language Models with Metamorphic Relations. arXiv:2502.15844.
আরও দেখুন
- বৃহৎ ভাষা মডেল
- Chain-of-Thought Prompting
- LLM-এর Hallucination ও ভুল উত্তর