LLM hallucinations — LLM کی غلط اور خیالی معلومات

From Systems analysis wiki
Jump to navigation Jump to search

Hallucination (hallucination) بڑے زبانی ماڈلز (LLM) کے تناظر میں ایک ایسا مظہر ہے جس میں ماڈل اعتماد کے ساتھ ایک قابلِ یقین (plausible) نظر آنے والا جواب دیتا ہے، جو حقیقت میں درست نہیں ہوتا، دیے گئے سیاق و سباق سے مطابقت نہیں رکھتا، یا اندرونی طور پر متضاد ہوتا ہے[1][2]۔ ماڈل ایسے حقائق، تفصیلات یا منطقی نتائج «گھڑ لیتا ہے» جو اصل ڈیٹا میں موجود ہی نہیں ہوتے۔

یہ بات نوٹ کرنا ضروری ہے کہ hallucination روایتی معنوں میں کوئی خرابی یا bug نہیں ہے۔ ماڈل اسی طرح کام کرتا ہے جس طرح اسے ڈیزائن کیا گیا ہے: وہ تربیتی ڈیٹا سے حاصل کردہ patterns کی بنیاد پر متن کا سب سے زیادہ ممکنہ تسلسل پیش گوئی کرتا ہے۔ اس میں سچائی جانچنے کا کوئی اندرونی طریقہ کار نہیں ہے[3]۔ Hallucinations سادہ غلطیوں سے اس لیے مختلف ہیں کہ یہ اعتماد کے ساتھ پیش کی گئی، مگر جھوٹی معلومات پر مشتمل ہوتی ہیں، جن میں اکثر غیر موجود حقائق، حوالہ جات یا واقعات شامل ہوتے ہیں[4]۔ یہ مظہر اتنا اہم ہو گیا کہ 2023 میں Cambridge Dictionary نے «hallucination» کا ایک نیا معنی مصنوعی ذہانت سے متعلق شامل کر لیا[5]۔

Hallucinations کی تعریفیں اور درجہ بندی

اگرچہ مختلف اصطلاحات استعمال ہوتی ہیں (مثلاً «confabulation»، «گھڑنا»)، LLM میں hallucinations کو دو بڑے زمروں میں تقسیم کیا جا سکتا ہے: حقائق کی درستی سے متعلق اور ماخذ کی وفاداری (سیاقی ہم آہنگی) سے متعلق[6]۔

حقائق سے متعلق Hallucinations

یہ وہ صورت ہے جب ماڈل حقیقی دنیا کے بارے میں حقیقتاً غلط معلومات پیش کرتا ہے۔ ماڈل ایک جھوٹے «حقیقت» کو سچ کے طور پر بیان کرتا ہے[1]۔

  • مثال: «چارلس لِنڈبرگ چاند کی سطح پر قدم رکھنے والا پہلا انسان تھا» — مکمل طور پر گھڑا ہوا حقیقت۔
  • جھوٹے اقتباسات اور حوالہ جات: ماڈل ایک غیر موجود سائنسی مقالے یا قانون کا حوالہ گھڑ سکتا ہے، حقیقی حوالے کی شکل کی نقل کرتے ہوئے[2]۔ یہ ماڈلز پر اعتماد کو نقصان پہنچاتا ہے، خاص طور پر ان شعبوں میں جہاں درستی ضروری ہے (تعلیم، خبریں، مشاورت)[7]۔

منطقی غلطیاں

ماڈل استدلال میں تضاد یا غلطی کا شکار ہو جاتا ہے۔ جواب کے انفرادی حقائق درست ہو سکتے ہیں، لیکن نتیجہ غیر منطقی یا بنیادی منطق سے متضاد ہوتا ہے[2]۔ یہ اکثر پیچیدہ استدلال یا ریاضی اور causality کے مسائل میں ہوتا ہے، جہاں ماڈل باقاعدہ منطق کی بجائے الفاظ کے احتمالی تعلقات پر کام کرتا ہے[2][2]۔

  • مثال: «چونکہ پرندے اُڑتے ہیں، اس لیے خلاباز کشش ثقل محسوس نہیں کرتے» — متن بظاہر مربوط لگتا ہے، لیکن منطقی طور پر غلط ہے۔

سیاقی Hallucinations

ماڈل کا جواب دیے گئے سیاق و سباق یا ہدایت سے مطابقت نہیں رکھتا۔ ماڈل سیاق و سباق سے «نکل جاتا ہے»، غیر ضروری معلومات شامل کر لیتا ہے یا ضروری معلومات نظر انداز کر دیتا ہے[1]۔

  • ہدایت کی خلاف ورزی: «متن کو ہسپانوی میں ترجمہ کریں» کی درخواست پر ماڈل انگریزی میں جواب دیتا ہے[1]۔
  • ماخذ سے باہر کی معلومات: خلاصہ نگاری کے کام میں ماڈل ایسے حقائق «شامل» کر دیتا ہے جو اصل دستاویز میں موجود نہیں، یا انہیں توڑ مروڑ دیتا ہے[1]۔
  • سیاق و سباق کی آمیزش: جواب کے درمیان میں ماڈل اچانک کسی اور موضوع کے بارے میں بات کرنے لگتا ہے۔ مثلاً NBA کمشنر Adam Silver کے بارے میں سوال کے جواب میں ماڈل ان کے پیشرو David Stern پر چلا جاتا ہے، دو مختلف سیاق و سباق کو ملا دیتا ہے[6]۔

عدم مطابقت

Hallucination کی ایک قسم جس میں ماڈل ایک ہی جواب کے اندر یا جوابات کے سلسلے میں خود سے متضاد ہو جاتا ہے[6]۔ ایک تحقیق میں یہ پایا گیا کہ ChatGPT کے جوابات میں خود تضادی کی شرح تقریباً 14% ہے[6][6]۔

  • مثال: «کمپنی X کی بنیاد 1990 میں رکھی گئی... اور چند جملوں بعد ...کمپنی X، جو 2000 میں قائم ہوئی...»

کوڈ میں Hallucinations

کوڈ پر تربیت یافتہ LLM نحوی طور پر درست مگر ناکارہ اجزاء تیار کر سکتے ہیں، جن میں غیر موجود functions، libraries یا parameters استعمال ہوتی ہیں[2]۔ مثلاً ماڈل Python میں `import quantum` لکھ سکتا ہے، حالانکہ ایسا کوئی معیاری module موجود نہیں۔ 2024 میں «code hallucination» کی اصطلاح تجویز کی گئی اور اس مسئلے کو منظم کرنے کے لیے benchmark CodeMirage بنایا گیا[8]۔

پیدائش کے اسباب

Hallucinations کا مظہر ماڈل کی architecture سے لے کر ڈیٹا کے معیار تک عوامل کے مجموعے کی وجہ سے ہے۔

  • Architecture اور تربیت کا اصول: زیادہ تر LLM (مثلاً GPT) autoregressive transformers ہیں جو اگلا token پیش گوئی کرنے کی تربیت پاتے ہیں۔ ان کا مقصد متن کے امکان کو زیادہ سے زیادہ کرنا ہے، نہ کہ بیانات کی سچائی جانچنا[2]۔ ماڈل تربیتی ڈیٹا میں حقائق اور خیال میں فرق نہیں کرتا، سب کچھ textual patterns کے طور پر لیتا ہے[2]۔
  • تربیتی ڈیٹا کا معیار: LLM انٹرنیٹ کے وسیع متنی مجموعوں پر تربیت پاتے ہیں جن میں بہت سی غلطیاں، مفروضے اور پرانی معلومات ہوتی ہیں[1]۔ ماڈل ان غلطیوں کو یاد کر کے دہراتا ہے۔ اسی طرح knowledge cutoff بھی اہم ہے — وہ وقتی حد جس تک ماڈل کے پاس معلومات ہیں۔
  • متن تیار کرنے کا طریقہ: تخلیق کی stochastic نوعیت (temperature کے ساتھ sampling) ماڈل کو زیادہ «تخلیقی» مگر کم درست جواب دینے کی اجازت دیتی ہے۔ context کی محدود لمبائی کی وجہ سے ماڈل ممکن ہے بات چیت کی ابتدائی تفصیلات «بھول» جائے اور خود سے متضاد ہونے لگے[6]۔

تشخیص اور پیمائش کے طریقے

Hallucinations کا پتہ لگانے اور انہیں ماپنے کے لیے خودکار metrics، انسانی تشخیص اور مخصوص benchmarks استعمال کیے جاتے ہیں۔

  • خودکار metrics: ان میں وہ طریقے شامل ہیں جہاں ایک اور LLM «جج» کے طور پر (LLM-as-a-judge) جواب کی درستی جانچتی ہے[9]، یا تخلیق کے دوران ماڈل کی entropy (عدم یقینی) کا تجزیہ کیا جاتا ہے[10]۔
  • انسانی annotation: اسے «سونے کا معیار» سمجھا جاتا ہے۔ ماہرین یا crowd assessors ہاتھ سے جوابات جانچتے اور غلطیوں کو نشان زد کرتے ہیں۔ یہ طریقہ RLHF کے ذریعے ماڈلز کی تربیت میں استعمال ہوتا ہے[11]۔
  • Benchmarks اور stress-tests: خصوصی datasets بنائے گئے ہیں، جیسے TruthfulQA، جس میں ایسے سوالات ہیں جو ماڈل کو عام مفروضوں کو دہرانے پر اکساتے ہیں[12]۔ اسی طرح leaderboards بھی موجود ہیں، مثلاً Hugging Face Hallucination Leaderboard، جہاں ماڈلز کا hallucination کی سطح کے لحاظ سے موازنہ کیا جاتا ہے[13]۔

تخفیف اور روک تھام کے طریقے

  • Retrieval-Augmented Generation (RAG): سب سے کامیاب طریقہ جو ماڈل کو بیرونی معلومات سے «جوڑتا» ہے۔ جواب تیار کرنے سے پہلے ماڈل کسی database، search engine یا API سے متعلقہ معلومات حاصل کرتا ہے۔ اس سے ماڈل کا جواب اندازوں کے بجائے تصدیق شدہ ڈیٹا پر مبنی ہوتا ہے[2]۔
  • Chain-of-Thought استدلال اور خود جانچ: ماڈل حتمی جواب دینے سے پہلے پہلے مرحلہ وار استدلال تیار کرتا ہے، جس سے درستی بڑھتی ہے۔ زیادہ ترقی یافتہ طریقوں میں، جیسے Self-Verification، ماڈل ایک مسودہ جواب تیار کرتا ہے اور پھر اسے جانچنے اور درست کرنے کی ذمہ داری ملتی ہے[14]۔
  • اندرونی قواعد اور filters: ماڈلز کو سکھایا جاتا ہے کہ اگر انہیں یقین نہ ہو تو جواب دینے سے انکار کریں۔ مثلاً Anthropic کے Claude ماڈلز «سچائی» کے اصول پر چلتے ہیں اور اکثر حقائق گھڑنے کی بجائے «مجھے قطعی علم نہیں...» جیسا جواب دیتے ہیں[11]۔
  • بیرونی tools کے ساتھ یکجائی: Gemini جیسے ماڈلز خود بخود پہچان سکتے ہیں کہ انہیں کب بیرونی tool کی ضرورت ہے (مثلاً حسابات کے لیے calculator یا تازہ خبروں کے لیے search)، اور اسے استعمال کرتے ہیں، جو hallucinations کو نمایاں طور پر کم کرتا ہے[11]۔

خطرات اور نتائج

  • قانونی اور ساکھ سے متعلق خطرات: قانونی شعبے میں hallucinations کے سنگین نتائج ہو سکتے ہیں۔ Mata v. Avianca (2023) کا مقدمہ بڑے پیمانے پر مشہور ہوا، جس میں ایک وکیل نے عدالتی نظائر تلاش کرنے کے لیے ChatGPT استعمال کیا اور اس نے کئی غیر موجود مقدمات گھڑ دیے۔ وکلاء پر جرمانہ لگایا گیا اور یہ واقعہ اس بات کی سبق بنا کہ تصدیق کے بغیر AI پر بھروسہ ناقابلِ قبول ہے[1]۔
  • غلط معلومات کا پھیلاؤ: معاشرتی سطح پر LLM جھوٹی خبروں کے مسئلے کو بڑھا سکتے ہیں۔ Meta کے Galactica ماڈل کا واقعہ مشہور ہے، جو سائنسدانوں کی مدد کے لیے بنایا گیا تھا، لیکن اس نے گھڑے ہوئے تجربات اور حوالوں کے ساتھ سیوڈو سائنسی متن تیار کرنا شروع کر دیا۔ تین دن بعد ماڈل تک عوامی رسائی بند کر دی گئی[15]۔
  • غلط فیصلے: صارفین، خاص طور پر ناتجربہ کار، AI کے پر اعتماد انداز میں دیے گئے جوابوں پر بھروسہ کرتے ہیں، جو مالیات، طب اور دیگر اہم شعبوں میں غلط فیصلوں کا باعث بن سکتا ہے[7]۔

عملی مثالیں

  • Air Canada کا واقعہ (2023): ایئرلائن کے chatbot نے ٹکٹ واپسی کی ایک غیر موجود پالیسی گھڑ دی۔ جب گاہک نے اسے لاگو کرنے کا مطالبہ کیا، کمپنی نے انکار کر دیا۔ کینیڈا کی Transportation Tribunal نے Air Canada کو پابند کیا کہ وہ اپنے chatbot کی فراہم کردہ معلومات کی ذمہ داری قبول کرے اور گاہک کو نقصان کا ازالہ کرے[9]۔
  • OpenAI کے خلاف ہتکِ عزت کا مقدمہ (2023): ریڈیو میزبان Mark Walters نے OpenAI کے خلاف مقدمہ دائر کیا کیونکہ ChatGPT نے ایک صحافی کے سوال کے جواب میں انہیں جھوٹا دھوکہ دہی کا مرتکب قرار دیا۔ اس واقعے نے اس بات کو اجاگر کیا کہ کمپنیاں اپنے ماڈلز کے تیار کردہ مواد کی قانونی ذمہ داری رکھتی ہیں[6]۔

حوالہ جات

  • The Beginner's Guide to Hallucinations in Large Language Models — Lakera کی جانب سے تفصیلی رہنما
  • Survey of Hallucination in Natural Language Generation — arXiv پر اس مظہر کا سائنسی جائزہ

کتابیات

  • Holtzman, A. et al. (2020). The Curious Case of Neural Text Degeneration. arXiv:1904.09751.
  • Caccia, M. et al. (2018). Language GANs Falling Short. arXiv:1811.02549.
  • Fan, A. et al. (2018). Hierarchical Neural Story Generation. arXiv:1805.04833.
  • Su, Y.; Collier, N. (2022). Contrastive Search Is What You Need for Neural Text Generation. arXiv:2210.14140.
  • Meister, C. et al. (2023). Locally Typical Sampling. arXiv:2202.00666.
  • O'Brien, S.; Lewis, M. (2023). Contrastive Decoding Improves Reasoning in Large Language Models. arXiv:2309.09117.
  • Finlayson, M. et al. (2024). Basis-Aware Truncation Sampling for Neural Text Generation. arXiv:2412.14352.
  • Tan, Q. et al. (2024). A Thorough Examination of Decoding Methods in the Era of Large Language Models. arXiv:2402.06925.
  • Yu, S. et al. (2023). Conformal Nucleus Sampling. arXiv:2305.02633.
  • Chen, S. J. et al. (2024). Decoding Game: On Minimax Optimality of Heuristic Text Generation Methods. arXiv:2410.03968.

حواشی

  1. ↑ 1.0 1.1 1.2 1.3 1.4 1.5 1.6 «The Beginner's Guide to Hallucinations in Large Language Models». Lakera. [1]
  2. ↑ 2.0 2.1 2.2 2.3 2.4 2.5 2.6 2.7 2.8 «What Is LLM Hallucination and How To Prevent It». Astera. [2]
  3. ↑ «Hallucination (artificial intelligence)». In Wikipedia. [3]
  4. ↑ «OpenAI describes LLM hallucinations as 'making up facts' in moments of uncertainty'». [источник не указан в тексте].
  5. ↑ «Cambridge Dictionary adds new definition for 'hallucinate'». [источник не указан в тексте].
  6. ↑ 6.0 6.1 6.2 6.3 6.4 6.5 6.6 «LLM Hallucination—Types, Causes, and Solutions». Nexla. [4]
  7. ↑ 7.0 7.1 «Effective Tips to Prevent AI Hallucinations in Generative AI». QuickCreator. [5]
  8. ↑ [2408.08333] CodeMirage: Hallucinations in Code Generated by Large Language Models. arXiv. [6]
  9. ↑ 9.0 9.1 «LLM hallucinations and failures: lessons from 4 examples». Evidently AI Blog. [7]
  10. ↑ «How to Perform Hallucination Detection for LLMs». Kolena. [8]
  11. ↑ 11.0 11.1 11.2 «ChatGPT vs Google Gemini vs Anthropic Claude: Comprehensive Comparison & Report». DataStudios. [9]
  12. ↑ «Mastering LLM Accuracy: How to Test, Detect, and Fix Hallucinations in AI Models». Stephen Weber on Medium. [10]
  13. ↑ «LLM Benchmarks and Leaderboards: Avoiding Foundation Model Mistakes». Arize Blog. [11]
  14. ↑ «Improving the Reliability of LLMs: Combining Chain-of-Thought Reasoning and Retrieval-Augmented Generation». arXiv. [12]
  15. ↑ «Why Meta Took Down its 'Hallucinating' AI Model Galactica?». Analytics India Magazine. [13]
Retrieved from "https://systems-analysis.ru/int/index.php?title=LLM_hallucinations_—_LLM_کی_غلط_اور_خیالی_معلومات&oldid=21596"