LLM hallucinations — Παραισθήσεις και εσφαλμένες απαντήσεις LLM

Материал из Systems analysis wiki
Перейти к навигации Перейти к поиску

Παραίσθηση (αγγλ. hallucination) στο πλαίσιο των μεγάλων γλωσσικών μοντέλων (LLM) είναι το φαινόμενο κατά το οποίο το μοντέλο παράγει με εμφανή βεβαιότητα μια απάντηση που φαίνεται εύλογη (plausible), αλλά στην πραγματικότητα δεν ανταποκρίνεται στα γεγονότα, στο παρεχόμενο πλαίσιο, ή είναι εσωτερικά αντιφατική[1][2]. Το μοντέλο «επινοεί» γεγονότα, λεπτομέρειες ή λογικά συμπεράσματα που απουσιάζουν από τα αρχικά δεδομένα.

Είναι σημαντικό να επισημανθεί ότι η παραίσθηση δεν αποτελεί βλάβη ή σφάλμα με την παραδοσιακή έννοια. Το μοντέλο λειτουργεί όπως έχει σχεδιαστεί: προβλέπει την πιο πιθανή συνέχεια κειμένου βάσει προτύπων που εξήγαγε από τα δεδομένα εκπαίδευσης. Δεν διαθέτει ενσωματωμένο μηχανισμό ελέγχου αλήθειας[3]. Οι παραισθήσεις διαφέρουν από τα απλά σφάλματα στο ότι αποτελούν ψευδείς πληροφορίες που παρουσιάζονται με εμφανή βεβαιότητα, συχνά συμπεριλαμβάνοντας ανύπαρκτα γεγονότα, παραπομπές ή συμβάντα[4]. Το φαινόμενο απέκτησε τόση σημασία, ώστε το 2023 το Λεξικό του Κέιμπριτζ πρόσθεσε νέα σημασία στον όρο «hallucination» σχετιζόμενη με την τεχνητή νοημοσύνη[5].

Ορισμοί και ταξινόμηση παραισθήσεων

[править | править код]

Αν και χρησιμοποιούνται διάφοροι όροι (π.χ. «κομφαμπουλασία», «επινόηση»), οι παραισθήσεις στα LLM μπορούν να χωριστούν σε δύο μεγάλες κατηγορίες: αυτές που σχετίζονται με την πραγματολογική ακρίβεια και αυτές που σχετίζονται με την πιστότητα στην πηγή (συνοχή με το πλαίσιο)[6].

Πραγματολογικές παραισθήσεις

[править | править код]

Πρόκειται για την περίπτωση όπου το μοντέλο παρουσιάζει πραγματολογικά εσφαλμένες πληροφορίες για τον πραγματικό κόσμο. Το μοντέλο υποστηρίζει ένα ψευδές «γεγονός» ως αλήθεια[1].

  • Παράδειγμα: «Ο Τσαρλς Λίντμπεργκ ήταν ο πρώτος άνθρωπος που πάτησε στην επιφάνεια της Σελήνης» — ένα εντελώς επινοημένο γεγονός.
  • Ψευδείς παραθέματα και παραπομπές: Το μοντέλο μπορεί να επινοήσει παραπομπή σε ανύπαρκτη επιστημονική εργασία ή νόμο, μιμούμενο τη μορφή μιας πραγματικής παραπομπής[2]. Αυτό υπονομεύει την εμπιστοσύνη στα μοντέλα, ιδιαίτερα σε εφαρμογές που απαιτούν ακρίβεια (εκπαίδευση, ειδήσεις, συμβουλευτικές υπηρεσίες)[7].

Λογικά σφάλματα

[править | править код]

Το μοντέλο επιτρέπει ασυνέπεια ή σφάλμα στη συλλογιστική. Μεμονωμένα γεγονότα στην απάντηση μπορεί να είναι σωστά, αλλά το συμπέρασμα είναι παράλογο ή αντιτίθεται στη στοιχειώδη λογική[2]. Αυτό συμβαίνει συχνά σε πολύπλοκες συλλογιστικές ή σε εργασίες μαθηματικών και αιτιότητας, όπου το μοντέλο λειτουργεί με πιθανοτικές συνδέσεις λέξεων και όχι με τυπική λογική[2][2].

  • Παράδειγμα: «Επειδή τα πουλιά πετούν, οι αστροναύτες δεν βιώνουν βαρύτητα» — το κείμενο φαίνεται συνεκτικό, αλλά είναι λογικά εσφαλμένο.

Πλαισιακές παραισθήσεις

[править | править код]

Η απάντηση του μοντέλου δεν συνάδει με το παρεχόμενο πλαίσιο ή τις οδηγίες. Το μοντέλο «βγαίνει» εκτός πλαισίου, προσθέτοντας περιττές πληροφορίες ή αγνοώντας τις απαραίτητες[1].

  • Παράβαση οδηγιών: Σε αίτημα «μεταφράστε το κείμενο στα ισπανικά», το μοντέλο απαντά στα αγγλικά[1].
  • Πληροφορίες εκτός πηγής: Σε εργασία περίληψης, το μοντέλο «προσθέτει» γεγονότα που απουσιάζουν από το πρωτότυπο έγγραφο ή τα παραποιεί[1].
  • Ανάμειξη πλαισίων: Στη μέση της απάντησης, το μοντέλο αρχίζει ξαφνικά να μιλά για κάτι από διαφορετικό πεδίο. Για παράδειγμα, σε απάντηση σχετικά με τον επίτροπο του NBA Άνταμ Σίλβερ, το μοντέλο μπορεί να μεταβεί στον προκάτοχό του Ντέιβιντ Στερν, αναμειγνύοντας δύο διαφορετικά πλαίσια[6].

Ασυνέπεια

[править | править код]

Παραλλαγή παραίσθησης κατά την οποία το μοντέλο αντιφάσκει με τον εαυτό του εντός μιας απάντησης ή σειράς απαντήσεων[6]. Σε μία έρευνα διαπιστώθηκε ότι το ChatGPT παρουσιάζει ποσοστό αυτο-αντίφασης περίπου 14%[6][6].

  • Παράδειγμα: «Η εταιρεία Χ ιδρύθηκε το 1990... και μερικές προτάσεις αργότερα ...Η εταιρεία Χ, που δημιουργήθηκε το 2000...»

Παραισθήσεις στον κώδικα

[править | править код]

Τα LLM που έχουν εκπαιδευτεί σε κώδικα μπορούν να παράγουν συντακτικά ορθά αλλά μη λειτουργικά τμήματα κώδικα, χρησιμοποιώντας ανύπαρκτες συναρτήσεις, βιβλιοθήκες ή παραμέτρους[2]. Για παράδειγμα, το μοντέλο μπορεί να παράγει `import quantum` σε Python, ενώ τέτοιο τυπικό module δεν υπάρχει. Το 2024 προτάθηκε ο όρος «code hallucination» και δημιουργήθηκε το benchmark CodeMirage για τη συστηματοποίηση αυτού του προβλήματος[8].

Αιτίες εμφάνισης

[править | править код]

Το φαινόμενο των παραισθήσεων οφείλεται σε συνδυασμό παραγόντων, από την αρχιτεκτονική του μοντέλου έως την ποιότητα των δεδομένων.

  • Αρχιτεκτονική και αρχή εκπαίδευσης: Τα περισσότερα LLM (π.χ. GPT) είναι αυτοπαλίνδρομοι transformers εκπαιδευμένοι να προβλέπουν το επόμενο token. Στόχος τους είναι η μεγιστοποίηση της πιθανοφάνειας κειμένου, όχι η επαλήθευση της αλήθειας των ισχυρισμών[2]. Το μοντέλο δεν διακρίνει γεγονότα από φαντασία στα δεδομένα εκπαίδευσης, αντιμετωπίζοντας τα πάντα ως πρότυπα κειμένου[2].
  • Ποιότητα δεδομένων εκπαίδευσης: Τα LLM εκπαιδεύονται σε τεράστια σώματα κειμένων από το Διαδίκτυο, τα οποία περιέχουν πολλές ανακρίβειες, μύθους και παρωχημένες πληροφορίες[1]. Το μοντέλο απομνημονεύει και αναπαράγει αυτά τα σφάλματα. Επίσης σημαντική είναι η έννοια του knowledge cutoff — το χρονικό όριο έως το οποίο το μοντέλο διαθέτει πληροφορίες.
  • Τρόπος παραγωγής κειμένου: Ο στοχαστικός χαρακτήρας της παραγωγής (δειγματοληψία με θερμοκρασία) επιτρέπει στο μοντέλο να δημιουργεί πιο «δημιουργικές» αλλά λιγότερο ακριβείς απαντήσεις. Το περιορισμένο μήκος πλαισίου μπορεί να οδηγεί στο να «ξεχνά» το μοντέλο πρώιμες λεπτομέρειες του διαλόγου και να αρχίζει να αντιφάσκει με τον εαυτό του[6].

Μέθοδοι αξιολόγησης και μέτρησης

[править | править код]

Για τον εντοπισμό και τη μέτρηση των παραισθήσεων χρησιμοποιούνται αυτόματες μετρικές, ανθρώπινη αξιολόγηση και εξειδικευμένα benchmarks.

  • Αυτόματες μετρικές: Περιλαμβάνουν προσεγγίσεις όπου ένα άλλο LLM λειτουργεί ως «κριτής» (LLM-as-a-judge) για την αξιολόγηση της ορθότητας της απάντησης[9], ή ανάλυση της εντροπίας (αβεβαιότητας) του μοντέλου κατά την παραγωγή[10].
  • Ανθρώπινη σχολιασμός: Θεωρείται «χρυσό πρότυπο». Ειδικοί ή crowd-αξιολογητές αξιολογούν χειροκίνητα τις απαντήσεις, επισημαίνοντας σφάλματα. Η μέθοδος αυτή χρησιμοποιείται κατά την εκπαίδευση μοντέλων με RLHF[11].
  • Benchmarks και stress-tests: Έχουν δημιουργηθεί εξειδικευμένα σύνολα δεδομένων, όπως το TruthfulQA, το οποίο περιέχει ερωτήσεις που προκαλούν το μοντέλο να αναπαράγει διαδεδομένους μύθους[12]. Υπάρχουν επίσης leaderboards, όπως το Hugging Face Hallucination Leaderboard, όπου τα μοντέλα συγκρίνονται ως προς το επίπεδο παραισθήσεων[13].

Τρόποι μετριασμού και πρόληψης

[править | править код]
  • Retrieval-Augmented Generation (RAG): Η πιο επιτυχής προσέγγιση, η οποία «δένει» το μοντέλο με εξωτερικές γνώσεις. Πριν από την παραγωγή απάντησης, το μοντέλο λαμβάνει σχετικές πληροφορίες από βάση δεδομένων, μηχανή αναζήτησης ή API. Αυτό επιτρέπει στο μοντέλο να βασίζει την απάντησή του σε επαληθευμένα δεδομένα και όχι σε εικασίες[2].
  • Αλυσίδες συλλογισμού (Chain-of-Thought) και αυτοέλεγχος: Το μοντέλο παράγει πρώτα βήμα-βήμα συλλογισμό πριν δώσει την τελική απάντηση, γεγονός που αυξάνει την ακρίβεια. Σε πιο προηγμένες μεθόδους, όπως το Self-Verification, το μοντέλο παράγει μια προσχέδια απάντηση και στη συνέχεια καλείται να την ελέγξει και να τη διορθώσει[14].
  • Ενσωματωμένοι κανόνες και φίλτρα: Τα μοντέλα εκπαιδεύονται να αρνούνται να απαντήσουν όταν δεν είναι σίγουρα. Για παράδειγμα, τα μοντέλα Claude της Anthropic ακολουθούν την αρχή της «αλήθειας» και συχνά απαντούν «Δεν γνωρίζω με βεβαιότητα...», αντί να επινοούν γεγονότα[11].
  • Ενσωμάτωση εξωτερικών εργαλείων: Μοντέλα όπως το Gemini μπορούν αυτόματα να αναγνωρίζουν πότε χρειάζονται εξωτερικό εργαλείο (π.χ. αριθμομηχανή για υπολογισμούς ή αναζήτηση για πρόσφατες ειδήσεις) και να το χρησιμοποιούν, γεγονός που μειώνει σημαντικά τον αριθμό των παραισθήσεων[11].

Κίνδυνοι και συνέπειες

[править | править код]
  • Νομικοί και φήμης κίνδυνοι: Στον νομικό τομέα οι παραισθήσεις μπορεί να έχουν σοβαρές συνέπειες. Ευρέως γνωστή έγινε η υπόθεση Mata v. Avianca (2023), όπου δικηγόρος χρησιμοποίησε το ChatGPT για την αναζήτηση δικαστικών προηγουμένων, και αυτό επινόησε αρκετές ανύπαρκτες υποθέσεις. Οι δικηγόροι πρόστιμο, και το περιστατικό έγινε δίδαγμα για την απαράδεκτη εμπιστοσύνη στην ΤΝ χωρίς επαλήθευση[1].
  • Διάδοση παραπληροφόρησης: Σε κοινωνική κλίμακα, τα LLM μπορούν να ενισχύσουν το πρόβλημα των ψευδών ειδήσεων. Γνωστή είναι η υπόθεση του μοντέλου Galactica της Meta, το οποίο δημιουργήθηκε για να βοηθά επιστήμονες, αλλά άρχισε να παράγει ψευδοεπιστημονικά κείμενα με επινοημένα πειράματα και παραπομπές. Μετά από τρεις ημέρες η δημόσια πρόσβαση στο μοντέλο έκλεισε[15].
  • Λήψη εσφαλμένων αποφάσεων: Οι χρήστες, ιδιαίτερα οι λιγότερο έμπειροι, τείνουν να εμπιστεύονται τις απαντήσεις της ΤΝ που διατυπώνονται με βεβαιότητα, γεγονός που μπορεί να οδηγήσει σε λανθασμένες αποφάσεις στα οικονομικά, την ιατρική και άλλους κρίσιμους τομείς[7].

Παραδείγματα από την πράξη

[править | править код]
  • Υπόθεση Air Canada (2023): Το chatbot της αεροπορικής εταιρείας επινόησε ανύπαρκτη πολιτική επιστροφής εισιτηρίων. Όταν ο πελάτης ζήτησε να εφαρμοστεί, η εταιρεία αρνήθηκε. Το Μεταφορικό Δικαστήριο του Καναδά υποχρέωσε την Air Canada να αναλάβει την ευθύνη για τις πληροφορίες που παρείχε το chatbot της και να αποζημιώσει τον πελάτη[9].
  • Αγωγή δυσφήμισης κατά της OpenAI (2023): Ο ραδιοφωνικός παρουσιαστής Μαρκ Γουόλτερς μήνυσε την OpenAI επειδή το ChatGPT, σε απάντηση σε αίτημα δημοσιογράφου, τον κατηγόρησε ψευδώς για απάτη. Η υπόθεση αυτή ανέδειξε τη νομική ευθύνη των εταιρειών για το περιεχόμενο που παράγουν τα μοντέλα τους[6].

Παραπομπές

[править | править код]
  • The Beginner's Guide to Hallucinations in Large Language Models — λεπτομερής οδηγός από την Lakera
  • Survey of Hallucination in Natural Language Generation — επιστημονική επισκόπηση του φαινομένου στο arXiv

Βιβλιογραφία

[править | править код]
  • Holtzman, A. et al. (2020). The Curious Case of Neural Text Degeneration. arXiv:1904.09751.
  • Caccia, M. et al. (2018). Language GANs Falling Short. arXiv:1811.02549.
  • Fan, A. et al. (2018). Hierarchical Neural Story Generation. arXiv:1805.04833.
  • Su, Y.; Collier, N. (2022). Contrastive Search Is What You Need for Neural Text Generation. arXiv:2210.14140.
  • Meister, C. et al. (2023). Locally Typical Sampling. arXiv:2202.00666.
  • O'Brien, S.; Lewis, M. (2023). Contrastive Decoding Improves Reasoning in Large Language Models. arXiv:2309.09117.
  • Finlayson, M. et al. (2024). Basis-Aware Truncation Sampling for Neural Text Generation. arXiv:2412.14352.
  • Tan, Q. et al. (2024). A Thorough Examination of Decoding Methods in the Era of Large Language Models. arXiv:2402.06925.
  • Yu, S. et al. (2023). Conformal Nucleus Sampling. arXiv:2305.02633.
  • Chen, S. J. et al. (2024). Decoding Game: On Minimax Optimality of Heuristic Text Generation Methods. arXiv:2410.03968.

Σημειώσεις

[править | править код]
  1. ↑ 1.0 1.1 1.2 1.3 1.4 1.5 1.6 «The Beginner's Guide to Hallucinations in Large Language Models». Lakera. [1]
  2. ↑ 2.0 2.1 2.2 2.3 2.4 2.5 2.6 2.7 2.8 «What Is LLM Hallucination and How To Prevent It». Astera. [2]
  3. ↑ «Hallucination (artificial intelligence)». In Wikipedia. [3]
  4. ↑ «OpenAI describes LLM hallucinations as 'making up facts' in moments of uncertainty'». [источник не указан в тексте].
  5. ↑ «Cambridge Dictionary adds new definition for 'hallucinate'». [источник не указан в тексте].
  6. ↑ 6.0 6.1 6.2 6.3 6.4 6.5 6.6 «LLM Hallucination—Types, Causes, and Solutions». Nexla. [4]
  7. ↑ 7.0 7.1 «Effective Tips to Prevent AI Hallucinations in Generative AI». QuickCreator. [5]
  8. ↑ [2408.08333] CodeMirage: Hallucinations in Code Generated by Large Language Models. arXiv. [6]
  9. ↑ 9.0 9.1 «LLM hallucinations and failures: lessons from 4 examples». Evidently AI Blog. [7]
  10. ↑ «How to Perform Hallucination Detection for LLMs». Kolena. [8]
  11. ↑ 11.0 11.1 11.2 «ChatGPT vs Google Gemini vs Anthropic Claude: Comprehensive Comparison & Report». DataStudios. [9]
  12. ↑ «Mastering LLM Accuracy: How to Test, Detect, and Fix Hallucinations in AI Models». Stephen Weber on Medium. [10]
  13. ↑ «LLM Benchmarks and Leaderboards: Avoiding Foundation Model Mistakes». Arize Blog. [11]
  14. ↑ «Improving the Reliability of LLMs: Combining Chain-of-Thought Reasoning and Retrieval-Augmented Generation». arXiv. [12]
  15. ↑ «Why Meta Took Down its 'Hallucinating' AI Model Galactica?». Analytics India Magazine. [13]
Источник — https://systems-analysis.ru/int/index.php?title=LLM_hallucinations_—_Παραισθήσεις_και_εσφαλμένες_απαντήσεις_LLM&oldid=21483