Ảo giác và các phản hồi không chính xác của LLM

From Systems analysis wiki
Jump to navigation Jump to search

Ảo giác (tiếng Anh: hallucination) trong bối cảnh các mô hình ngôn ngữ lớn (LLM) là hiện tượng mà mô hình tự tin tạo ra một câu trả lời trông có vẻ hợp lý (plausible) nhưng thực tế không phù hợp với thực tế, với ngữ cảnh được cung cấp, hoặc chứa mâu thuẫn nội tại[1][2]. Mô hình «bịa đặt» các sự kiện, chi tiết hoặc kết luận logic vốn không có trong dữ liệu gốc.

Cần lưu ý rằng ảo giác không phải là sự cố hay lỗi theo nghĩa thông thường. Mô hình hoạt động đúng như thiết kế: nó dự đoán phần tiếp theo có xác suất cao nhất của văn bản dựa trên các mẫu (pattern) được trích xuất từ dữ liệu huấn luyện. Nó không có cơ chế kiểm tra tính đúng đắn tích hợp sẵn[3]. Ảo giác khác với lỗi thông thường ở chỗ chúng là thông tin được trình bày một cách tự tin nhưng lại sai, thường bao gồm các sự kiện, tài liệu tham khảo hoặc sự kiện không tồn tại[4]. Hiện tượng này đã trở nên quan trọng đến mức vào năm 2023, Từ điển Cambridge đã bổ sung nghĩa mới của thuật ngữ «hallucination» liên quan đến trí tuệ nhân tạo[5].

Định nghĩa và phân loại ảo giác

Mặc dù có nhiều thuật ngữ khác nhau được sử dụng (chẳng hạn như «confabulation», «bịa đặt»), ảo giác trong LLM có thể được chia thành hai nhóm lớn: liên quan đến độ chính xác thực tế và liên quan đến sự trung thành với nguồn (tính nhất quán ngữ cảnh)[6].

Ảo giác thực tế

Đây là trường hợp mô hình đưa ra thông tin sai về thực tế thế giới. Mô hình khẳng định một «sự thật» giả dối như thể đó là sự thật[1].

  • Ví dụ: «Charles Lindbergh là người đầu tiên đặt chân lên bề mặt Mặt Trăng» — một sự thật hoàn toàn bịa đặt.
  • Trích dẫn và tài liệu tham khảo giả: Mô hình có thể bịa đặt một tài liệu tham khảo đến một bài báo khoa học hoặc đạo luật không tồn tại, mô phỏng định dạng của một tài liệu tham khảo thực sự[2]. Điều này làm suy giảm niềm tin vào các mô hình, đặc biệt trong các ứng dụng đòi hỏi độ chính xác cao (giáo dục, tin tức, tư vấn)[7].

Lỗi logic

Mô hình mắc phải sự mâu thuẫn hoặc sai sót trong lập luận. Các sự kiện riêng lẻ trong câu trả lời có thể đúng, nhưng kết luận lại phi logic hoặc mâu thuẫn với logic cơ bản[2]. Điều này thường xảy ra trong các bài toán lập luận phức tạp hoặc các bài toán toán học và nhân quả, nơi mô hình vận hành dựa trên các mối liên hệ xác suất giữa các từ chứ không phải logic hình thức[2][2].

  • Ví dụ: «Vì chim biết bay, các phi hành gia không chịu tác động của trọng lực» — văn bản trông có vẻ mạch lạc nhưng lại sai về mặt logic.

Ảo giác ngữ cảnh

Câu trả lời của mô hình không phù hợp với ngữ cảnh hoặc hướng dẫn được cung cấp. Mô hình «thoát khỏi» ngữ cảnh, thêm thông tin không liên quan hoặc bỏ qua những thông tin cần thiết[1].

  • Vi phạm hướng dẫn: Khi được yêu cầu «dịch văn bản sang tiếng Tây Ban Nha», mô hình lại trả lời bằng tiếng Anh[1].
  • Thông tin không có trong nguồn: Trong tác vụ tóm tắt, mô hình «thêm vào» các sự kiện không có trong tài liệu gốc hoặc xuyên tạc chúng[1].
  • Lẫn lộn ngữ cảnh: Giữa câu trả lời, mô hình đột ngột bắt đầu nói về một chủ đề khác. Ví dụ, khi trả lời câu hỏi về Tổng giám đốc NBA Adam Silver, mô hình có thể chuyển sang người tiền nhiệm của ông là David Stern, trộn lẫn hai ngữ cảnh khác nhau[6].

Không nhất quán

Một dạng ảo giác trong đó mô hình mâu thuẫn với chính mình trong phạm vi một câu trả lời hoặc một chuỗi câu trả lời[6]. Một nghiên cứu đã phát hiện rằng mức độ tự mâu thuẫn trong các câu trả lời của ChatGPT là khoảng 14%[6][6].

  • Ví dụ: «Công ty X được thành lập năm 1990... và vài câu sau đó ...Công ty X, được thành lập năm 2000...»

Ảo giác trong code

Các LLM được huấn luyện trên code có thể tạo ra các đoạn code đúng về mặt cú pháp nhưng không hoạt động được, sử dụng các hàm, thư viện hoặc tham số không tồn tại[2]. Ví dụ, mô hình có thể tạo ra `import quantum` trong Python, mặc dù không có module chuẩn như vậy. Năm 2024, thuật ngữ «code hallucination» đã được đề xuất và benchmark CodeMirage được tạo ra để hệ thống hóa vấn đề này[8].

Nguyên nhân phát sinh

Hiện tượng ảo giác được gây ra bởi tổng hợp nhiều yếu tố, từ kiến trúc mô hình đến chất lượng dữ liệu.

  • Kiến trúc và nguyên tắc huấn luyện: Hầu hết các LLM (ví dụ: GPT) là các transformer tự hồi quy (autoregressive) được huấn luyện để dự đoán token tiếp theo. Mục tiêu của chúng là tối đa hóa xác suất của văn bản, chứ không phải kiểm tra tính đúng đắn của các phát biểu[2]. Mô hình không phân biệt sự kiện và hư cấu trong dữ liệu huấn luyện, xử lý tất cả như các mẫu văn bản[2].
  • Chất lượng dữ liệu huấn luyện: Các LLM được huấn luyện trên các kho văn bản khổng lồ từ Internet, chứa nhiều thông tin không chính xác, huyền thoại và thông tin lỗi thời[1]. Mô hình ghi nhớ và tái tạo những lỗi này. Ngoài ra, knowledge cutoff — giới hạn thời gian mà mô hình có thông tin — cũng đóng vai trò quan trọng.
  • Phương thức tạo văn bản: Tính chất ngẫu nhiên của quá trình tạo văn bản (lấy mẫu với nhiệt độ — temperature sampling) cho phép mô hình tạo ra các câu trả lời «sáng tạo» hơn nhưng kém chính xác hơn. Độ dài ngữ cảnh hạn chế có thể khiến mô hình «quên» các chi tiết đầu của hội thoại và bắt đầu mâu thuẫn với chính mình[6].

Phương pháp đánh giá và đo lường

Để phát hiện và đo lường ảo giác, người ta sử dụng các chỉ số tự động, đánh giá của con người và các benchmark chuyên biệt.

  • Chỉ số tự động: Bao gồm các phương pháp trong đó một LLM khác đóng vai trò «thẩm phán» (LLM-as-a-judge) để đánh giá tính chính xác của câu trả lời[9], hoặc phân tích entropy (mức độ không chắc chắn) của mô hình trong quá trình tạo văn bản[10].
  • Chú thích của con người: Được coi là «tiêu chuẩn vàng». Các chuyên gia hoặc người đánh giá đám đông (crowd assessors) đánh giá thủ công các câu trả lời, đánh dấu các lỗi. Phương pháp này được sử dụng khi huấn luyện các mô hình bằng RLHF[11].
  • Benchmark và bài kiểm tra căng thẳng: Các bộ dữ liệu chuyên biệt đã được tạo ra, chẳng hạn như TruthfulQA, chứa các câu hỏi kích thích mô hình tái tạo các huyền thoại phổ biến[12]. Cũng có các bảng xếp hạng, chẳng hạn như Hugging Face Hallucination Leaderboard, nơi các mô hình được so sánh theo mức độ ảo giác[13].

Các phương pháp giảm thiểu và phòng ngừa

  • Retrieval-Augmented Generation (RAG): Phương pháp thành công nhất, «gắn kết» mô hình với kiến thức bên ngoài. Trước khi tạo câu trả lời, mô hình nhận thông tin liên quan từ cơ sở dữ liệu, công cụ tìm kiếm hoặc API. Điều này cho phép mô hình dựa câu trả lời trên dữ liệu đã được kiểm chứng thay vì phỏng đoán[2].
  • Chuỗi suy luận (Chain-of-Thought) và tự kiểm tra: Mô hình trước tiên tạo ra lập luận từng bước trước khi đưa ra câu trả lời cuối cùng, giúp tăng độ chính xác. Trong các phương pháp tiên tiến hơn như Self-Verification, mô hình tạo ra câu trả lời nháp, sau đó được giao nhiệm vụ kiểm tra và sửa chữa nó[14].
  • Các quy tắc và bộ lọc tích hợp: Các mô hình được huấn luyện để từ chối trả lời khi không chắc chắn. Ví dụ, các mô hình Claude của Anthropic tuân theo nguyên tắc «trung thực» và thường trả lời «Tôi không biết chính xác...» thay vì bịa đặt sự kiện[11].
  • Tích hợp với các công cụ bên ngoài: Các mô hình như Gemini có thể tự động nhận biết khi nào chúng cần một công cụ bên ngoài (ví dụ: máy tính cho các phép tính hoặc tìm kiếm cho tin tức mới nhất) và sử dụng nó, giúp giảm đáng kể số lượng ảo giác[11].

Rủi ro và hậu quả

  • Rủi ro pháp lý và uy tín: Trong lĩnh vực pháp lý, ảo giác có thể gây ra hậu quả nghiêm trọng. Vụ Mata v. Avianca (2023) đã nổi tiếng rộng rãi, trong đó một luật sư đã sử dụng ChatGPT để tìm kiếm các tiền lệ tư pháp, và công cụ này đã bịa đặt ra một số vụ án không tồn tại. Các luật sư bị phạt, và sự cố này trở thành bài học về sự không thể tin tưởng vào AI mà không có kiểm chứng[1].
  • Lan truyền thông tin sai lệch: Ở quy mô xã hội, các LLM có thể làm trầm trọng thêm vấn đề tin tức giả. Một trường hợp nổi tiếng là mô hình Galactica của Meta, được tạo ra để hỗ trợ các nhà khoa học, nhưng đã bắt đầu tạo ra các văn bản giả khoa học với các thí nghiệm và tài liệu tham khảo bịa đặt. Sau ba ngày, quyền truy cập công khai vào mô hình đã bị đóng[15].
  • Đưa ra quyết định sai lầm: Người dùng, đặc biệt là những người thiếu kinh nghiệm, có xu hướng tin tưởng vào các câu trả lời AI được diễn đạt một cách tự tin, điều này có thể dẫn đến các quyết định sai lầm trong lĩnh vực tài chính, y tế và các lĩnh vực quan trọng khác[7].

Ví dụ thực tế

  • Vụ Air Canada (2023): Chatbot của hãng hàng không đã bịa đặt ra một chính sách hoàn vé không tồn tại. Khi khách hàng yêu cầu áp dụng chính sách đó, công ty từ chối. Hội đồng giao thông Canada đã buộc Air Canada phải chịu trách nhiệm về thông tin do chatbot của mình cung cấp và bồi thường thiệt hại cho khách hàng[9].
  • Vụ kiện phỉ báng chống lại OpenAI (2023): Người dẫn chương trình radio Mark Walters đã kiện OpenAI vì ChatGPT, trong một câu trả lời cho yêu cầu của một nhà báo, đã vu khống ông về tội gian lận. Vụ việc này nhấn mạnh trách nhiệm pháp lý của các công ty đối với nội dung do mô hình của họ tạo ra[6].

Liên kết

  • The Beginner's Guide to Hallucinations in Large Language Models — hướng dẫn chi tiết từ Lakera
  • Survey of Hallucination in Natural Language Generation — tổng quan khoa học về hiện tượng trên arXiv

Tài liệu

  • Holtzman, A. et al. (2020). The Curious Case of Neural Text Degeneration. arXiv:1904.09751.
  • Caccia, M. et al. (2018). Language GANs Falling Short. arXiv:1811.02549.
  • Fan, A. et al. (2018). Hierarchical Neural Story Generation. arXiv:1805.04833.
  • Su, Y.; Collier, N. (2022). Contrastive Search Is What You Need for Neural Text Generation. arXiv:2210.14140.
  • Meister, C. et al. (2023). Locally Typical Sampling. arXiv:2202.00666.
  • O'Brien, S.; Lewis, M. (2023). Contrastive Decoding Improves Reasoning in Large Language Models. arXiv:2309.09117.
  • Finlayson, M. et al. (2024). Basis-Aware Truncation Sampling for Neural Text Generation. arXiv:2412.14352.
  • Tan, Q. et al. (2024). A Thorough Examination of Decoding Methods in the Era of Large Language Models. arXiv:2402.06925.
  • Yu, S. et al. (2023). Conformal Nucleus Sampling. arXiv:2305.02633.
  • Chen, S. J. et al. (2024). Decoding Game: On Minimax Optimality of Heuristic Text Generation Methods. arXiv:2410.03968.

Ghi chú

  1. ↑ 1.0 1.1 1.2 1.3 1.4 1.5 1.6 «The Beginner's Guide to Hallucinations in Large Language Models». Lakera. [1]
  2. ↑ 2.0 2.1 2.2 2.3 2.4 2.5 2.6 2.7 2.8 «What Is LLM Hallucination and How To Prevent It». Astera. [2]
  3. ↑ «Hallucination (artificial intelligence)». In Wikipedia. [3]
  4. ↑ «OpenAI describes LLM hallucinations as 'making up facts' in moments of uncertainty'». [источник не указан в тексте].
  5. ↑ «Cambridge Dictionary adds new definition for 'hallucinate'». [источник не указан в тексте].
  6. ↑ 6.0 6.1 6.2 6.3 6.4 6.5 6.6 «LLM Hallucination—Types, Causes, and Solutions». Nexla. [4]
  7. ↑ 7.0 7.1 «Effective Tips to Prevent AI Hallucinations in Generative AI». QuickCreator. [5]
  8. ↑ [2408.08333] CodeMirage: Hallucinations in Code Generated by Large Language Models. arXiv. [6]
  9. ↑ 9.0 9.1 «LLM hallucinations and failures: lessons from 4 examples». Evidently AI Blog. [7]
  10. ↑ «How to Perform Hallucination Detection for LLMs». Kolena. [8]
  11. ↑ 11.0 11.1 11.2 «ChatGPT vs Google Gemini vs Anthropic Claude: Comprehensive Comparison & Report». DataStudios. [9]
  12. ↑ «Mastering LLM Accuracy: How to Test, Detect, and Fix Hallucinations in AI Models». Stephen Weber on Medium. [10]
  13. ↑ «LLM Benchmarks and Leaderboards: Avoiding Foundation Model Mistakes». Arize Blog. [11]
  14. ↑ «Improving the Reliability of LLMs: Combining Chain-of-Thought Reasoning and Retrieval-Augmented Generation». arXiv. [12]
  15. ↑ «Why Meta Took Down its 'Hallucinating' AI Model Galactica?». Analytics India Magazine. [13]
Retrieved from "https://systems-analysis.ru/int/index.php?title=Ảo_giác_và_các_phản_hồi_không_chính_xác_của_LLM&oldid=21091"