Sai lệch dữ liệu và bias

From Systems analysis wiki
Jump to navigation Jump to search

Thiên kiến trong các mô hình ngôn ngữ lớn (tiếng Anh: bias in large language models) — là những sai lệch có hệ thống trong hoạt động của các mô hình ngôn ngữ lớn (LLM), dẫn đến việc tạo ra các câu trả lời phản ánh thực tế một cách không công bằng hoặc không chính xác, tái tạo và củng cố các định kiến đang tồn tại trong xã hội[1]. Khác với các lỗi ngẫu nhiên, thiên kiến mang tính quy luật và được quyết định bởi đặc điểm của dữ liệu huấn luyện và các thuật toán. LLM có thể tái tạo các định kiến về giới tính, sắc tộc và các định kiến khác, điều này đặt ra vấn đề nghiêm trọng, đặc biệt trong các lĩnh vực có trách nhiệm cao như y tế, pháp lý và tài chính[2].

Nguồn gốc của thiên kiến

Thiên kiến trong LLM xuất phát từ hai nguồn chính: dữ liệu bị lệch và đặc điểm của bản thân các thuật toán.

Dữ liệu huấn luyện bị lệch

Nguyên nhân chính dẫn đến thiên kiến là dữ liệu huấn luyện phản ánh những bất cân đối lịch sử, xã hội và văn hóa đang tồn tại trên thế giới. LLM được huấn luyện trên các kho văn bản khổng lồ từ Internet, sách và các nguồn khác do con người tạo ra, và do đó kế thừa tất cả các định kiến chứa đựng trong chúng[3].

  • Đại diện mất cân bằng: Nếu trong dữ liệu một số nhóm nhân khẩu học nhất định (ví dụ, các nhóm thiểu số sắc tộc, phụ nữ trong các nghề nghiệp nhất định) được đại diện không đầy đủ, mô hình sẽ hình thành nhận thức sai lệch về họ. Ví dụ, LLM thường liên kết từ "bác sĩ" với giới tính nam và "y tá" với giới tính nữ, tái tạo các định kiến giới tính mang tính lịch sử[1].
  • Bất cân đối lịch sử và văn hóa: Dữ liệu thường phản ánh các quan điểm văn hóa chiếm ưu thế và các định kiến lịch sử. Mô hình được huấn luyện trên các văn bản như vậy sẽ tái tạo những quan điểm này, bỏ qua các góc nhìn thay thế[4].

Khuếch đại thuật toán

Kiến trúc và thuật toán huấn luyện LLM không chỉ có thể tái tạo mà còn khuếch đại các độ lệch có trong dữ liệu. Hầu hết các LLM hiện đại đều dựa trên transformer và dự đoán từ tiếp theo dựa trên các quy luật thống kê. Điều này dẫn đến việc mô hình thiên về các pattern xuất hiện thường xuyên nhất, củng cố và khuếch đại các ý kiến và định kiến chiếm ưu thế, trong khi các trường hợp hiếm gặp và không điển hình bị bỏ qua[2]. Cơ chế này có thể biến một độ lệch nhỏ trong dữ liệu thành thiên kiến rõ rệt trong các câu trả lời của mô hình[1].

Các loại định kiến và ví dụ

Định kiến xã hội và nhân khẩu học

Đây là loại thiên kiến được nghiên cứu nhiều nhất, bao gồm các định kiến liên quan đến giới tính, chủng tộc, độ tuổi, tôn giáo và các đặc điểm xã hội khác.

  • Định kiến giới tính: LLM thường liên kết các nghề nghiệp và phẩm chất nhất định với một giới tính cụ thể. Ví dụ, khi được yêu cầu mô tả về "người lãnh đạo mạnh mẽ", mô hình có nhiều khả năng tạo ra mô tả về một người đàn ông hơn.
  • Định kiến chủng tộc và sắc tộc: Các mô hình có thể tái tạo các định kiến tiêu cực về các nhóm sắc tộc khác nhau. Các nghiên cứu cho thấy các thuật toán kiểm duyệt dựa trên LLM có thể đánh giá khắt khe hơn các thông điệp bằng tiếng lóng người Mỹ gốc Phi (AAVE), nhầm lẫn coi chúng mang tính xúc phạm hơn[5].
  • Thiên kiến nhóm ("người trong nhóm và người ngoài nhóm"): Một nghiên cứu năm 2024 cho thấy LLM thể hiện thiên kiến nhóm rõ rệt. Khi nhận được prompt liên kết mô hình với một nhóm nhất định ("Chúng tôi..."), mô hình có xu hướng đánh giá tích cực về nhóm đó và coi thường những "người ngoài nhóm"[4].

Sai lệch cấu trúc và nhận thức

Các sai lệch này liên quan đến đặc điểm kiến trúc và xử lý thông tin.

  • Độ lệch vị trí: Nghiên cứu của Viện Công nghệ Massachusetts (MIT) phát hiện ra rằng các mô hình chú trọng không cân xứng đến thông tin từ đầu và cuối tài liệu, thường "bỏ qua" các chi tiết ở giữa. Điều này có thể ảnh hưởng đến độ chính xác khi làm việc với các văn bản dài[6].
  • Xu hướng trung bình hóa: Là các mô hình xác suất, LLM có xu hướng tạo ra các câu trả lời xuất hiện thường xuyên nhất (được trung bình hóa), dẫn đến việc bỏ qua các sự kiện, ngoại lệ và ý kiến thiểu số hiếm gặp nhưng quan trọng[2].
  • Hiệu ứng xác nhận: LLM có thể thể hiện xu hướng tái tạo các mẫu logic có trong dữ liệu huấn luyện, ngay cả khi chúng chứa đựng định kiến, và bỏ qua các thông tin mâu thuẫn với chúng[2].

Ví dụ thực tiễn

Một nghiên cứu của Ngân hàng Thế giới phát hiện ra rằng khi phân tích các cuộc phỏng vấn với người tị nạn, LLM đã có hệ thống bóp méo ý nghĩa phát biểu của họ tùy thuộc vào xuất xứ và giới tính. Mô hình đã diễn giải sai nguyện vọng của các bậc phụ huynh là người tị nạn về thành công của con cái họ, có thể do thiếu vắng các câu chuyện như vậy trong dữ liệu huấn luyện vốn chủ yếu bao gồm văn bản của "các tác giả da trắng thuộc tầng lớp trung lưu"[7][7].

Rủi ro và hậu quả

  • Gia tăng phân biệt đối xử: Trong các lĩnh vực như tuyển dụng, cho vay tín dụng và pháp lý, các LLM mang thiên kiến có thể đưa ra các quyết định mang tính phân biệt đối xử, làm gia tăng bất bình đẳng xã hội[1].
  • Lan truyền định kiến: Việc sử dụng đại trà LLM trong các công cụ tìm kiếm và chatbot có thể dẫn đến việc nhân bản và bình thường hóa các định kiến có hại.
  • Xói mòn niềm tin vào công nghệ: Khi người dùng gặp phải thiên kiến có hệ thống, điều này làm xói mòn niềm tin của họ vào các công nghệ trí tuệ nhân tạo nói chung.
  • Tạo ra bong bóng thông tin: Các thuật toán có thể định hình kết quả đầu ra sao cho phù hợp với quan điểm được cho là của người dùng, điều này duy trì echo chambers và gạt ra ngoài lề các ý kiến thiểu số[1].

Các phương pháp phát hiện và giảm thiểu thiên kiến

Để chống lại các sai lệch, các nhà nghiên cứu và nhà phát triển áp dụng cách tiếp cận toàn diện, làm việc ở ba cấp độ: dữ liệu, mô hình và xử lý hậu kỳ[1].

Can thiệp ở cấp độ dữ liệu

Đây là cách tiếp cận cơ bản nhất. Nó bao gồm[1]:

  • Làm sạch và cân bằng: Loại bỏ nội dung độc hại và có thiên kiến khỏi dữ liệu huấn luyện.
  • Tăng cường dữ liệu (Data Augmentation): Thêm các ví dụ về các nhóm được đại diện chưa đầy đủ để cân bằng tỷ lệ.

Chỉnh sửa ở cấp độ mô hình

Cách tiếp cận này nhằm mục đích thay đổi bản thân thuật toán huấn luyện[1]:

  • Ràng buộc công bằng: Các ràng buộc đặc biệt được đưa vào hàm mất mát để "phạt" mô hình khi thể hiện một số loại thiên kiến nhất định.
  • Thay đổi kiến trúc: Các phương án thay đổi cơ chế attention hoặc thêm các module kiểm soát theo dõi và điều chỉnh các liên kết có thiên kiến đang được nghiên cứu.

Xử lý hậu kỳ kết quả

Phương pháp này được áp dụng ở giai đoạn tạo câu trả lời[1]:

  • Lọc và điều chỉnh: Các thuật toán đặc biệt phân tích văn bản được tạo ra và làm giảm nhẹ hoặc loại bỏ các cách diễn đạt có khả năng mang tính phân biệt đối xử.
  • Tinh chỉnh bổ sung với Reinforcement Learning from Human Feedback (RLHF): Mô hình được đặc biệt tinh chỉnh thêm để đưa ra các câu trả lời trung lập hơn và an toàn hơn dựa trên các đánh giá được cung cấp bởi con người.

Mặc dù đã đạt được tiến bộ đáng kể, nhưng cho đến nay vẫn chưa thể loại bỏ hoàn toàn thiên kiến khỏi LLM. Đây vẫn là một trong những lĩnh vực nghiên cứu trọng điểm hướng đến việc tạo ra các hệ thống AI công bằng và đáng tin cậy hơn[4].

Liên kết

  • Generative language models exhibit social identity biases — nghiên cứu trên Nature Computational Science
  • Unpacking the bias of large language models — bài viết MIT News

Tài liệu tham khảo

  • Guo, Y. et al. (2024). Bias in Large Language Models: Origin, Evaluation, and Mitigation. arXiv:2411.10915.
  • Gallegos, I. O. et al. (2023). Bias and Fairness in Large Language Models: A Survey. arXiv:2309.00770.
  • Wu, X. et al. (2025). On the Emergence of Position Bias in Transformers. arXiv:2502.01951.
  • Hu, T. et al. (2024). Generative Language Models Exhibit Social Identity Biases. Nature Computational Science, 5, 65-75. Full text.
  • Sheng, E. et al. (2019). The Woman Worked as a Babysitter: On Biases in Language Generation. In EMNLP-2019. PDF.
  • Bender, E. M. et al. (2021). On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?. In ACM FAccT 2021. DOI:10.1145/3442188.3445922.
  • Bai, X. et al. (2024). Measuring Implicit Bias in Explicitly Unbiased Large Language Models. arXiv:2402.04105.
  • Ma, C. et al. (2024). Debiasing Large Language Models with Structured Knowledge. In Findings of ACL 2024, pp. 10274-10287. [7].
  • Mohammadi, B. (2024). Creativity Has Left the Chat: The Price of Debiasing Language Models. arXiv:2406.05587.
  • Ayaz, A. et al. (2023). Taught by the Internet: Exploring Bias in OpenAI's GPT-3. arXiv:2306.02428.
  • Benedetto, L. & Stella, M. (2023). Cognitive Network Science Reveals Bias in GPT-3, GPT-3.5-Turbo, and GPT-4 Mirroring Math Anxiety in High-School Students. Applied Sciences, 13(3). Open access.

Ghi chú

  1. ↑ 1.0 1.1 1.2 1.3 1.4 1.5 1.6 1.7 1.8 Zhang, A.; et al. «Bias in Large Language Models: Origin, Evaluation, and Mitigation». arXiv. [1]
  2. ↑ 2.0 2.1 2.2 2.3 «Предвзятость в больших языковых моделях: этические вызовы и пути решения». medet.rsmu.press. [2]
  3. ↑ «Large Language Models». Энциклопедия BigdataSchool. [3]
  4. ↑ 4.0 4.1 4.2 «Generative language models exhibit social identity biases». Nature Computational Science. [4]
  5. ↑ «Study shows moderation algorithms are stricter on African American Vernacular English». [источник не указан в тексте].
  6. ↑ «Unpacking the bias of large language models». MIT News. [5]
  7. ↑ 7.0 7.1 «Прочитал статью про bias LLM». ChatGPT на vc.ru. [6]
Retrieved from "https://systems-analysis.ru/int/index.php?title=Sai_lệch_dữ_liệu_và_bias&oldid=21064"