Trí tuệ nhân tạo có thể giải thích

From Systems analysis wiki
Jump to navigation Jump to search

Trí tuệ nhân tạo có thể giải thích (Explainable AI, XAI) — là một hướng nghiên cứu và tập hợp các phương pháp trong lĩnh vực trí tuệ nhân tạo, cho phép làm cho các quyết định và hành vi của các mô hình Machine Learning trở nên dễ hiểu đối với con người[1]. Mục tiêu chính của XAI là biến các mô hình phức tạp, không minh bạch — thường được gọi là "hộp đen" — thành các mô hình "minh bạch" hay "hộp kính", có khả năng giải thích cách chúng đưa ra quyết định.

Nhu cầu về khả năng giải thích đã tăng mạnh cùng với sự phát triển của các mô hình phức tạp, đặc biệt là các mô hình ngôn ngữ lớn (LLM), vốn dù có độ chính xác cao nhưng lại có cơ chế nội tại không rõ ràng đối với cả các nhà phát triển lẫn người dùng. Sự thiếu minh bạch mang lại nhiều rủi ro, vì mô hình có thể mắc các lỗi ẩn, thể hiện sự thiên lệch hoặc tạo ra thông tin không đáng tin cậy mà nguyên nhân của chúng không thể hiểu được nếu không có các giải thích phù hợp[2].

Tầm quan trọng và sự cần thiết của XAI

Sự cần thiết của XAI được công nhận bởi cả cộng đồng khoa học lẫn các cơ quan quản lý. Việc phát triển XAI có tầm quan trọng thiết yếu để hiểu hành vi, giới hạn và hệ quả xã hội của các hệ thống AI phức tạp.

  • Sự tin tưởng và chấp nhận công nghệ. Người dùng, đặc biệt trong các lĩnh vực quan trọng như y tế và tài chính, có xu hướng tin tưởng vào các hệ thống có thể lý giải các kết luận của mình. Các giải thích làm tăng tính minh bạch và sự tin tưởng rằng mô hình hoạt động đúng đắn và có đạo đức[3].
  • Phát hiện và giảm thiểu thiên lệch. Khả năng giải thích giúp phát hiện liệu mô hình có dựa trên các tương quan không mong muốn hoặc phi đạo đức trong dữ liệu hay không (ví dụ: liên quan đến chủng tộc, giới tính hoặc độ tuổi). Điều này cho phép các nhà phát triển phát hiện và khắc phục thiên lệch thuật toán[1].
  • Độ tin cậy và tính bền vững. Khả năng diễn giải giúp xác định các điểm yếu của mô hình, bao gồm cả khả năng bị tấn công đối kháng (adversarial attacks), và nâng cao khả năng chịu đựng của mô hình trước các nhiễu loạn nhỏ trong dữ liệu đầu vào.
  • Tuân thủ các yêu cầu quy định. Luật pháp, chẳng hạn như GDPR tại Liên minh Châu Âu, quy định quyền của con người được nhận giải thích cho các quyết định được đưa ra bởi các hệ thống tự động. Chương trình XAI của DARPA (Cơ quan Nghiên cứu Dự án Tiên tiến thuộc Bộ Quốc phòng Hoa Kỳ), được khởi động năm 2017, cũng nhằm mục đích tạo ra các hệ thống AI có khả năng cung cấp cho người dùng các giải thích có thể diễn giải được[4].

Các phương pháp tiếp cận khả năng giải thích của mô hình

Các phương pháp XAI có thể được phân chia thành hai loại lớn: các mô hình có thể diễn giải được, minh bạch "theo thiết kế", và các phương pháp hậu kỳ, giải thích các mô hình loại "hộp đen" sau khi chúng đã được huấn luyện.

Các mô hình có thể diễn giải ("hộp trắng")

Đây là các thuật toán có cấu trúc nội tại về bản chất đơn giản và dễ hiểu đối với con người. Chúng bao gồm:

  • Hồi quy tuyến tính
  • Hồi quy logistic
  • Cây quyết định có độ sâu nhỏ
  • Các mô hình dựa trên quy tắc (Rule-based systems)

Các mô hình như vậy dễ diễn giải, nhưng thường thua kém về độ chính xác so với các mô hình phức tạp hơn (ví dụ: mạng Neural Network sâu) trên các tập dữ liệu phức tạp. Tồn tại sự đánh đổi giữa độ chính xác và khả năng diễn giải[1].

Các phương pháp giải thích hậu kỳ ("hộp đen")

Các phương pháp này được áp dụng cho các mô hình phức tạp đã được huấn luyện mà không thay đổi cấu trúc nội tại của chúng. Chúng tạo ra thông tin bổ sung giúp hiểu được logic của các dự đoán. Các giải thích hậu kỳ được chia thành cục bộ và toàn cục.

Giải thích cục bộ

Các phương pháp cục bộ giải thích một dự đoán riêng lẻ của mô hình cho một ví dụ đầu vào cụ thể.

  • LIME (Local Interpretable Model-agnostic Explanations): Một trong những phương pháp phổ biến nhất. LIME xây dựng một mô hình thay thế đơn giản, có thể diễn giải (ví dụ: hồi quy tuyến tính) trong vùng lân cận cục bộ của một dự đoán cụ thể, xấp xỉ hành vi của mô hình "hộp đen" phức tạp[1].
  • SHAP (SHapley Additive exPlanations): Dựa trên giá trị Shapley từ lý thuyết trò chơi hợp tác. SHAP tính toán đóng góp của từng đặc trưng vào dự đoán cuối cùng, phân phối công bằng "phần thưởng" (sự chênh lệch giữa dự đoán và giá trị trung bình) giữa các đặc trưng. Phương pháp này cung cấp các giải thích có cơ sở lý thuyết và nhất quán[5].
  • Giải thích phản thực tế: Tạo ra các kịch bản "nếu như?". Chúng cho thấy những thay đổi tối thiểu nào trong dữ liệu đầu vào sẽ dẫn đến kết quả khác (ví dụ: "Khoản vay của bạn sẽ được chấp thuận nếu thu nhập hàng năm của bạn cao hơn $5000")[1].

Giải thích toàn cục

Các phương pháp toàn cục nhằm mục đích giải thích logic tổng thể của mô hình hoặc kiến thức của nó nói chung. Chúng bao gồm phân tích tầm quan trọng của đặc trưng trên toàn bộ tập dữ liệu, cũng như trực quan hóa các biểu diễn nội tại của mô hình.

Khả năng giải thích cho các mô hình ngôn ngữ lớn (LLM)

Các mô hình ngôn ngữ lớn đặt ra thách thức đặc biệt và đồng thời mở ra những cơ hội mới cho XAI. Kích thước khổng lồ và độ phức tạp của chúng gây khó khăn cho việc áp dụng các phương pháp truyền thống, nhưng khả năng làm việc với ngôn ngữ tự nhiên lại mở ra những con đường mới để giải thích.

Phân tích cơ chế chú ý (Attention Visualization)

Cơ chế self-attention trong kiến trúc Transformer cho phép trực quan hóa những phần nào của văn bản đầu vào (các token) mà mô hình "chú ý" khi tạo ra câu trả lời. Mặc dù điều này mang lại cái nhìn trực quan về cách thức hoạt động của mô hình, nhưng trong cộng đồng khoa học đang có cuộc tranh luận về việc liệu attention có phải là một giải thích đầy đủ hay không, vì tầm quan trọng cao theo trọng số attention không phải lúc nào cũng có nghĩa là quan hệ nhân quả[6].

Khả năng diễn giải cơ học

Đây là mức độ giải thích sâu nhất, nhằm mục đích thực hiện phân tích ngược hoàn toàn về cách thức hoạt động của mạng Neural Network. Các nhà nghiên cứu cố gắng xác định và hiểu các "mạch" (circuits) cụ thể — các nhóm neuron và các kết nối của chúng, thực hiện các chức năng thuật toán nhất định (ví dụ: nhận dạng cấu trúc cú pháp hoặc tìm kiếm thông tin)[7].

Giải thích qua ngôn ngữ tự nhiên

Khả năng độc đáo của LLM là tự giải thích về bản thân. Sử dụng các kỹ thuật prompting như Chain-of-Thought, người ta có thể buộc mô hình tạo ra các lập luận từng bước dẫn đến kết luận của nó. Điều này làm cho quá trình ra quyết định trở nên minh bạch với người dùng. Tuy nhiên, những giải thích như vậy có thể không đáng tin cậy (unfaithful) — mô hình có thể tạo ra một lập luận có vẻ thuyết phục nhưng sai, không phản ánh quá trình nội tại thực sự của nó[8].

Liên kết ngoài

  • Trang chính thức của chương trình DARPA XAI
  • Tổng quan về Explainable AI từ IBM

Chú thích

  1. ↑ 1.0 1.1 1.2 1.3 1.4 Arrieta, A. B. et al. «Explainable Artificial Intelligence (XAI): Concepts, Taxonomies, Opportunities and Challenges toward Responsible AI». Information Fusion, 2020. [1]
  2. ↑ Zhao, H. et al. «Explainability for Large Language Models: A Survey». arXiv:2309.01512, 2023. [2]
  3. ↑ «What is Explainable AI (XAI)?». IBM. [3]
  4. ↑ «Explainable Artificial Intelligence». DARPA. [4]
  5. ↑ Linardatos, P. et al. «Explainable AI: A Review of Machine Learning Interpretability Methods». Entropy, 2021. [5]
  6. ↑ Jain, S. & Wallace, B. C. «Attention is not Explanation». arXiv:1902.10186, 2019. [6]
  7. ↑ Lan, Q. et al. «Towards Interpretable Sequence Continuation: Analyzing Shared Circuits in Large Language Models». arXiv:2311.04131, 2023. [7]
  8. ↑ Singh, C. et al. «Rethinking Interpretability in the Era of Large Language Models». arXiv:2402.01761, 2024. [8]
Retrieved from "https://systems-analysis.ru/int/index.php?title=Trí_tuệ_nhân_tạo_có_thể_giải_thích&oldid=21082"