Few-shot và Zero-shot
Học với ít ví dụ (Few-shot Learning, FSL) và học không cần ví dụ (Zero-shot Learning, ZSL) — là các mô hình học máy nhằm giải quyết vấn đề thiếu dữ liệu được gán nhãn. Chúng cho phép các mô hình học và khái quát hóa kiến thức dựa trên lượng thông tin rất hạn chế, điều này là yếu tố then chốt để ứng dụng trí tuệ nhân tạo trong các tình huống thực tế khi việc thu thập tập dữ liệu lớn là không thể hoặc không khả thi.
Vấn đề thiếu dữ liệu phổ biến
Các mô hình học sâu hiện đại cho thấy kết quả ấn tượng, nhưng hiệu quả của chúng thường phụ thuộc trực tiếp vào khối lượng dữ liệu được gán nhãn khổng lồ. Việc thu thập và chú thích dữ liệu như vậy là một quá trình tốn kém, tốn nhiều công sức và thường không thể thực hiện được. Vấn đề này, được gọi là "nạn đói thông tin", đặc biệt cấp bách trong các lĩnh vực như:
- Chẩn đoán các bệnh hiếm gặp.
- Sản xuất công nghiệp chuyên biệt.
- Robot học và tương tác với các đối tượng mới.
- Phân loại các sản phẩm hoặc chủ đề mới liên tục xuất hiện.
FSL và ZSL đề xuất giải pháp bằng cách chuyển trọng tâm từ "dữ liệu lớn" sang "dữ liệu thông minh", tập trung vào việc truyền tải và khái quát hóa kiến thức hiệu quả.
Học với ít ví dụ (Few-shot Learning)
Few-shot Learning (FSL) — là một mô hình trong đó mô hình học cách nhận dạng các lớp mới dựa trên số lượng rất nhỏ các ví dụ được gán nhãn (thường từ 1 đến 5), được gọi là tập hỗ trợ (support set).
Ý tưởng chính
Ý tưởng cơ bản của FSL — không chỉ đơn thuần học các đặc trưng cho các lớp cụ thể, mà là học quá trình học (learning to learn). Mô hình phải nhanh chóng thích nghi với các nhiệm vụ mới, chưa từng gặp, sử dụng số lượng ví dụ tối thiểu. Điều này đạt được nhờ sử dụng kiến thức đã có trước và các chiến lược thích nghi.
Các phương pháp chính trong FSL
- Meta-learning («Học cách học»): Đây là mô hình chi phối trong FSL. Mô hình được huấn luyện trên nhiều nhiệm vụ đa dạng để học cách thích nghi hiệu quả với các nhiệm vụ mới.
- Dựa trên độ đo (metric-based): Các mô hình (ví dụ: mạng Siamese hoặc mạng nguyên mẫu) học cách xây dựng không gian embedding, trong đó khoảng cách giữa các vector phản ánh sự gần gũi về ngữ nghĩa. Việc phân loại một ví dụ mới được thực hiện bằng cách so sánh embedding của nó với các embedding trong tập hỗ trợ.
- Dựa trên tối ưu hóa (optimization-based): Các mô hình (ví dụ: MAML) học cách tìm khởi tạo tham số sao cho cho phép tinh chỉnh nhanh chóng (chỉ qua vài bước gradient descent) cho nhiệm vụ mới.
- Học trong ngữ cảnh (In-Context Learning): Với sự xuất hiện của các mô hình ngôn ngữ lớn (LLM), phương pháp trong đó các ví dụ từ tập hỗ trợ được cung cấp trực tiếp cho mô hình trong prompt đã trở nên phổ biến. Mô hình thực hiện "meta-learning ngầm" trong quá trình suy luận, thích nghi với nhiệm vụ mà không cập nhật trọng số.
Các phương pháp mở rộng trong FSL
- One-shot Learning: Đây là trường hợp đặc biệt của FSL khi số lượng ví dụ cho mỗi lớp bằng một (K=1 trong ký hiệu "N-way K-shot"). Các ví dụ kiến trúc điển hình là Matching Networks và Siamese Networks.
- Các phương pháp sinh (generative) và tăng cường dữ liệu: FSL tích cực sử dụng các mô hình sinh (GAN, VAE, mô hình khuếch tán) để tổng hợp các ví dụ dữ liệu bổ sung. Điều này cho phép mở rộng nhân tạo tập hỗ trợ và cải thiện chất lượng phân loại, đặc biệt với các lớp hiếm hoặc bất thường.
- FSL quy nạp chuyển đổi (Transductive FSL): Khác với phương pháp tiêu chuẩn (quy nạp), ở đây mô hình khi thích nghi xem xét không chỉ tập hỗ trợ được gán nhãn mà còn toàn bộ tập hợp các ví dụ kiểm tra chưa được gán nhãn (truy vấn). Điều này cho phép nắm bắt cấu trúc dữ liệu trong các truy vấn, ví dụ bằng các kỹ thuật lan truyền nhãn (label propagation), và tăng độ ổn định của phân loại.
Học không cần ví dụ (Zero-shot Learning)
Zero-shot Learning (ZSL) — là một mô hình trong đó mô hình có khả năng nhận dạng các lớp mà nó chưa từng thấy một ví dụ nào trong quá trình huấn luyện.
Ý tưởng chính
Điều này đạt được nhờ sử dụng thông tin ngữ nghĩa phụ trợ, mô tả cả các lớp đã thấy lẫn chưa thấy. Mô hình học cách ánh xạ từ không gian đặc trưng đầu vào (ví dụ: hình ảnh) sang không gian ngữ nghĩa chung.
Cơ chế thông tin ngữ nghĩa
- Thuộc tính ngữ nghĩa: Các lớp được mô tả bằng tập hợp các thuộc tính do con người định nghĩa (ví dụ: đối với lớp «ngựa vằn»: [có_sọc, có_móng, là_động_vật_có_vú]).
- Biểu diễn vector của từ (Word Embeddings): Tên các lớp hoặc mô tả văn bản của chúng được chuyển đổi thành embedding bằng các mô hình ngôn ngữ được huấn luyện trước (ví dụ: Word2Vec, BERT).
- Prompting trong LLM: Với sự xuất hiện của các mô hình đa phương thức như CLIP, ZSL có thể được thực hiện bằng cách so sánh embedding của hình ảnh với các embedding của mô tả văn bản về các lớp (ví dụ: «ảnh chụp con chó», «ảnh chụp con mèo»).
Các loại ZSL: Truyền thống, Tổng quát, Quy nạp và Chuyển đổi
- ZSL truyền thống: Trong giai đoạn kiểm tra, mô hình phải phân loại các ví dụ chỉ từ các lớp chưa thấy.
- ZSL tổng quát (Generalized ZSL, GZSL): Kịch bản thực tế hơn và phức tạp hơn, trong đó mô hình phải phân loại các ví dụ từ cả các lớp đã thấy lẫn chưa thấy. Điều này đòi hỏi mô hình không chỉ nhận dạng điều mới mà còn phân biệt nó với những gì đã quen thuộc, chống lại sự thiên lệch về phía các lớp đã thấy.
- ZSL quy nạp (Inductive ZSL): Cài đặt tiêu chuẩn, trong đó mô hình chỉ được huấn luyện trên dữ liệu và mô tả ngữ nghĩa của các lớp đã thấy, không có bất kỳ quyền truy cập nào vào thông tin về các lớp chưa thấy.
- ZSL chuyển đổi (Transductive ZSL): Sơ đồ nâng cao hơn, trong đó mô hình trong quá trình huấn luyện có thể sử dụng các ví dụ chưa được gán nhãn từ các lớp chưa thấy. Điều này cho phép thích nghi trước không gian ngữ nghĩa và cải thiện chất lượng cuối cùng.
Các phương pháp sinh trong ZSL
- Tạo ra đặc trưng của các lớp chưa thấy: Để giải quyết vấn đề thiên lệch trong GZSL, các mô hình sinh (VAE, GAN) được sử dụng rộng rãi. Chúng tổng hợp không phải bản thân hình ảnh mà là các vector đặc trưng (embedding) cho các lớp chưa thấy dựa trên mô tả ngữ nghĩa của chúng. Điều này cho phép cân bằng tập dữ liệu để huấn luyện bộ phân loại cuối cùng.
Phân tích so sánh và sự cộng hưởng
| Khía cạnh | Học với ít ví dụ (FSL) | Học không cần ví dụ (ZSL) |
|---|---|---|
| Ý tưởng chính | Học cách nhanh chóng thích nghi với các lớp mới dựa trên một vài ví dụ. | Học cách nhận dạng các lớp mới dựa trên mô tả ngữ nghĩa của chúng. |
| Yêu cầu dữ liệu cho nhiệm vụ/lớp mới | Một vài ví dụ được gán nhãn (1-5) cho mỗi lớp mới. | Không có ví dụ được gán nhãn; yêu cầu mô tả ngữ nghĩa. |
| Chuyển giao kiến thức | Học kiến thức thủ tục («cách thích nghi») hoặc không gian đặc trưng tốt. | Học các quan hệ ngữ nghĩa và thuộc tính, chuyển giao kiến thức qua không gian ngữ nghĩa chung. |
| Các trường hợp sử dụng điển hình | Tạo mẫu nhanh, cá nhân hóa, nhận dạng đối tượng hiếm, robot học. | Phát hiện các loài mới, phân loại các chủ đề mới nổi, xử lý các loại sản phẩm hoàn toàn mới. |
Các sắc thái quan trọng và xu hướng hiện đại
- Sự khác biệt giữa Zero-shot Learning và Zero-shot Prompting: Điều quan trọng là phân biệt các khái niệm này. ZSL là một mô hình kiến trúc của học máy, đòi hỏi mô hình chuyên biệt và thông tin ngữ nghĩa. Zero-shot Prompting là một kỹ thuật ứng dụng của prompt engineering, trong đó mô hình ngôn ngữ lớn (ví dụ: GPT-4) giải quyết nhiệm vụ mà không có ví dụ trong prompt, chỉ dựa trên kiến thức nội tại của nó.
- Vai trò của tiền huấn luyện quy mô lớn: Thành công hiện đại của FSL và ZSL phần lớn được tạo điều kiện bởi các mô hình nền tảng mạnh mẽ (BERT, CLIP, GPT-4). Việc tiền huấn luyện của chúng trên khối lượng dữ liệu khổng lồ tạo ra một embedding frontend phổ quát và giàu ngữ nghĩa, đóng vai trò là nền tảng xuất sắc cho sự thích nghi nhanh chóng và suy luận ngữ nghĩa trong điều kiện thiếu dữ liệu.
FSL và ZSL đại diện cho các điểm khác nhau trên phổ hiệu quả sử dụng dữ liệu và thường được sử dụng kết hợp. Ví dụ, ZSL có thể được sử dụng để khởi tạo các biểu diễn, sau đó được tinh chỉnh bằng FSL khi các ví dụ đầu tiên của lớp mới xuất hiện.
Các tổ chức nghiên cứu và người tham gia chính
Nghiên cứu trong lĩnh vực FSL và ZSL đang được tiến hành tích cực cả trong giới học thuật lẫn các phòng thí nghiệm công nghiệp.
- Các trường đại học: Đại học Stanford, Đại học Bắc Kinh, Đại học Quốc gia Singapore.
- Các phòng thí nghiệm công nghiệp: Google AI, Meta AI, OpenAI.
Với sự xuất hiện của các mô hình nền tảng mạnh mẽ, trọng tâm nghiên cứu đã chuyển từ phát triển các kiến trúc chuyên biệt cho FSL/ZSL sang các phương pháp thích nghi hiệu quả các mô hình này.
Tài liệu tham khảo
- Finn, C. et al. (2017). Model-Agnostic Meta-Learning for Fast Adaptation of Deep Networks. arXiv:1703.03400.
- Koch, G. et al. (2015). Siamese Neural Networks for One-Shot Image Recognition. PDF.
- Vinyals, O. et al. (2016). Matching Networks for One Shot Learning. arXiv:1606.04080.
- Snell, J. et al. (2017). Prototypical Networks for Few-Shot Learning. arXiv:1703.05175.
- Sung, F. et al. (2018). Learning to Compare: Relation Network for Few-Shot Learning. arXiv:1711.06025.
- Chen, Y. et al. (2021). Meta-Baseline: Exploring Simple Meta-Learning for Few-Shot Learning. arXiv:2003.04390.
- Wang, Y. et al. (2020). Generalizing from a Few Examples: A Survey on Few-Shot Learning. arXiv:1904.05046.
- Xian, Y. et al. (2018). Zero-Shot Learning — A Comprehensive Evaluation of the State of the Art. arXiv:1707.00600.
- Verma, V. K. et al. (2018). Generalized Zero-Shot Learning via Synthesized Examples. arXiv:1712.03878.
- Radford, A. et al. (2021). Learning Transferable Visual Models from Natural Language Supervision. arXiv:2103.00020.
- Xian, Y. et al. (2019). Zero-Shot Learning via Simultaneous Generating and Learning. arXiv:1910.09446.
- Verma, V. K. et al. (2017). Zero-Shot Learning via Generative Adversarial Training of Class-Conditional Feature Vectors. arXiv:1712.00981.
Xem thêm
- Các mô hình ngôn ngữ lớn