Thuật toán nào thường được sử dụng để phân tích cảm tính?

Cơ chế chú ý (Attention Mechanism) trong mạng nơ-ron được thiết kế để tập trung vào những phần thông tin liên quan nhất trong một chuỗi dữ liệu đầu vào. Thay vì xử lý tất cả thông tin một cách đồng đều, nó cho phép mô hình ưu tiên và chú trọng hơn vào những thông tin quan trọng đối với nhiệm vụ hiện tại. Do đó, đáp án C là chính xác. Các đáp án khác không phải là mục đích chính của cơ chế chú ý.

Sequence labeling là việc gán nhãn cho từng phần tử trong một chuỗi. NER, POS tagging, và chunking đều là các ví dụ, trong đó mỗi từ hoặc cụm từ được gán một nhãn. Phân tích tình cảm, ngược lại, gán một nhãn duy nhất cho toàn bộ văn bản, do đó nó không phải là sequence labeling.

Phân tích phụ thuộc (Dependency parsing) là kỹ thuật xác định cấu trúc cú pháp của một câu bằng cách phân tích mối quan hệ phụ thuộc giữa các từ trong câu đó. Các từ được liên kết với nhau theo mối quan hệ chủ-vị, tân ngữ, bổ ngữ, v.v. để tạo thành cấu trúc cú pháp hoàn chỉnh. Các lựa chọn khác không liên quan trực tiếp đến việc xác định cấu trúc cú pháp: phân tích tình cảm (sentiment analysis) xác định cảm xúc trong văn bản, phân loại văn bản (text classification) gán nhãn cho văn bản, và nhận dạng thực thể được đặt tên (named entity recognition) xác định các thực thể như tên người, tổ chức, địa điểm trong văn bản.

Phương pháp hiệu quả để giải quyết vấn đề từ ngoài từ vựng (out-of-vocabulary - OOV) trong mô hình hóa ngôn ngữ là sử dụng mã hóa cặp byte (Byte Pair Encoding - BPE). BPE là một thuật toán nén dữ liệu đơn giản, lặp đi lặp lại việc thay thế cặp byte phổ biến nhất trong một chuỗi bằng một byte đơn lẻ mới. Trong mô hình hóa ngôn ngữ, BPE được sử dụng để tạo ra một vốn từ vựng con (subword vocabulary) từ dữ liệu huấn luyện, giúp mô hình xử lý các từ OOV bằng cách chia chúng thành các đơn vị con (subwords) đã biết. Các phương án khác không phù hợp: giải mã ý nghĩa của từ không trực tiếp giải quyết vấn đề OOV, mạng từ là một loại cơ sở dữ liệu từ vựng, và nhận dạng thực thể được đặt tên liên quan đến việc xác định các thực thể có tên trong văn bản, không giải quyết vấn đề từ OOV.

Dịch ngược (Back-translation) là một kỹ thuật phổ biến được sử dụng để cải thiện hiệu suất của các mô hình dịch máy bằng cách tận dụng dữ liệu đơn ngữ. Quá trình này bao gồm dịch một câu từ ngôn ngữ đích sang ngôn ngữ nguồn, sau đó sử dụng câu đã dịch này như một cặp dữ liệu song ngữ bổ sung để huấn luyện mô hình. Các phương án khác không trực tiếp liên quan đến việc sử dụng dữ liệu đơn ngữ để cải thiện hiệu suất dịch máy một cách hiệu quả như dịch ngược. Chuyển giao học tập (Transfer learning) sử dụng kiến thức từ các nhiệm vụ khác, học tăng cường (Reinforcement learning) sử dụng phần thưởng để huấn luyện, và tăng cường dữ liệu (Data augmentation) tạo ra các biến thể của dữ liệu hiện có, nhưng không tập trung vào việc dịch ngược để tạo dữ liệu song ngữ từ dữ liệu đơn ngữ.