Kỹ thuật nào sau đây thường được sử dụng trong nhiệm vụ phân loại văn bản?

Quá trình chuyển đổi một từ về dạng gốc hay dạng cơ bản của nó (ví dụ: "running" về "run") được gọi là "lemmatization" trong tiếng Anh. Trong tiếng Việt, thuật ngữ tương ứng và được sử dụng phổ biến là "Từ ngữ hóa". Các lựa chọn khác không phù hợp vì:

• "Mã thông báo" (Tokenization) là quá trình chia một chuỗi văn bản thành các đơn vị nhỏ hơn (tokens).


• "Thân cây" (Stemming) là một kỹ thuật rút gọn từ về dạng gốc bằng cách loại bỏ các hậu tố hoặc tiền tố, nhưng không đảm bảo từ gốc là một từ có nghĩa.


• "Gắn thẻ một phần của bài phát biểu" (Part-of-speech tagging) là quá trình gán nhãn ngữ pháp cho mỗi từ trong một câu.

Mô hình Markov ẩn (HMM) là một thuật toán xác suất thống kê thường được sử dụng trong nhận dạng thực thể được đặt tên (Named Entity Recognition - NER). HMM đặc biệt hữu ích để mô hình hóa chuỗi các sự kiện, trong đó mỗi sự kiện phụ thuộc vào một số sự kiện trước đó. Trong NER, HMM có thể được sử dụng để xác định chuỗi các từ tạo thành một thực thể được đặt tên, dựa trên các đặc điểm và ngữ cảnh của chúng. Các thuật toán khác như phân cụm K-mean, Apriori và cây quyết định không phù hợp trực tiếp cho nhiệm vụ NER.

Mô hình Bag-of-Words (BoW) trong NLP (Xử lý ngôn ngữ tự nhiên) được sử dụng chủ yếu để biểu diễn một văn bản (ví dụ: một câu, một đoạn văn, hoặc một tài liệu) như một tập hợp không có thứ tự các từ của nó, bỏ qua ngữ pháp và thậm chí cả thứ tự từ, nhưng vẫn giữ lại thông tin về tần suất xuất hiện của mỗi từ. Mục đích chính của nó là tạo ra một vectơ đại diện cho văn bản dựa trên tần số của các từ, cho phép các thuật toán học máy xử lý và phân tích văn bản đó. Vì vậy, đáp án B "Để tính tần số từ" là chính xác nhất, mặc dù đáp án A "Biểu diễn các từ dưới dạng vectơ" cũng đúng, nhưng nó mô tả kết quả của việc tính tần số từ, chứ không phải mục đích chính của mô hình BoW.

NLTK (Natural Language Toolkit) là một thư viện Python phổ biến và mạnh mẽ, cung cấp một bộ công cụ toàn diện cho các tác vụ xử lý ngôn ngữ tự nhiên (NLP). Nó bao gồm các công cụ để phân tích cú pháp, phân tích ngữ nghĩa, gắn thẻ POS, tách từ, và nhiều hơn nữa. TensorFlow và PyTorch là các thư viện học sâu thường được sử dụng trong NLP, nhưng chúng không phải là các thư viện NLP chuyên dụng. Scikit-learn là một thư viện học máy đa năng, nhưng nó không tập trung vào NLP.