Quá trình chuyển từ sang dạng gốc hay dạng cơ bản được gọi là gì?

Mô hình Markov ẩn (HMM) là một thuật toán xác suất thống kê thường được sử dụng trong nhận dạng thực thể được đặt tên (Named Entity Recognition - NER). HMM đặc biệt hữu ích để mô hình hóa chuỗi các sự kiện, trong đó mỗi sự kiện phụ thuộc vào một số sự kiện trước đó. Trong NER, HMM có thể được sử dụng để xác định chuỗi các từ tạo thành một thực thể được đặt tên, dựa trên các đặc điểm và ngữ cảnh của chúng. Các thuật toán khác như phân cụm K-mean, Apriori và cây quyết định không phù hợp trực tiếp cho nhiệm vụ NER.

Mô hình Bag-of-Words (BoW) trong NLP (Xử lý ngôn ngữ tự nhiên) được sử dụng chủ yếu để biểu diễn một văn bản (ví dụ: một câu, một đoạn văn, hoặc một tài liệu) như một tập hợp không có thứ tự các từ của nó, bỏ qua ngữ pháp và thậm chí cả thứ tự từ, nhưng vẫn giữ lại thông tin về tần suất xuất hiện của mỗi từ. Mục đích chính của nó là tạo ra một vectơ đại diện cho văn bản dựa trên tần số của các từ, cho phép các thuật toán học máy xử lý và phân tích văn bản đó. Vì vậy, đáp án B "Để tính tần số từ" là chính xác nhất, mặc dù đáp án A "Biểu diễn các từ dưới dạng vectơ" cũng đúng, nhưng nó mô tả kết quả của việc tính tần số từ, chứ không phải mục đích chính của mô hình BoW.

NLTK (Natural Language Toolkit) là một thư viện Python phổ biến và mạnh mẽ, cung cấp một bộ công cụ toàn diện cho các tác vụ xử lý ngôn ngữ tự nhiên (NLP). Nó bao gồm các công cụ để phân tích cú pháp, phân tích ngữ nghĩa, gắn thẻ POS, tách từ, và nhiều hơn nữa. TensorFlow và PyTorch là các thư viện học sâu thường được sử dụng trong NLP, nhưng chúng không phải là các thư viện NLP chuyên dụng. Scikit-learn là một thư viện học máy đa năng, nhưng nó không tập trung vào NLP.

Từ dừng (stop word) là những từ phổ biến, thường gặp trong văn bản, nhưng lại ít mang ý nghĩa về mặt nội dung và thường bị loại bỏ trong quá trình xử lý ngôn ngữ tự nhiên để tăng hiệu quả. Các từ như "các", "là", "thì", "mà", "ở",... là những ví dụ điển hình. Trong các lựa chọn trên, "các" là một từ dừng, trong khi danh từ, động từ và tính từ mang nhiều ý nghĩa nội dung hơn.

Mô hình hóa ngôn ngữ (A) là kỹ thuật được sử dụng để dự đoán xác suất của một chuỗi từ trong một ngữ cảnh nhất định. Nó gán xác suất cho các chuỗi từ, cho phép dự đoán từ tiếp theo trong một câu hoặc đánh giá tính hợp lệ của một câu. Các lựa chọn khác không phù hợp vì:

• Nhận dạng thực thể được đặt tên (B): Liên quan đến việc xác định và phân loại các thực thể có tên trong văn bản (ví dụ: tên người, tổ chức, địa điểm).
• Phân tích tình cảm (C): Xác định tông giọng hoặc cảm xúc được thể hiện trong văn bản (ví dụ: tích cực, tiêu cực, trung tính).
• Dịch máy (D): Chuyển đổi văn bản từ ngôn ngữ này sang ngôn ngữ khác.