Trong học máy, "cross-entropy loss" là gì?

Một hàm mất mát thường được sử dụng trong bài toán phân loại, tính toán sự chênh lệch giữa phân phối dự đoán và phân phối thực tế của các lớp.

Một phương pháp để tạo ra các mẫu dữ liệu mới từ dữ liệu ban đầu.

Một phương pháp để chuyển đổi dữ liệu đầu vào thành dạng phù hợp cho mạng neural.

Một kỹ thuật tối ưu hóa cho mô hình học sâu.

Trả lời:

Đáp án đúng: A

Cross-entropy loss là một hàm mất mát (loss function) thường được sử dụng trong các bài toán phân loại (classification). Nó đo lường sự khác biệt giữa phân phối xác suất dự đoán của mô hình và phân phối xác suất thực tế của các lớp. Hàm cross-entropy loss càng nhỏ, mô hình dự đoán càng chính xác. Các lựa chọn khác không mô tả đúng về cross-entropy loss.

100+ câu hỏi trắc nghiệm Học máy đáp án và lời giải minh họa - Phần 2

50 câu hỏi 60 phút

Bắt đầu thi

Câu hỏi liên quan

Câu 26:

Trong học máy, "learning rate" là gì?

Lời giải:

Đáp án đúng: B

Trong học máy, "learning rate" (tốc độ học) là một siêu tham số (hyperparameter) quan trọng quyết định kích thước của các bước mà thuật toán tối ưu hóa (ví dụ: Gradient Descent) thực hiện để cập nhật các tham số của mô hình (ví dụ: trọng số trong mạng neural) trong quá trình huấn luyện. Nếu learning rate quá lớn, mô hình có thể dao động và không hội tụ được đến điểm tối ưu. Nếu learning rate quá nhỏ, quá trình huấn luyện có thể diễn ra rất chậm. Do đó, đáp án B là chính xác: Tốc độ mà mô hình học từ dữ liệu huấn luyện, tỉ lệ cập nhật các tham số của mạng neural.

Câu 27:

Trong học máy, "momentum" là gì?

Lời giải:

Đáp án đúng: C

Momentum trong học máy, đặc biệt là trong tối ưu hóa các mô hình học sâu, là một kỹ thuật giúp tăng tốc quá trình hội tụ và tránh bị mắc kẹt trong các cực trị địa phương. Nó hoạt động bằng cách thêm một phần của vectơ cập nhật từ bước trước vào vectơ cập nhật hiện tại. Điều này giống như việc một quả bóng lăn xuống một ngọn đồi; nó sẽ tích lũy vận tốc (momentum) và tiếp tục di chuyển theo hướng đó, ngay cả khi độ dốc thay đổi. Vì vậy, đáp án B là chính xác nhất. Đáp án A đúng một phần nhưng không đầy đủ, vì momentum là một *kỹ thuật* trong tối ưu hóa, chứ không phải một phương pháp tối ưu hóa hoàn toàn độc lập. Đáp án C sai vì momentum là một *hệ số* điều chỉnh ảnh hưởng của các gradient trước đó, chứ không phải tốc độ học (learning rate) trực tiếp. Đáp án D sai vì nó mô tả một phương pháp tiền xử lý dữ liệu, không liên quan đến momentum.

Câu 28:

Trong học máy, để giảm số chiều của dữ liệu mà vẫn giữ được các đặc trưng quan trọng, ta thường sử dụng phương pháp nào?

Lời giải:

Đáp án đúng: A

Phương pháp giảm số chiều dữ liệu nhằm mục đích giảm số lượng biến đầu vào trong một tập dữ liệu trong khi vẫn giữ lại thông tin quan trọng. Trong các lựa chọn được đưa ra:

- PCA (Principal Component Analysis): Là một kỹ thuật giảm chiều phổ biến. Nó tìm các thành phần chính, là các hướng mà dữ liệu có phương sai lớn nhất, và sử dụng chúng để biểu diễn dữ liệu trong một không gian có số chiều thấp hơn.
- K-Means Clustering: Là một thuật toán phân cụm, không phải là một phương pháp giảm chiều.
- SVM (Support Vector Machine): Là một thuật toán phân loại và hồi quy, không trực tiếp liên quan đến giảm chiều.
- Decision Trees: Là một mô hình cây quyết định, có thể được sử dụng cho phân loại hoặc hồi quy, nhưng không phải là một phương pháp giảm chiều chính thống.

Do đó, PCA là phương pháp phù hợp nhất để giảm số chiều của dữ liệu trong khi vẫn giữ được các đặc trưng quan trọng.

Câu 29:

Trong học máy, thuật toán nào được sử dụng để tìm cực trị của hàm mất mát?

Lời giải:

Đáp án đúng: A

Câu hỏi này kiểm tra kiến thức về các thuật toán học máy và mục đích sử dụng của chúng.

* A. Gradient Descent: Đây là một thuật toán tối ưu hóa được sử dụng rộng rãi để tìm cực tiểu của hàm mất mát trong học máy. Thuật toán này thực hiện việc lặp đi lặp lại để điều chỉnh các tham số của mô hình theo hướng ngược lại với gradient của hàm mất mát, cho đến khi đạt được một điểm cực tiểu (hoặc gần cực tiểu).
* B. K-Means Clustering: Đây là một thuật toán phân cụm, dùng để nhóm các điểm dữ liệu thành các cụm dựa trên khoảng cách giữa chúng. Nó không liên quan đến việc tìm cực trị của hàm mất mát.
* C. Decision Trees: Đây là một thuật toán học có giám sát được sử dụng cho cả bài toán phân loại và hồi quy. Cây quyết định xây dựng mô hình bằng cách phân chia dữ liệu dựa trên các thuộc tính khác nhau, nhưng không trực tiếp tìm cực trị của hàm mất mát.
* D. K-Nearest Neighbors: Đây là một thuật toán học có giám sát lười biếng (lazy learning) sử dụng khoảng cách để phân loại hoặc dự đoán các điểm dữ liệu mới dựa trên các điểm dữ liệu gần nhất trong tập huấn luyện. Nó không liên quan đến việc tìm cực trị của hàm mất mát.

Do đó, đáp án đúng là A. Gradient Descent.

Câu 30:

Trong mô hình mạng nơ-ron nhân tạo (ANN), hàm activation function sigmoid có giá trị thuộc khoảng nào?

Lời giải:

Đáp án đúng: B

Hàm sigmoid, còn được gọi là hàm logistic, có công thức là σ(x) = 1 / (1 + e^(-x)). Khi x tiến đến -∞, e^(-x) tiến đến +∞, do đó σ(x) tiến đến 0. Khi x tiến đến +∞, e^(-x) tiến đến 0, do đó σ(x) tiến đến 1. Vì vậy, giá trị của hàm sigmoid luôn nằm trong khoảng (0, 1).

Câu 31:

Đối với thuật toán K-Means, việc chọn số lượng cụm (clusters) thích hợp được gọi là gì?

Lời giải: