Trong học máy, "grid search" là gì?

Dropout là một kỹ thuật regularization (chính quy hóa) được sử dụng trong mạng neural (mạng nơ-ron) để ngăn chặn overfitting (quá khớp). Trong quá trình huấn luyện, dropout hoạt động bằng cách ngẫu nhiên loại bỏ một số nơ-ron (đơn vị) cùng với các kết nối của chúng. Việc này buộc mạng phải học các đặc trưng một cách phân tán hơn, làm giảm sự phụ thuộc vào một nơ-ron cụ thể nào đó. Do đó, đáp án C là chính xác.

Backpropagation (lan truyền ngược) là một thuật toán quan trọng trong học máy, đặc biệt là trong việc huấn luyện mạng neural. Mục tiêu của nó là tính toán gradient của hàm mất mát (loss function) đối với các trọng số (weights) của mạng. Gradient này cho biết mức độ mà việc thay đổi mỗi trọng số sẽ ảnh hưởng đến sai số của mô hình. Sau đó, thông tin gradient này được lan truyền ngược từ lớp đầu ra về các lớp trước đó để cập nhật các trọng số, giúp giảm thiểu sai số và cải thiện độ chính xác của mô hình.

Phương án A không chính xác vì nó mô tả một kỹ thuật tiền xử lý dữ liệu, không phải là backpropagation. Phương án B không hoàn toàn chính xác. Mặc dù backpropagation được sử dụng trong quá trình tối ưu hóa mô hình học sâu, nhưng nó không phải là phương pháp tối ưu hóa mà là một phần của quá trình này (cụ thể là tính gradient). Phương án D không chính xác vì nó mô tả một kỹ thuật tăng cường dữ liệu (data augmentation), không liên quan đến backpropagation.

Phương án C mô tả chính xác chức năng của backpropagation.

Thuật toán K-means là một thuật toán phân cụm, tức là nó cố gắng nhóm các điểm dữ liệu thành các cụm dựa trên sự tương đồng của chúng. Trong quá trình này, thuật toán không được cung cấp bất kỳ nhãn hoặc thông tin trước nào về các nhóm. Do đó, nó thuộc loại bài toán học không giám sát, vì học không giám sát là loại học máy mà thuật toán tự tìm ra cấu trúc ẩn trong dữ liệu mà không cần nhãn.

Pooling layer thường được sử dụng để giảm kích thước của đầu vào trong mạng nơ-ron. Các layer khác có chức năng khác: Activation layer áp dụng hàm kích hoạt, Dropout layer ngăn chặn overfitting, và Dense layer là fully connected layer.

Hàm Sigmoid thường được sử dụng trong các bài toán phân loại nhị phân vì nó cho ra giá trị trong khoảng (0, 1), có thể được hiểu là xác suất thuộc về một trong hai lớp. Các hàm Tanh, ReLU và Leaky ReLU ít được sử dụng trực tiếp cho đầu ra của bài toán phân loại nhị phân hơn (mặc dù có thể được sử dụng trong các lớp ẩn).