Thuật ngữ "underfitting" trong học máy đề cập đến tình huống nào?

Batch normalization là một kỹ thuật được sử dụng trong các mạng nơ-ron sâu để ổn định quá trình huấn luyện và cho phép sử dụng tốc độ học lớn hơn. Nó giải quyết vấn đề gradient vanishing/exploding bằng cách chuẩn hóa các activations của các lớp trong mạng, đảm bảo rằng các activations này có trung bình gần bằng 0 và phương sai gần bằng 1. Điều này giúp giảm sự phụ thuộc của mạng vào việc khởi tạo các tham số và cho phép các gradient truyền qua mạng một cách hiệu quả hơn. Do đó, đáp án đúng là C. Gradient vanishing/exploding.

Trong học máy, "ensemble learning" (học tập tổ hợp) là một kỹ thuật kết hợp nhiều mô hình học máy (ví dụ: các mô hình phân loại hoặc hồi quy) để tạo ra một mô hình dự đoán mạnh mẽ hơn so với việc sử dụng một mô hình duy nhất. Ý tưởng chính là các mô hình khác nhau có thể mắc các lỗi khác nhau, và bằng cách kết hợp chúng, ta có thể giảm thiểu sai sót tổng thể và cải thiện độ chính xác.

Phương án A mô tả chính xác định nghĩa của ensemble learning.

Phương án B không đúng vì ensemble learning tập trung vào việc kết hợp các mô hình, không phải các tập dữ liệu (mặc dù dữ liệu khác nhau có thể được sử dụng để huấn luyện các mô hình khác nhau trong ensemble).

Phương án C không đúng vì ensemble learning không nhất thiết tạo ra các mô hình phức tạp hơn; nó kết hợp các mô hình (đơn giản hoặc phức tạp) đã có.

Phương án D không đúng vì chọn siêu tham số là một phần của việc xây dựng mô hình riêng lẻ, không phải là định nghĩa của ensemble learning.

"Reinforcement learning" trong tiếng Anh có nghĩa là "học củng cố". Đây là một phương pháp học máy, trong đó một tác nhân (agent) học cách đưa ra quyết định bằng cách thực hiện các hành động trong một môi trường để tối đa hóa phần thưởng tích lũy. Do đó, đáp án chính xác là C. Học củng cố

Backpropagation (lan truyền ngược) là một thuật toán quan trọng trong học sâu, được sử dụng để tính toán gradient của hàm mất mát (loss function) đối với các trọng số của mạng neural. Gradient này sau đó được sử dụng để cập nhật các trọng số thông qua các phương pháp tối ưu hóa như gradient descent, nhằm mục đích giảm thiểu hàm mất mát và cải thiện hiệu suất của mạng. Do đó, đáp án chính xác là tối ưu hóa các tham số của mạng neural.

"Bias-variance tradeoff" trong học máy đề cập đến việc cân bằng giữa hai nguồn lỗi chính ảnh hưởng đến khả năng tổng quát hóa của một mô hình. Bias (độ chệch) thể hiện mức độ mà mô hình bỏ qua các mối quan hệ thực sự giữa các đặc trưng và biến mục tiêu (underfitting). Variance (phương sai) thể hiện mức độ nhạy cảm của mô hình đối với những thay đổi nhỏ trong tập dữ liệu huấn luyện (overfitting).

• Phương án A đúng: Sự đánh đổi giữa độ phức tạp của mô hình và khả năng tổng quát hóa. Mô hình quá đơn giản (high bias) sẽ không nắm bắt được các mối quan hệ phức tạp trong dữ liệu, dẫn đến sai số lớn trên cả tập huấn luyện và tập kiểm tra. Mô hình quá phức tạp (high variance) sẽ khớp quá chặt với dữ liệu huấn luyện, bao gồm cả nhiễu, và hoạt động kém trên dữ liệu mới. Việc tìm ra sự cân bằng phù hợp giữa độ phức tạp và khả năng tổng quát hóa là mục tiêu của "bias-variance tradeoff".
• Phương án B sai: Độ chính xác và tốc độ là các khía cạnh quan trọng của mô hình, nhưng không phải là trọng tâm chính của "bias-variance tradeoff".
• Phương án C sai: Việc học từ dữ liệu được gán nhãn và không được gán nhãn liên quan đến học bán giám sát và học không giám sát, không trực tiếp liên quan đến "bias-variance tradeoff".
• Phương án D sai: Việc sử dụng các thuật toán khác nhau có thể ảnh hưởng đến bias và variance, nhưng "bias-variance tradeoff" là một khái niệm chung áp dụng cho tất cả các mô hình học máy, không chỉ là sự lựa chọn thuật toán.