Tìm kiếm đặc trưng theo chiến lược Heuristic có đặc điểm gì?

Chiến lược Heuristic trong tìm kiếm đặc trưng là một phương pháp tiếp cận giải quyết vấn đề bằng cách sử dụng các quy tắc hoặc kinh nghiệm đã biết để đưa ra quyết định. Nó không đảm bảo tìm thấy giải pháp tối ưu, mà tập trung vào việc tìm kiếm một giải pháp chấp nhận được trong một khoảng thời gian hợp lý. Do đó, tìm kiếm đặc trưng theo chiến lược Heuristic thường chỉ tìm được tập đặc trưng con cận tối ưu, chứ không phải là tối ưu tuyệt đối hay chỉ tốt hơn tập đặc trưng gốc một cách đơn thuần.

Overfitting xảy ra khi mô hình học quá kỹ các chi tiết và nhiễu trong dữ liệu huấn luyện, dẫn đến việc mô hình hoạt động tốt trên dữ liệu huấn luyện nhưng kém trên dữ liệu mới.

A. Dữ liệu mất cân bằng có thể dẫn đến việc mô hình bị bias về phía lớp chiếm ưu thế, nhưng không trực tiếp gây ra overfitting. B. Nhiễu trong dữ liệu là một nguyên nhân chính gây ra overfitting. Mô hình cố gắng học cả những điểm nhiễu này, làm giảm khả năng khái quát hóa. C. Dữ liệu có độ biến đổi cao (high variance) cũng là một yếu tố góp phần vào overfitting. Mô hình phức tạp có thể cố gắng khớp với mọi biến động nhỏ trong dữ liệu huấn luyện.

Do đó, cả nhiễu trong dữ liệu và độ biến đổi cao đều góp phần vào overfitting, khiến D là đáp án đúng. Dữ liệu mất cân bằng cũng có thể ảnh hưởng đến hiệu suất mô hình, nhưng nó không phải là nguyên nhân trực tiếp gây ra overfitting như hai yếu tố còn lại.

Mạng CNN (Convolutional Neural Network) thường bao gồm các thành phần cơ bản sau:

1. Convolutional layers (Lớp tích chập): Thực hiện việc trích xuất đặc trưng từ dữ liệu đầu vào thông qua các bộ lọc (filters) hoặc kernels.

2. Pooling layers (Lớp gộp): Giảm kích thước không gian của các đặc trưng đã trích xuất, giúp giảm số lượng tham số và kiểm soát overfitting.

3. Dense (Fully connected) layers (Lớp kết nối đầy đủ): Thực hiện việc phân loại hoặc dự đoán dựa trên các đặc trưng đã được trích xuất và gộp.

Vì vậy, đáp án C là đáp án đầy đủ và chính xác nhất, bao gồm cả ba thành phần cơ bản của một mạng CNN tiêu chuẩn. Các đáp án khác thiếu một hoặc nhiều thành phần quan trọng.

Trong bài toán hồi quy với đầu ra là giá trị vô hướng (một số thực), hàm kích hoạt ở lớp cuối cùng thường là hàm tuyến tính (None, tức là không có hàm kích hoạt). Hàm mất mát phù hợp nhất là mean squared error (mse), đo lường trung bình bình phương sai số giữa giá trị dự đoán và giá trị thực tế.

Hyperparameter là các tham số được thiết lập trước khi huấn luyện mô hình và ảnh hưởng đến quá trình học.

• Số nút của một lớp ẩn (A) là một hyperparameter, quyết định độ phức tạp của lớp đó.
• Tốc độ học (B) là một hyperparameter, điều chỉnh kích thước bước nhảy trong quá trình tối ưu hóa.
• Số epoch (C) là một hyperparameter, xác định số lần lặp lại toàn bộ tập dữ liệu huấn luyện.

Vì vậy, tất cả các lựa chọn A, B, và C đều là hyperparameter. Do đó, đáp án D là đáp án chính xác, chỉ ra rằng tất cả các lựa chọn trên đều là Hyperparameter.