Trong học máy, "momentum" là gì?

Phương pháp giảm số chiều dữ liệu nhằm mục đích giảm số lượng biến đầu vào trong một tập dữ liệu trong khi vẫn giữ lại thông tin quan trọng. Trong các lựa chọn được đưa ra:

- PCA (Principal Component Analysis): Là một kỹ thuật giảm chiều phổ biến. Nó tìm các thành phần chính, là các hướng mà dữ liệu có phương sai lớn nhất, và sử dụng chúng để biểu diễn dữ liệu trong một không gian có số chiều thấp hơn.
- K-Means Clustering: Là một thuật toán phân cụm, không phải là một phương pháp giảm chiều.
- SVM (Support Vector Machine): Là một thuật toán phân loại và hồi quy, không trực tiếp liên quan đến giảm chiều.
- Decision Trees: Là một mô hình cây quyết định, có thể được sử dụng cho phân loại hoặc hồi quy, nhưng không phải là một phương pháp giảm chiều chính thống.

Do đó, PCA là phương pháp phù hợp nhất để giảm số chiều của dữ liệu trong khi vẫn giữ được các đặc trưng quan trọng.

Trong thuật toán K-Means, việc chọn số lượng cụm (clusters) thích hợp là một bước quan trọng. Có nhiều phương pháp để xác định số lượng cụm tối ưu, trong đó:

- Elbow method (Phương pháp khuỷu tay): Đây là một phương pháp phổ biến để ước lượng số lượng cụm tối ưu bằng cách vẽ đồ thị sự biến thiên của tổng bình phương khoảng cách từ mỗi điểm dữ liệu đến tâm cụm gần nhất (within-cluster sum of squares - WCSS) theo số lượng cụm. Điểm "khuỷu tay" trên đồ thị (nơi sự giảm WCSS bắt đầu chậm lại đáng kể) thường được chọn làm số lượng cụm tối ưu.

- Silhouette Analysis (Phân tích Silhouette): Phương pháp này đánh giá chất lượng phân cụm bằng cách tính toán hệ số silhouette cho mỗi điểm dữ liệu. Hệ số silhouette đo lường mức độ tương đồng của một điểm với cụm của nó so với các cụm khác. Giá trị silhouette gần 1 cho thấy điểm được phân cụm tốt, giá trị gần -1 cho thấy điểm có thể được phân cụm sai, và giá trị gần 0 cho thấy điểm nằm gần ranh giới giữa các cụm.

- Gradient Descent (Độ dốc giảm dần): Đây là một thuật toán tối ưu hóa được sử dụng để tìm giá trị nhỏ nhất của một hàm số, thường được dùng trong huấn luyện mô hình học máy, nhưng không liên quan trực tiếp đến việc chọn số lượng cụm trong K-Means.

- Confusion Matrix (Ma trận nhầm lẫn): Đây là một công cụ đánh giá hiệu suất của mô hình phân loại, không liên quan đến thuật toán phân cụm K-Means.

Như vậy, trong các phương án trên, "Elbow method" và "Silhouette Analysis" là các phương pháp thường được sử dụng để chọn số lượng cụm thích hợp cho thuật toán K-Means. Tuy nhiên, Elbow method được nhắc đến phổ biến hơn trong ngữ cảnh này.

Trong mô hình Linear Regression, hệ số hồi quy (regression coefficients) được tìm bằng cách tối thiểu hóa hàm mất mát (loss function). Hàm mất mát thường được sử dụng là Mean Squared Error (MSE). Việc tối thiểu hóa này có thể được thực hiện bằng hai phương pháp chính:

1. Giải phương trình đạo hàm của hàm mất mát: Phương pháp này tìm điểm mà đạo hàm của hàm mất mát bằng 0. Tại điểm này, hàm đạt giá trị tối thiểu (hoặc cực tiểu). Đây là một phương pháp trực tiếp và hiệu quả khi hàm mất mát có dạng đơn giản và đạo hàm có thể giải một cách dễ dàng.


2. Sử dụng Gradient Descent: Phương pháp này là một thuật toán lặp đi lặp lại để tìm giá trị tối thiểu của hàm mất mát. Thuật toán này bắt đầu từ một điểm ngẫu nhiên và di chuyển dần theo hướng ngược lại với gradient (đạo hàm) của hàm mất mát, cho đến khi đạt được một điểm tối thiểu.

Phương án A chính xác vì nó mô tả cách tìm hệ số hồi quy bằng cách giải phương trình đạo hàm của hàm mất mát. Phương án C cũng đúng, nhưng nó mô tả một phương pháp khác (Gradient Descent) để tối ưu hàm mất mát, không phải là cách trực tiếp tính hệ số hồi quy thông qua giải phương trình đạo hàm. Tuy nhiên, vì phương án A đề cập đến việc giải trực tiếp phương trình đạo hàm, nên nó chính xác hơn trong bối cảnh câu hỏi này.