Trong học sâu, "softmax" làm gì?

Một loại mô hình học sâu

Một loại mô hình học có giám sát

Một thuật toán phân loại

Một phương pháp học không giám sát

Các tham số mà mô hình học từ dữ liệu

Các tham số không thể thay đổi được trong quá trình huấn luyện mô hình

Các tham số được thiết lập trước cho mô hình và không thay đổi dựa trên dữ liệu

Các tham số quyết định cách mà mô hình được huấn luyện và tối ưu hóa

Một bảng tổng hợp thể hiện kết quả của mô hình dự đoán so với nhãn thực tế

Một phương pháp để giảm kích thước của dữ liệu đầu vào

Một phương pháp để xử lý dữ liệu bị thiếu

Một phương pháp để chọn lọc các đặc trưng quan trọng từ dữ liệu

Một phương pháp biểu diễn văn bản thành một tập hợp không có thứ tự của các từ và số lượng của chúng

Một phương pháp để giảm kích thước của dữ liệu đầu vào

Một phương pháp tạo ra các mẫu dữ liệu mới từ dữ liệu ban đầu

Một phương pháp để chia tập dữ liệu thành các tập con để đánh giá mô hình

Một số lượng mẫu dữ liệu được sử dụng để cập nhật các trọng số của mạng neural network

Một phương pháp để chuyển đổi dữ liệu đầu vào thành dạng phù hợp cho mạng neural

Một số lần lặp lại toàn bộ tập dữ liệu trong quá trình huấn luyện mô hình

Một phương pháp tạo ra các mẫu dữ liệu mới từ dữ liệu ban đầu

Một kỹ thuật tăng số lượng lớp trong một mạng neural network

Một kỹ thuật dừng quá trình huấn luyện mô hình khi hiệu suất trên tập kiểm tra bắt đầu giảm

Một kỹ thuật để tối ưu hóa các tham số của mô hình

Một kỹ thuật sử dụng để giảm kích thước của dữ liệu đầu vào

Một phương pháp để tối ưu hóa các tham số của mô hình

Một hàm mất mát thường được sử dụng trong bài toán phân loại, đo lường sự khác biệt giữa dự đoán và giá trị thực tế

Một phương pháp để chuyển đổi dữ liệu đầu vào thành dạng phù hợp cho mạng neural

Một hàm mất mát thường được sử dụng trong bài toán hồi quy, tính toán bình phương của sự chênh lệch giữa dự đoán và giá trị thực tế

σ(s)(1 – σ(s))

σ(s) – (1 – σ(s))

σ(s)

1 – σ(s)

Tất cả các feature đều được chọn

Chỉ một subset ngẫu nhiên của các feature được chọn

Chỉ feature có độ quan trọng cao được chọn

Feature được chọn dựa trên tần suất xuất hiện trong dữ liệu huấn luyện

Nó làm giảm độ chệch (bias) của mô hình

Nó giữ nguyên giá trị âm

Nó không bị sự mất mát gradient khi huấn luyện

Nó không thể giải quyết được vấn đề overfitting