Cho tập ví dụ học như bảng. Entropy của kết luận C = Play Ball là:
Trả lời:
Đáp án đúng: A
Để tính entropy của kết luận C = Play Ball, ta cần xác định số lượng các trường hợp 'yes' (chơi bóng) và 'no' (không chơi bóng) trong tập dữ liệu. Giả sử sau khi đếm, ta có p là tỉ lệ các trường hợp 'yes' và q là tỉ lệ các trường hợp 'no'. Entropy được tính theo công thức: Entropy(C) = -p * log2(p) - q * log2(q). Trong trường hợp tổng quát, nếu số lượng 'yes' và 'no' bằng nhau (ví dụ: 50% 'yes' và 50% 'no'), entropy sẽ là 1. Nếu tất cả đều là 'yes' hoặc tất cả đều là 'no', entropy sẽ là 0. Nếu số lượng 'yes' và 'no' không được cung cấp trong câu hỏi, ta không thể tính chính xác giá trị entropy. Tuy nhiên, nếu ta giả sử một trường hợp mà số lượng 'yes' và 'no' bằng nhau, entropy sẽ là 1. Vì vậy, phương án A có vẻ hợp lý nhất nếu không có thông tin cụ thể nào khác.





