Maximum likelihood estimation là gì

      37
1. Statistical Machine Learning

Đối với cùng một bài xích toán Machine Learning tổng quát, việc giải quyết và xử lý bài xích tân oán hay tất cả 3 bước chính:

Modeling: Đi tìm quy mô hoàn toàn có thể bộc lộ rất tốt bài toánLearning: Tối ưu tđê mê số đến quy mô dựa vào tài liệu có sẵnInference: Sử dụng mô hình đang về tối ưu để dự đân oán công dụng cùng với nguồn vào chưa biết

Trong Statistical Machine Learning (Học đồ vật Thống kê), mô hình bài toán thù thường xuyên là việc phối hợp của các phân phối Xác Suất dễ dàng (Bernoulli, Gaussian, …). Tại bước Learning, có nhị phương thức được thực hiện thịnh hành nhằm về tối ưu cỗ ttê mê số, sẽ là Maximum Likelihood Estimation và Maximum A Posteriori Estimation.

Bạn đang xem: Maximum likelihood estimation là gì

Trong nội dung bài viết này, họ thuộc mày mò phương pháp Maximum Likelihood Estimation thông qua ví dụ dễ dàng. Phương pháp Maximum A Posteriori Estimation sẽ được ra mắt vào phần tiếp sau.

2. Maximum Likelihood Estimation (MLE)

MLE là cách thức dự đoán thù tmê man số của một quy mô những thống kê dựa vào đông đảo “quan lại sát” có sẵn, bằng phương pháp search cỗ tmê man số làm thế nào để cho có thể buổi tối đa hoá tài năng nhưng mô hình cùng với bộ tmê mệt số kia sinh ra các “quan sát” có sẵn.

Giả sử quy mô được trình bày bởi vì cỗ tmê mẩn số θ, những “quan liêu sát” (giỏi điểm dữ liệu) là x1, x2, …, xN. lúc kia bọn họ bắt buộc tìm:

θ = argmaxθ) (1)

, vào đó: p(x1,x2,…,xN|θ) là Xác Suất nhằm những sự kiện x1, x2, …, xN xẩy ra đồng thời, được gọi là likelihood. Chính vày vậy mà lại phương thức này được hotline là Maximum Likelihood.

Xem thêm: Bên Mua Bảo Hiểm Là Gì ? Các Thuật Ngữ Cơ Bản Nhất Trong Bảo Hiểm Bạn Nên Biết

Tuy nhiên, vấn đề giải thẳng bài bác toán thù (1) hay là trở ngại. Chúng ta rất có thể đơn giản và dễ dàng hoá bài toán thù bằng vấn đề mang sử các điểm tài liệu xảy ra độc lập cùng nhau. khi đó, (1) trsống thành:

θ = argmaxθ) (2)

Chúng ta rất có thể khiến cho Việc tính toán thù dễ dãi rộng bằng cách thay đổi về bài bác tân oán Maximum Log-likelihood:

θ = argmax ∑sum∑ log(p(xn (3)

3. Ví dụ

Để hiểu rõ rộng về MLE, chúng ta thuộc làm một ví dụ đơn giản dễ dàng.

Giả sử bài toán thù là tất cả 5 học sinh làm cho bài bác soát sổ được số điểm thứu tự là: 3, 6, 5, 9, 8. Để mô hình hoá điểm của các học sinh này, ta trả thiết các điểm dữ liệu được phân bổ theo phân phối hận Gaussian:

*

Để dự đoán thù cỗ tmê mẩn số của phân păn năn chuẩn, ta áp dụng phương pháp MLE:

*

*

*

Để kiếm tìm μ với σ làm thế nào để cho biểu thức trong ngoặc vuông đạt giá trị cực to, họ đạo hàm biểu thức theo từng vươn lên là cùng giải phương trình Khi giá trị kia bằng 0.

*

*

Từ kia ta có:

*

Tgiỏi các điểm tài liệu vào cách làm bên trên, ta tìm kiếm được μ = 6.2σ = 2.14.

4. Kết luận

Hy vọng qua nội dung bài viết này, các bạn đang nắm rõ hơn về phương pháp Maximum Likelihood Estimation. Trong phần tiếp sau, chúng ta đã tìm hiểu về phương thức bao quát hơn là Maximum A Posteriori Estimation.