Bài thứ hai trong chuỗi bài viết tự học tập Machine LearningTrong bài này, ta đã mày mò về cost function, một function nhằm dự đoán giá trị output với cùng một cỗ những quý giá input/output mang đến trước.Quý khách hàng đang xem: Cost function là gì

Xem những nội dung bài viết khác tại Machine Learning Course Structure

2. Cost Function2.1. Toán học2.2. Đạo hàm (Derivative)

1. Các ký kết hiệu

Chúng ta vẫn thống duy nhất một cách thực hiện các ký hiệu để bộc lộ những trực thuộc tính của một bài bác tân oán.

Bạn đang xem: Cost function là gì

x(i) vẫn là quý giá nguồn vào, cũng rất được Hotline là input đầu vào feature.

y(i) đang là áp ra output mà lại ta cố kỉnh dự đoán thù.

Một cặp (x(i), y(i)) được Hotline là một trong training example.

Số lượng training example được Điện thoại tư vấn là m. bởi thế, i=1,2,3,…,m

Lưu ý rằng (i) chỉ với index của cực hiếm, chưa phải số lũy thừa

Ta sử dụng cam kết trường đoản cú X, Y nhằm bộc lộ vùng không khí của input cùng output

Ví dụ: X = Y = ℝ

Khi chỉ dẫn một bộ dữ liệu training (training set), mục tiêu của họ là tạo ra được một function h làm sao để cho h(x) rất có thể dự đoán thù giao động độc nhất vô nhị giá trị của y.

h là viết tắt mang lại trường đoản cú Hypothesis, nguyên nhân cho tên thường gọi này chỉ đối chọi thuần bởi vì xưa kia, bạn ta khắc tên cho nó như thế, cùng nó chết tên luôn luôn.

do đó, process của bọn họ vẫn như sau:


*

khi y là 1 trong những cực hiếm thường xuyên, ví dụ như giá nhà đất, giá chỉ cổ phiếu, thì đây là một regression problem.

khi y chỉ nên một trong những lượng nhỏ dại những giá trị nhất quyết (true/false – yes/no), thì đây là một classification problem.

2. Cost Function

Chúng ta “tính toán” sự chính xác của hàm hypothesis bằng cách thực hiện 1 hàm số. Hàm số kia call là cost function.

Trước Lúc đưa ra bất kỳ một cách làm tốt hàm số nào, hãy thuộc tôi đào bới trong mớ kiến thức láo lếu độn cơ mà tôi chắc rằng sẽ giúp chúng ta hiểu ra ngôn từ then chốt của Cost Function.

Xem thêm: " Xe Đò Tiếng Anh Là Gì ? Xe Đò Tiếng Anh Là Gì Và Những Điều Cần Biết

2.1. Toán học

2.1.1. Xác xuất và thống kê (Probability & Statistic)

Trong xác xuất thống kê lại, tất cả một khái niệm gọi là Gaussian Distributed.

Đúng rồi, bạn ko quan sát nhầm đâu. Gaussian cũng là 1 hào kiệt lừng danh của…Photoshop, khi mà nó có tác dụng nhiễu đi vùng được chọn. Tính năng kia hotline là Gaussian Blur.

Snghỉ ngơi dĩ tôi nhắc tới phân pân hận chuẩn chỉnh là cũng chính vì theo định lý giới hạn trung trung tâm (Central limit theorem), ngơi nghỉ dạng tổng thể độc nhất của phân phối hận chuẩn, phân phối hận của tổng không hề ít biến đổi hốt nhiên hòa bình sẽ có phân phối hận dao động chuẩn chỉnh.

Tức là, con số training example càng các thì từng một training example sẽ sở hữu được quý hiếm càng sát cùng với hàm hypothesis của chúng ta.

Tóm lại, ta đang chọn tđắm đuối số thế nào cho khoảng cách trường đoản cú vật thị của hàm hypothesis tới y của các training example là nđính thêm tuyệt nhất.

2.1.2. Phương thơm không nên (Variance)

Trong lý thuyết Phần Trăm với những thống kê, pmùi hương sai của một đổi mới đột nhiên là 1 trong độ đo sự phân tán những thống kê của biến chuyển đó, nó hàm ý các quý hiếm của trở thành này thường sinh sống biện pháp cực hiếm kỳ vọng bao xa.

Theo có mang này của phương thơm không nên, đồ vật thị màn trình diễn các quý hiếm mong rằng đó là đồ gia dụng thị hàm hypothesis của chúng ta kia. Pmùi hương không nên đó là giá trị nhưng ta muốn nó càng bé dại càng tốt

Pmùi hương không nên của một trở nên bỗng nhiên là bình phương thơm của độ lệch chuẩn.

Như đã nói tại vị trí trước, lúc cơ mà tập giá trị đầu vào training example của chúng ta đầy đủ Khủng, thì ta hoàn toàn có thể coi mỗi training example là một trong phát triển thành tự nhiên có phân phối chuẩn.

Vậy ta có:

Tập đúng theo kỳ vọng = hypothesis


*

*

*

*

Vậy ta có:

14-10t = 0=> t = 1.4Vậy chiều cao lớn nhất là

h = 3 + 14x1.4 - 10x1.4x1.4 = 12.8

2.2.2. Lớn tốt nhất xuất xắc nhỏ tuổi nhất

Làm sao ta biết được một hàm số sẽ có quý giá lớn nhất tuyệt bé dại nhất? Nếu phụ thuộc đồ dùng thị thì trái là 1 trong cách tốn nhiều thời hạn và sức lực lao động.

Tại đây, ta liên tiếp sử dụng đạo hàm (một lần nữa):

f"(t) = 14 - 10t cùng với t = 1.4 thì f"(t) = 0=> f""(t) = -10 cùng với t = 1.4 thì f""(t) = -10Đây Điện thoại tư vấn là Second Derivative Test, phát biểu nhỏng sau:

Khi một hàm số tất cả mức độ chuyển đổi = 0 trên điểm x, thì quý hiếm hàm đạo hàm lần 2 của hàm số kia tại x nếu: