Bài giảng Học máy - Bài 1: Giới thiệu về Học máy - Nguyễn Thanh Tùng

CSE 445: Học máy
(Machine Learning)
Nguyễn Thanh Tùng
Khoa Công nghệ thông tin – Đại học Thủy Lợi
tungnt@tlu.edu.vn
CSE 445: Học máy | Học kỳ 1, 2016-2017 1
Bài giảng có sử dụng hình vẽ trong cuốn sách “An Introduction to Statistical Learning with Applications in R” với sự
cho phép của tác giả, có sử dụng slides các khóa học CME250 của ĐH Stanford và IOM530 của ĐH Southern California
Website môn học: https://sites.google.com/a/wru.vn/cse445fall2016
Giới thiệu về Học máy
• Học máy (machine learning) là gì?
– Bao gồm quá trình đúc rút tri thức từ các quan sát, trải
nghiệm thực tiễn bằng việc xây dựng các mô hình từ dữ
liệu.
– Các phương pháp học và nhận dạng tự động các mẫu
phức tạp (complex patterns) từ dữ liệu.
CSE 445: Học máy | Học kỳ 1, 2016-2017 2
Các ứng dụng của Học máy
• “Lĩnh vực nghiên cứu giúp máy tính có khả năng tự
học khi không được lập trình trước” ([A] field of study that gives 
computers the ability to learn without being explicitly programmed.)
− Arthur Samuel (1959)
CSE 445: Học máy | Học kỳ 1, 2016-2017 3
Các ứng dụng của Học máy
CSE 445: Học máy | Học kỳ 1, 2016-2017 4
• AlphaGo thắng
nhà vô địch thế
giới cờ vây
Các ứng dụng của Học máy
• Học máy được sử dụng ở đâu?
CSE 445: Học máy | Học kỳ 1, 2016-2017 5
Các ứng dụng của Học máy
• Trong hệ thống tự động ra quyết định
- vd: Lọc thư rác
CSE 445: Học máy | Học kỳ 1, 2016-2017 6
Các ứng dụng của Học máy
• Trong hệ thống tự động ra quyết định
– vd: Phát hiện gian lận.
“How Credit Card Companies 
Spot Fraud Before You Do”
U.S. News (July 10, 2013)
CSE 445: Học máy | Học kỳ 1, 2016-2017 7
Các ứng dụng của Học máy
• Cho các hệ thống tự động có lập trình phức tạp.
– vd: Xe không người lái
Stanford Autonomous Driving Team 
CSE 445: Học máy | Học kỳ 1, 2016-2017 8
Các ứng dụng của Học máy
Video: Autonomous Driving
CSE 445: Học máy | Học kỳ 1, 2016-2017 9
Các ứng dụng của Học máy
• Cho các hệ thống tự động có lập trình phức tạp.
– vd: Nhận dạng chữ viết tay
LeNet--5Convolutional
Neural Net
CSE 445: Học máy | Học kỳ 1, 2016-2017 10
Các ứng dụng của Học máy
• Dùng cho khai phá dữ liệu
– Vd: Bệnh án điện tử
“Mining Electronic Records 
for Revealing Health Data”
New York Times (Jan 14, 2013)
CSE 445: Học máy | Học kỳ 1, 2016-2017 11
Các ứng dụng của Học máy
• Trong các hệ thống tùy biến
– Vd: Hệ thống gợi ý sản phẩm
CSE 445: Học máy | Học kỳ 1, 2016-2017 12
Các ứng dụng của Học máy
The Algorithm That’s Hunting Ebola (IEEE Spectrum, Sept 24 2015)
CSE 445: Học máy | Học kỳ 1, 2016-2017 13
Các giải thuật Học máy
• Để lọc thư rác hoặc nhận dạng chữ viết tay, chúng ta gắn nhãn các
mẫu (quan sát) để học mô hình từ chúng
– Học máy có giám sát: Huấn luyện cho giải thuật học máy xây dựng mô hình từ các
mối quan hệ trong dữ liệu, dựa trên tập các cặp đầu vào-ra của các quan sát.
• Để phát hiện các nhóm bệnh nhân trong Bệnh án điện tử (EMR), chúng ta 
chưa biết tên các nhóm (các lớp)
– Học máy không giám sát: Huấn luyện cho giải thuật học các mối quan hệ và cấu
trúc của dữ liệu
• Một số giải thuật học máy khác
– Học máy bán giám sát (semi--supervised learning), Học tăng cường (reinforcement 
learning), Các hệ thống khuyến nghị (recommender systems), etc.
CSE 445: Học máy | Học kỳ 1, 2016-2017 14
CSE 445: Học máy | Học kỳ 1, 2016-2017 15
Thông tin môn học
CSE 445: Học máy | Học kỳ 1, 2016-2017 16
Môn Học máy
• Trang web:
– https://sites.google.com/a/wru.vn/cse445fall2016
– Bài giảng, tài liệu và các thông báo của môn học.
• Thời khóa biểu
– 29/08/2016 - 25/09/2016
– Thứ 3 tiết 3,4 tại 308 B5
– Thứ 4 tiết 5,6 tại 308 B5
CSE 445: Học máy | Học kỳ 1, 2016-2017 17
Môn Học máy
• Thời khóa biểu
– 26/09/2016 - 02/10/2016
– Thứ 3 tiết 3,4 tại 308 B5
– Thứ 4 tiết 5,6 tại 308 B5
– Thứ 7 tiết 3,4 tại 307 B5, 
– 03/10/2016 - 09/10/2016
– Thứ 3 tiết 3,4 tại 308 B5
– 10/10/2016 - 16/10/2016
– Thứ 3 tiết 3,4 tại 308 B5
– 17/10/2016 - 23/10/2016
– Thứ 3 tiết 3,4 tại 308 B5
– Thứ 4 tiết 5,6 tại 308 B5, 
– Lab: từ ngày 5/9 đến 23/10/2016 tại P.202-C5.
CSE 445: Học máy | Học kỳ 1, 2016-2017 18
Đối tượng tham dự
• Các ngành học liên quan đến CNTT, kinh tế, điện tử.
• Không cần kiến thức nền về Học máy
• Điều kiện
– Đã hoàn thành các môn học về xác suất thống kê, đại số tuyến
tính.
– Có kỹ năng lập trình cơ bản (R/Matlab/Python)
CSE 445: Học máy | Học kỳ 1, 2016-2017 19
Mục đích của môn học
• Trang bị tổng quan ở mức cao về các kỹ thuật Học
máy nổi tiếng.
• Biết vận dụng các phương pháp học máy tiên tiến
dùng cho phân tích dữ liệu ra quyết định.
• Kỹ năng thực hành, thiết kế thí nghiệm sử dụng
ngôn ngữ R.
• Làm quen với các thuật ngữ chuyên ngành.
CSE 445: Học máy | Học kỳ 1, 2016-2017 20
Sách giáo khoa
“An Introduction to Statistical Learning with Applications 
in R” (ISL) by James, Witten, Hastie and Tibshirani*
cung cấp miễn phí (pdf) tại: www--bcf.usc.edu/~gareth/ISL/
Sách tham khảo:
“The Elements of Statistical Learning” (ESL) by Hastie, Tibshirani and Friedman
cung cấp miễn phí (pdf) tại: statweb.stanford.edu/~tibs/ElemStatLearn/
*Một số hình ảnh trình bày trong bài giảng được lấy từ cuốn "An Introduction
to Statistical Learning, with applications in R" (Springer, 2013) được sự đồng
thuận của các tác giả: G. James, D. Witten, T. Hastie and R. Tibshirani
CSE 445: Học máy | Học kỳ 1, 2016-2017 21
Các yêu cầu môn học
• 3 tín chỉ
• Điểm kết thúc học phần
• Các yêu cầu
– Bài tập: sinh viên có thể lựa chọn bài tập để làm
và nộp, điểm lấy từ cao xuống thấp để tính kết
quả học tập.
CSE 445: Học máy | Học kỳ 1, 2016-2017 22
Bài tập
• Bài tập được giao từ cuốn ISL
• Sinh viên cần hoàn thành 50% số điểm của khối lượng bài tập 
để nhận được điểm đạt.
• Sinh viên phải hoàn thành bắt buộc với số lượng tối thiểu:
• 4 bài tập bất kỳ trong số các bài tập được giao
• Hạn nộp bài tập theo thời khóa biểu của môn học.
CSE 445: Học máy | Học kỳ 1, 2016-2017 23
Ngôn ngữ lập trình R
• R: www.r-project.org
CSE 445: Học máy | Học kỳ 1, 2016-2017 24
Ngôn ngữ lập trình Python
– Python: www.python.org
• scikit--learn: 
CSE 445: Học máy | Học kỳ 1, 2016-2017 25
CSE 445 Hỏi&Đáp
• CSE 445 sử dụng Piazza!
• Đặt các câu hỏi liên quan đến nội dung môn học, 
logistics, bài tập, v.v. trên Piazza
• Website: 
https://piazza.com/tlu.edu.vn/fall2016/cse445/home
CSE 445: Học máy | Học kỳ 1, 2016-2017 26
CSE 445: Học máy | Học kỳ 1, 2016-2017 27
Mô hình Học máy
(Machine learning Model)
28CSE 445: Học máy | Học kỳ 1, 2016-2017
Mục đích của mô hình Học máy
Kỹ thuật
Ra quyết định
Truyền thông
Phân tích dữ liệu
& các mô hình
CSE 445: Học máy | Học kỳ 1, 2016-2017 29
Tại sao phải xây dựng mô hình?
• Mô hình thể hiện xấp xỉ của thực tế được sử dụng 
để giải quyết các vấn đề cụ thể
• Chúng thường được xây dựng trên máy tính
• Chúng được sử dụng rộng rãi trong thực hành kỹ 
thuật
30CSE 445: Học máy | Học kỳ 1, 2016-2017
Tại sao dùng kỹ thuật thống kê?
• Nhiều biến trong kỹ thuật chứa thông tin không chắc 
chắn
• Xác suất và thống kê các công cụ để xử lý các biến 
không chắc chắn
• Chúng thường được sử dụng rộng rãi trong kỹ thuật
31CSE 445: Học máy | Học kỳ 1, 2016-2017
Các thành phần của mô hình
Hệ thống: Nhóm các thành phần mà chúng tương tác hoặc vận
hành cùng nhau
32CSE 445: Học máy | Học kỳ 1, 2016-2017
WTP
Water Treatment PlantWWTP
Wastewater Treatment Plant
Chất lượng nước??
Điều khiển
(Driver)
Mục tiêu (Response)
Các thành phần của mô hình
Biến đầu vào: Biến giúp xác định trạng thái của hệ
thống thay đổi như thế nào (“Driver”)
33CSE 445: Học máy | Học kỳ 1, 2016-2017
Inflows
WTP
WWTP
Các thành phần của mô hình
Biến đích: Biến đầu ra có quan hệ với trạng thái của hệ
thống
34CSE 445: Học máy | Học kỳ 1, 2016-2017
Outflows
WTP
WWTP
Đặt bài toán và Thuật ngữ
• : Tập biến đầu vào (tập biến dự đoán, biến độc lập hoặc các đặc
trưng) (input variables, predictors, independent variables or features).
• : Biến đầu ra (biến đích hoặc biến phụ thuộc) (output variables, 
response or dependent variable)
• Học máy thống kê (Statistical Learning):
là 1 tập các giải pháp ước lượng hàm để mô tả
mối quan hệ giữa tập biến đầu vào và biến đầu ra:
CSE 445: Học máy | Học kỳ 1, 2016-2017 35
Đặt bài toán và Thuật ngữ
• Làm cách nào để xây dựng mô hình?
• Dữ liệu huấn luyện (Training data): tập gồm n các
quan sát/mẫu huấn luyện (observations, samples) ta 
dùng để xây dựng mô hình .
– các cặp vào/ra:
CSE 445: Học máy | Học kỳ 1, 2016-2017 36
Đặt bài toán và Thuật ngữ
• Phương pháp để ước lượng sẽ phụ thuộc
vào vấn đề mà chúng ta muốn xử lý khi sử
dụng dữ liệu.
– Các phương pháp học máy khác nhau sẽ dùng các mô hình
khác nhau để ước lượng hàm .
CSE 445: Học máy | Học kỳ 1, 2016-2017 37
Dự đoán và Suy diễn
• Dự đoán (Prediction): Dự đoán biến đích với tập
dữ liệu đầu vào cho trước, sử dụng một hàm ước 
lượng thống kê của , ký hiệu mô hình này là .
• Suy diễn (Inference): Tìm hiểu mối quan hệ giữa với
các biến độc lập .
– Không mong muốn xây dựng một mô hình hộp đen (black-
-box model).
CSE 445: Học máy | Học kỳ 1, 2016-2017 38
Ví dụ về Quảng cáo
• Doanh nghiệp có thể điều chỉnh chiến lược quảng cáo sản phẩm
(advertising) để tăng doanh số bán hàng (sales).
• Dữ liệu: Doanh số bán hàng và ngân sách quảng cáo cho 3 
phương tiện truyền thông (TV, radio, newspaper).
Figure 2.1 , ISL 2013
CSE 445: Học máy | Học kỳ 1, 2016-2017 39
Câu đố:
• Trong ví dụ về quảng cáo, đâu là biến đầu vào/đầu ra?
– Biến đầu ra : doanh số bán hàng
– Biến đầu vào: ngân sách quảng cáo trên TV, ngân sách quảng cáo trên Radio, 
ngân sách quảng cáo trên báo chí
• Hãy lấy ví dụ về yêu cầu dự đoán và suy diễn mà ta có được lời giải
từ dữ liệu này.
– Dự đoán:
• Số liệu về doanh số bán hàng ở thị trường A dự kiến thế nào khi biết ngân
sách đầu tư quảng cáo trên TV, radio và báo chí?
– Suy diễn:
• Doanh số bán hàng tăng bao nhiêu nếu tăng ngân sách 10% cho quảng
cáo trên TV?
• Phương tiện truyền thông nào (TV, radio, báo) tạo ra sự thúc đẩy lớn nhất 
trong bán hàng?
CSE 445: Học máy | Học kỳ 1, 2016-2017 40
Làm thế nào để ước lượng ?
− Giả sử ta có tập dữ liệu huấn luyện:
− Ta phải dùng tập dữ liệu và một phương pháp học máy
để ước lượng .
− Các phương pháp (mô hình) học máy: 
− Các phương pháp có tham số
− Các phương pháp phi tham số.
)},(,),,(),,{( 2211 nn YYY XXX K
CSE 445: Học máy | Học kỳ 1, 2016-2017 41
Các mô hình tham số và phi tham số
• Các mô hình có tham số (Parametric)
– Đặt các giả định cho dạng (form) của
– Sử dụng dữ liệu huấn luyện để xấp xỉ/khớp (fit) 
mô hình (ước lượng các tham số)
– Ưu điểm:
• Dễ tìm các tham số của
– Nhược điểm:
• Mô hình có thể ước lượng thiếu chính xác dạng của
CSE 445: Học máy | Học kỳ 1, 2016-2017 42
Figure 2.4 , ISL 2013
Các mô hình tham số và phi tham số
CSE 445: Học máy | Học kỳ 1, 2016-2017 43
f = β0 + β1 × Education + β2 × Seniority
• Mặc dù độ
lệch chuẩn
thấp nhưng
ta vẫn nhận
được đáp án
tồi khi sử
dụng sai mô
hình.
Các mô hình tham số và phi tham số
• Các mô hình phi tham số
– Không cần đặt các giả định về dạng thức (form) của
– Xấp xỉ với lỗi nhỏ nhất không bị quá khớp/quá phù hợp
(overfitting) trên dữ liệu huấn luyện/tập học.
– Ưu điểm:
• Có thể xấp xỉ loạt các mô hình cho
– Nhược điểm:
• Yêu cầu lượng lớn dữ liệu huấn luyện
• Vấn đề overfitting (quá khớp): đạt độ chính xác cao trên tập học,
nhưng đạt độ chính xác thấp trên tập thử nghiệm
CSE 445: Học máy | Học kỳ 1, 2016-2017 44
Các mô hình tham số và phi tham số
Figure 2.5 , ISL 2013
CSE 445: Học máy | Học kỳ 1, 2016-2017 45
Các mô hình tham số và phi tham số
Figure 2.6 , ISL 2013

overfitting!
CSE 445: Học máy | Học kỳ 1, 2016-2017 46
Trade-off: Độ chính xác vs. Tính diễn giải
• Các phương pháp khác nhau mang lại sự linh hoạt
– Những mô hình có nhiều hạn chế sẽ cho độ chính xác kém
– Vd: Hồi quy tuyến tính bị hạn chế – không xấp xỉ được hàm phi tuyến
• Tại sao chọn mô hình có nhiều hạn chế?
– Dễ diễn giải – thuận lợi cho bài toán suy diễn
– Các mô hình đơn giản có thể cho kết quả với độ chính xác cao (ít gặp
vấn đề over-fitting)
• Với bài toán dự đoán, tính diễn giải không quá cần thiết
– Mô hình dự đoán có thể là một hộp đen
CSE 445: Học máy | Học kỳ 1, 2016-2017 47
Trade-off: Độ chính xác vs. Tính diễn giải
Figure 2.7 , ISL 2013
CSE 445: Học máy | Học kỳ 1, 2016-2017 48
Ngôn ngữ R
49CSE 445: Học máy | Học kỳ 1, 2016-2017
Học máy
• Bài toán học máy được chia làm 2 dạng chính:
– Học có giám sát (Supervised Learning)
– Học không giám sát (Unsupervised Learning)
CSE 445: Học máy | Học kỳ 1, 2016-2017 50
Học có giám sát
• Cả biến đầu vào và biến đầu ra đều lưu trữ trong
tập học.
–
và đều có sẵn trong tập học
• Mục tiêu: Khái quát hóa (generalize) dữ liệu
thử nghiệm
CSE 445: Học máy | Học kỳ 1, 2016-2017 51
Học không giám sát
• Chỉ có các biến đầu vào, không có biến đầu ra
– có sẵn, tuy nhiên không có
• Mục tiêu: Phát hiện mối quan hệ giữa các biến hoặc
giữa các quan sát (observations)
CSE 445: Học máy | Học kỳ 1, 2016-2017 52
Các dạng giải thuật học máy
Supervised Unsupervised
Yes No
Do you have 
labeled data?
CSE 445: Học máy | Học kỳ 1, 2016-2017 53
Học có giám sát: Phân lớp và Hồi quy
• Bài toán học có giám sát được chia làm 2 dạng
Phân lớp và Hồi quy
CSE 445: Học máy | Học kỳ 1, 2016-2017 54
Học có giám sát: Phân lớp và Hồi quy
• Hồi quy: biến đầu ra là định lượng (liên tục/dạng
số/có thứ tự) (continuous / numerical / ordered)
• Dự đoán
• Giá cổ phiếu Z trong 1 năm tính từ thời điểm này
• Thu nhập của một người dựa trên yếu tố nhân
khẩu học
CSE 445: Học máy | Học kỳ 1, 2016-2017 55
Học có giám sát: Phân lớp và Hồi quy
• Phân lớp: biến đầu ra dạng định tính (kiểu rời
rạc/thứ bậc/định danh) (categorical)
• Dự đoán
• Xu thế giá cổ phiếu Z sẽ tăng hay giảm trong năm
tính từ thời điểm này.
• Giao dịch thẻ tín dụng là gian lận hoặc hợp pháp
CSE 445: Học máy | Học kỳ 1, 2016-2017 56
Học có giám sát: Phân lớp và Hồi quy
• Bài toán phân lớp cũng có thể trình bày theo dạng
hồi quy
– Bài toán 2 lớp: “Xác xuất để 1 quan sát/mẫu thuộc lớp 1?”
– Một số phương pháp học máy có thể xử lý được cả 2 dạng bài
toán (vd mạng nơ-ron, rừng ngẫu nhiên)
• Đối với việc lựa chọn 1 phương pháp học máy, đầu vào là
định lượng/định tính không quá quan trọng.
CSE 445: Học máy | Học kỳ 1, 2016-2017 57
Các dạng giải thuật học máy
Supervised Unsupervised
Yes No
Do you have 
labeled data?
What do you want to predict?
RegressionClassification
Category Quantity
CSE 445: Học máy | Học kỳ 1, 2016-2017 58
Học máy không giám sát:
Phân cụm & Giảm chiều dữ liệu
• Phân tích cụm
Chia dữ liệu thành các tập con mà chúng có
các đặc tính chung
CSE 445: Học máy | Học kỳ 1, 2016-2017 59
Học máy không giám sát:
Phân cụm & Giảm chiều dữ liệu
• Giảm chiều dữ liệu
Tạo ra các biến mới từ các biến đầu vào ban đầu
sao cho bảo toàn được các thông tin quan trọng
CSE 445: Học máy | Học kỳ 1, 2016-2017 60
Các dạng giải thuật học máy
Do you want to group the data?
Cluster 
Analysis
Yes No
Dimensionality 
Reduction
Supervised Unsupervised
Yes No
Do you have 
labeled data?
What do you want to predict?
Classification Regression
Category Quantity
CSE 445: Học máy | Học kỳ 1, 2016-2017 61
Giải thuật phân lớp đơn giản
CSE 445: Học máy | Học kỳ 1, 2016-2017 62
Bộ phân lớp K-Nearest Neighbor (KNN)
• Ý tưởng: phân lớp các mẫu dựa trên “hàng xóm” 
các mẫu đã biết nhãn
CSE 445: Học máy | Học kỳ 1, 2016-2017 63
Bộ phân lớp K-láng giềng gầnnhất
• Bộ phân lớp: Chia không gian thuộc tính thành
nhiều vùng
– Mỗi vùng được gắn với 1 nhãn lớp (class label)
– Ranh giới quyết định chia tách các vùng quyết định
• Các phương pháp phân lớp xây dựng mô hình
có dạng:
CSE 445: Học máy | Học kỳ 1, 2016-2017 64
Bộ phân lớp K-láng giềng gầnnhất
• Bộ phân lớp KNN
– Việc dự đoán lớp cho mẫu X là lớp phổ biến nhất giữa K 
láng giềng gần nhất (trong tập học)
– Mô hình phân lớp:
CSE 445: Học máy | Học kỳ 1, 2016-2017 65
Bộ phân lớp K-láng giềng gầnnhất
Figure 2.14, ISL 2013
CSE 445: Học máy | Học kỳ 1, 2016-2017 66
Ví dụ bài toán phân lớp
Lớp c1 Lớp c2
Ví dụ cần 
phân lớp z Xét 1 láng giềng gần nhất
→ Gán z vào lớp c2
 Xét 3 láng giềng gần nhất
→ Gán z vào lớp c1
 Xét 5 láng giềng gần nhất
→ Gán z vào lớp c1
Bộ phân lớp K-láng giềng gầnnhất
CSE 445: Học máy | Học kỳ 1, 2016-2017 67
Nguồn hình vẽ: Học máy, 
Nguyễn Nhật Quang
Giải thuật phân lớp k-NN
■Giai đoạn huấn luyện (học)
•Đơn giản là lưu lại các mẫu trong tập huấn luyện
■Giai đoạn phân lớp: Để phân lớp cho một mẫu (mới) z
• Với mỗi mẫu, tính khoảng cách giữa x và z
• Xác định tập NB(z)– các láng giềng gần nhất của z
→ Gồm k mẫu trong tập huấn luyện gần nhất với z tính theo một hàm
khoảng cách d
• Phân z vào lớp chiếm số đông (the majority class) trong số các lớp
của các mẫu trong NB(z)
CSE 445: Học máy | Học kỳ 1, 2016-2017 68
Lựa chọn K (bộ phân lớp KNN)
• K nhỏ
– Ranh giới quyết định linh hoạt hơn, tuy nhiên dễ bị overfit
• K lớn
– Ranh giới quyết định ít linh hoạt nhưng ít bị overfit
• Overfitting: Cho kết quả tốt trên tập học nhưng kém trên
tập thử nghiệm
CSE 445: Học máy | Học kỳ 1, 2016-2017 69
Figure 2.16,
ISL 2013
Lựa chọn K (bộ phân lớp KNN)
CSE 445: Học máy | Học kỳ 1, 2016-2017 70
Lựa chọn K (bộ phân lớp KNN)
Figure 2.17, ISL 2013
CSE 445: Học máy | Học kỳ 1, 2016-2017 71
Lựa chọn K (bộ phân lớp KNN)
Figure 2.15, ISL 2013
CSE 445: Học máy | Học kỳ 1, 2016-2017 72
K-Nearest Neighbor classifier (KNN)
• Ưu điểm:
– Dễ cài đặt
– Ít tham số mô hình (K, distance metric)
– Linh hoạt, các lớp không phải tách tuyến tính
• Nhược điểm:
– Thời gian tính toán lâu
– Khá nhạy với dữ liệu không cân bằng
– Nhạy với dữ liệu đầu vào không liên quan với nhau
CSE 445: Học máy | Học kỳ 1, 2016-2017 73
Các dạng giải thuật học máy
Cluster 
Analysis
Dimensionality 
Reduction
Classification Regression
KNN
Supervised Unsupervised
Yes No
Do you have 
labeled data?
Do you want to group the data?
Yes No
What do you want to predict?
Category Quantity
PCA
Logistic 
Regression
CART LASSOSVM
K-means
ICA
Linear 
Regression
CSE 445: Học máy | Học kỳ 1, 2016-2017 74
Giải thuật Học máy “Tốt nhất”
• Tin tồi: Không có giải thuật nào tốt nhất
– Không có giải thuật học máy nào thực hiện tốt cho mọi bài toán
• Tin tốt: Tất cả các giải thuật học máy đều tốt
– Mỗi giải thuật học máy thực hiện tốt cho một số bài toán
• Định lý “No free lunch”
– Wolpert (1996): các giải thuật thực hiện như nhau khi ta lấy
trung bình kết quả chúng thực hiện trên tất cả các bài toán
CSE 445: Học máy | Học kỳ 1, 2016-2017 75
Trade-offs (đánhđổi) trong Học máy
• Bias vs. variance
• Độ chính xác vs. Khả năng diễn giải
• Độ chính xác vs. Khả năng mở rộng giải thuật
• Phạm vi kiến thức vs. Hướng dữ liệu
• Nhiều dữ liệu vs. Giải thuật tốt hơn
CSE 445: Học máy | Học kỳ 1, 2016-2017 76
Chuẩn bị dữ liệu
• Các giải thuật học máy cần phải có dữ liệu!
• Tiền xử lý dữ liệu để chuyển đổi dữ liệu trước khi áp dụng
vào giải thuật học máy
– Lấy mẫu: chọn tập con các quan sát/mẫu
– Trích chọn thuộc tính: Chọn các biến đầu vào
– Chuẩn hóa dữ liệu (Normalization) (standardization, scaling, binarization)
– Xử lý dữ liệu thiếu và phần tử ngoại lai (missing data and outliers)
• Ngoài ra, còn phụ thuộc vào giải thuật học máy
– Cây quyết định có thể xử lý dữ liệu thiếu/phần tử ngoại lai
– PCA yêu cầu dữ liệu đã được chuẩn hóa
CSE 445: Học máy | Học kỳ 1, 2016-2017 77
Các câu hỏi?
CSE 445: Học máy | Học kỳ 1, 2016-2017 78