<pre style="text-align: center;">"[___WARNING_Kh&oacute;a học đang trong qu&aacute; tr&igrave;nh cập nhật nội dung mỗi tuần n&ecirc;n kh&ocirc;ng thể tr&aacute;nh khỏi sai s&oacute;t. Rất mong bạn đọc th&ocirc;ng cảm. Nếu c&oacute; bất cứ thắc mắc n&agrave;o h&atilde;y ib cho page <a href="https://www.facebook.com/tek4.vn">TEK4.VN</a> hoặc thảo luận tại group <a href="https://www.facebook.com/groups/tek4.vn">TEK4.VN- Học Lập Tr&igrave;nh Miễn Ph&iacute;</a>_WARNING___]"</pre>
<h3 style="text-align: justify;">Giới thiệu kh&oacute;a học machine learning cơ bản với Python</h3>
Bạn nghe n&oacute;i về tr&iacute; tuệ nh&acirc;n tạo rồi machine learning v&agrave; muốn t&igrave;m hiểu về n&oacute;. Kh&oacute;a học n&agrave;y l&agrave; gi&agrave;nh cho bạn.
Kh&oacute;a học n&agrave;y được thiết kế một c&aacute;ch b&agrave;i bản với những kiến thức từ cơ bản đến n&acirc;ng cao gi&uacute;p bạn c&oacute; khả năng l&agrave;m quen một c&aacute;ch dễ d&agrave;ng nhất với lĩnh vực machine learning.
C&aacute;c chủ đề của kh&oacute;a học được thiết kế liền mạch với những giải th&iacute;ch dễ hiểu v&agrave; v&iacute; dụ minh họa thực tế. Với mỗi b&agrave;i học, bạn sẽ được l&agrave;m quen với c&aacute;c kỹ năng mới v&agrave; n&acirc;ng cao hiểu biết của m&igrave;nh về lĩnh vực học m&aacute;y đầy th&aacute;ch thức nhưng lại v&ocirc; c&ugrave;ng th&uacute; vị với nhiều ứng dụng thực tế n&agrave;y.
Một điều đặc biệt nữa của kh&oacute;a học l&agrave; n&oacute; được thiết kế sao cho mỗi phần l&agrave; tương đối độc lập. V&igrave; vậy, bạn c&oacute; thể học to&agrave;n bộ kh&oacute;a học từ đầu đến cuối hoặc bạn cũng c&oacute; thể nhảy ngay v&agrave;o bất kỳ phần cụ thể n&agrave;o v&agrave; t&igrave;m hiểu những g&igrave; bạn cần ngay lập tức.
Hơn nữa, kh&oacute;a học bao gồm nhiều b&agrave;i tập dựa tr&ecirc;n c&aacute;c nghi&ecirc;n cứu t&igrave;nh huống thực tế trong đời sống. V&igrave; vậy, bạn kh&ocirc;ng chỉ học l&yacute; thuyết m&agrave; c&ograve;n được thực h&agrave;nh rất nhiều v&iacute; dụ để x&acirc;y dựng c&aacute;c m&ocirc; h&igrave;nh của ri&ecirc;ng m&igrave;nh một c&aacute;ch thực thụ. Đặc biệt, bạn sẽ được luyện tập với c&aacute;c kh&aacute;i niệm NGAY LẬP TỨC với hệ thống b&agrave;i tập được hệ thống h&oacute;a v&agrave; đ&aacute;nh gi&aacute; trực tiếp tr&ecirc;n TEK4.VN.
<h3 style="text-align: justify;">Kh&oacute;a học machine learning cơ bản với Python n&agrave;y d&agrave;nh cho ai?</h3>
<ul>
<li style="text-align: justify;">Bất cứ ai quan t&acirc;m đến Machine Learning.</li>
<li style="text-align: justify;">Học vi&ecirc;n đ&atilde; c&oacute; những kiến thức trung học phổ th&ocirc;ng về to&aacute;n v&agrave; muốn bắt đầu học Machine Learning.</li>
<li style="text-align: justify;">Bất kỳ ai đ&atilde; c&oacute; những kiến thức cơ bản về học m&aacute;y, như c&aacute;c thuật to&aacute;n cổ điển như hồi quy tuyến t&iacute;nh hoặc hồi quy logistic, nhưng vẫn muốn t&igrave;m hiểu th&ecirc;m về học m&aacute;y v&agrave; kh&aacute;m ph&aacute; c&aacute;c kh&iacute;a cạnh kh&aacute;c của machine learning.</li>
<li style="text-align: justify;">Bất kỳ ai gặp kh&oacute; khăn trong việc lập tr&igrave;nh để &aacute;p dụng c&aacute;c thuật to&aacute;n học m&aacute;y v&agrave;o b&agrave;i to&aacute;n thực tế.</li>
<li style="text-align: justify;">Bất kỳ sinh vi&ecirc;n đại học n&agrave;o muốn bắt đầu sự nghiệp trong lĩnh vực machine learning.</li>
<li style="text-align: justify;">Bất kỳ ai muốn n&acirc;ng cao kiến thức của bản th&acirc;n trong lĩnh vực Machine Learning.</li>
<li style="text-align: justify;">Bất kỳ người n&agrave;o kh&ocirc;ng h&agrave;i l&ograve;ng với c&ocirc;ng việc của họ v&agrave; muốn trở th&agrave;nh Nh&agrave; khoa học dữ liệu.</li>
<li style="text-align: justify;">Bất kỳ người n&agrave;o muốn tạo gi&aacute; trị gia tăng cho doanh nghiệp của họ bằng c&aacute;ch sử dụng c&aacute;c c&ocirc;ng cụ Machine Learning mạnh mẽ.</li>
</ul>

Machine Learning cơ bản với Python

Trong Machine Learning, Dimension Reduction (giảm chiều ma trận) l&agrave; qu&aacute; tr&igrave;nh biến đổi dữ liệu từ kh&ocirc;ng gian c&oacute; số chiều cao về kh&ocirc;ng gian c&oacute; số chiều thấp, nhưng vẫn giữ được những đặc t&iacute;nh c&oacute; &yacute; nghĩa của dữ liệu. Trường hợp l&yacute; tưởng l&agrave; sau khi thực hiện dimension reduction, số chiều sau khi biến đổi sẽ bằng hoặc gần bằng số chiều tối thiểu để biểu diễn dữ liệu đ&oacute;.
L&agrave;m việc với dữ liệu ở kh&ocirc;ng gian cao chiều c&oacute; nhiều nhược điểm: dữ liệu th&ocirc; th&igrave; thường sẽ thưa, do hậu quả của curse of dimentionality (lời nguyền đa chiều), v&agrave; qu&aacute; tr&igrave;nh ph&acirc;n t&iacute;ch dữ liệu thường sẽ mất rất nhiều thời gian để xử l&yacute; dữ liệu. Giảm chiều dữ liệu phổ biến trong c&aacute;c lĩnh vực c&oacute; số lượng bản ghi lớn v&agrave;/hoặc số lượng features lớn, chẳng hạn như xử l&yacute; t&iacute;n hiệu, nhận dạng tiếng n&oacute;i, th&ocirc;ng tin học thần kinh (tin học thần kinh, neuroinformatics), v&agrave; tin sinh học.
C&aacute;c phương ph&aacute;p giảm chiều dữ liệu th&ocirc;ng thường được chia th&agrave;nh 2 loại l&agrave; tuyến t&iacute;nh v&agrave; phi tuyến t&iacute;nh. C&aacute;c c&aacute;ch tiếp cận cũng được chia th&agrave;nh lựa chọn đặc trưng (feature selection) v&agrave; tr&iacute;ch chọn đặc trưng (feature extraction). Giảm chiều dữ liệu c&oacute; thể được sử dụng cho giảm nhiễu (noise reduction), trực quan h&oacute;a dữ liệu (data visualization), ph&acirc;n t&iacute;ch cụm (cluster analysis), hoặc l&agrave; một bước trung gian để tạo điều kiện thuận lợi cho c&aacute;c ph&acirc;n t&iacute;ch kh&aacute;c.
<h2>Principal component analysis - PCA (Ph&acirc;n t&iacute;ch th&agrave;nh phần cơ bản)</h2>
PCA l&agrave; phương ph&aacute;p tuyến t&iacute;nh th&ocirc;ng dụng nhất để giảm chiều dữ liệu. PCA thực hiện một ph&eacute;p biến đổi tuyến t&iacute;nh, chuyển dữ liệu sang kh&ocirc;ng gian thấp chiều hơn. Khi thực hiện biến đổi, PCA tối đa h&oacute;a variance dữ liệu ở kh&ocirc;ng gian thấp chiều.
Trong thực tế, ta sử dụng ma trận covariance (v&agrave; đ&ocirc;i khi cả ma trận tương quan) v&agrave; t&iacute;nh c&aacute;c eigenvector của ma trận. Eigenvector c&oacute; eigenvalue lớn nhất (th&agrave;nh phần ch&iacute;nh - principle component) được chọn để t&aacute;i tạo một lượng variance lớn của dữ liệu. Những eigenvectors tiếp theo c&ograve;n c&oacute; thể được sử dụng để m&ocirc; tả c&aacute;c t&iacute;nh chất v&agrave; biểu hiện l&yacute; học của kh&ocirc;ng gian chứa dữ liệu.
Ph&eacute;p biến đổi tạo ra những ưu điểm sau đối với dữ liệu:
<ul>
<li>Giảm số chiều của kh&ocirc;ng gian chứa dữ liệu khi n&oacute; c&oacute; số chiều lớn.</li>
<li>X&acirc;y dựng những trục tọa độ mới, thay v&igrave; giữ lại c&aacute;c trục của kh&ocirc;ng gian cũ, nhưng lại c&oacute; khả năng biểu diễn dữ liệu tốt tương đương, v&agrave; đảm bảo độ biến thi&ecirc;n của dữ liệu tr&ecirc;n mỗi chiều mới.</li>
<li>Tạo điều kiện để c&aacute;c li&ecirc;n kết tiềm ẩn của dữ liệu c&oacute; thể được kh&aacute;m ph&aacute; trong kh&ocirc;ng gian mới, m&agrave; nếu đặt trong kh&ocirc;ng gian cũ th&igrave; kh&oacute; ph&aacute;t hiện v&igrave; những li&ecirc;n kết n&agrave;y kh&ocirc;ng thể hiện r&otilde;.</li>
<li>Đảm bảo c&aacute;c trục tọa độ trong kh&ocirc;ng gian mới lu&ocirc;n trực giao đ&ocirc;i một với nhau, mặc d&ugrave; trong kh&ocirc;ng gian ban đầu c&aacute;c trục c&oacute; thể kh&ocirc;ng trực giao.</li>
<li>Ch&uacute;ng ta h&atilde;y tiếp cận một v&iacute; dụ để c&oacute; thể hiểu được thuật to&aacute;n của PCA.</li>
</ul>
Trước khi ta c&oacute; thể chiếu tập dữ liệu về một kh&ocirc;ng gian c&oacute; chiều thấp hơn, ta cần chọn mặt phẳng ph&ugrave; hợp để chiếu dữ liệu.
H&atilde;y nh&igrave;n v&agrave;o ảnh b&ecirc;n dưới:
<img style="width: 100%;" src="https://tek4.vn/public_files/1ce799e5-295d-4b66-ad33-79fbd5d219c7" alt="Screenshot_20221201_045234" />
Ảnh b&ecirc;n dưới hiển thị một tập dữ liệu 2 chiều đơn giản. Tr&ecirc;n tập dữ liệu n&agrave;y, c&oacute; 3 trục (mặt phẳng 1 chiều), v&agrave; ph&eacute;p chiếu dữ liệu l&ecirc;n 3 trục n&agrave;y sẽ cho ra 3 thể hiện kh&aacute;c nhau của c&ugrave;ng tập dữ liệu đ&oacute;.
C&oacute; thể dễ thấy rằng trục đầu ti&ecirc;n, k&yacute; hiệu c1, sẽ bảo to&agrave;n được variance của tập dữ liệu cũ một c&aacute;ch tốt nhất, do ph&eacute;p chiếu l&ecirc;n trục n&agrave;y sẽ mất đi &iacute;t th&ocirc;ng tin hơn so với 2 trục c&ograve;n lại. Hoặc n&oacute;i theo c&aacute;ch kh&aacute;c, trục c1 l&agrave; trục tối thiểu h&oacute;a mất m&aacute;t MSE giữa bộ dữ liệu gốc v&agrave; dữ liệu đ&atilde; chiếu. Đ&acirc;y ch&iacute;nh l&agrave; &yacute; tưởng cơ bản của PCA.
PCA sẽ nhận diện trục c&oacute; variance lớn nhất khi dữ liệu chiếu l&ecirc;n đ&oacute;. Trong ảnh tr&ecirc;n, đ&oacute; l&agrave; trục được vẽ bằng đường n&eacute;t liền. Đồng thời, PCA cũng t&igrave;m trục thứ 2, vu&ocirc;ng g&oacute;c với trục đầu ti&ecirc;n, m&agrave; giữ lại được lượng variance lớn nhất c&ograve;n lại. V&iacute; dụ của ch&uacute;ng ta l&agrave; dữ liệu 2 chiều, n&ecirc;n ngo&agrave;i đường n&eacute;t chấm l&agrave; lựa chọn duy nhất của ta.&nbsp;
Nếu PCA được &aacute;p dụng l&ecirc;n bộ dữ liệu c&oacute; số chiều cao hơn, PCA sẽ tiếp tục t&igrave;m trục thứ 3, thứ 4, v&agrave; tiếp tục cho đến khi số trục bằng số chiều dữ liệu.&nbsp;
L&agrave;m thế n&agrave;o để ta c&oacute; thể t&igrave;m c&aacute;c th&agrave;nh phần ch&iacute;nh của dữ liệu? Ta sử dụng một kỹ thuật ph&acirc;n r&atilde; ma trận l&agrave; Singular Value Decomposition (ph&acirc;n r&atilde; gi&aacute; trị đơn). SVD ph&acirc;n bất kỳ một ma trận X th&agrave;nh t&iacute;ch của 3 ma trận, l&agrave; $U, \sigma, V^T$, trong đ&oacute; c&oacute; $V^T$ chứa tất cả những th&agrave;nh phần ch&iacute;nh ta cần t&igrave;m.
&nbsp;$V_T = \begin{pmatrix} &nbsp; | &amp; | &amp; &amp; |\\&nbsp; &nbsp; c_1 &amp; c_2 &amp; ... &amp; c_n\\ &nbsp; | &amp; | &amp; &amp; | \end{pmatrix}$
Khi thực hiện PCA, bắt buộc phải center dữ liệu về điểm $O(0, 0)$. H&agrave;m PCA của Scikit-learn sẽ tự động khi người lập tr&igrave;nh sử dụng, nhưng nếu người d&ugrave;ng tự reimplement lại PCA, cần phải center dữ liệu.
Đoạn code Python sau đ&acirc;y sử dụng h&agrave;m svd() của numpy để lấy tất cả c&aacute;c th&agrave;nh phần ch&iacute;nh của tập X, rồi lấy ra 2 th&agrave;nh phần cơ bản đầu ti&ecirc;n:
<pre class="language-python"><code>X_centered = X = X.mean(axis=0)
U, s, V = np.linalg.svd(X_centered)
c1 = V.T[:, 0]
c2 = V.T[:, 1]</code></pre>
Sau khi đ&atilde; x&aacute;c định được tất cả c&aacute;c th&agrave;nh phần cơ bản, ta c&oacute; thể giảm chiều ma trận xuống c&ograve;n d chiều, bằng c&aacute;ch chiếu tập dữ liệu v&agrave;o kh&ocirc;ng gian d-chiều được x&aacute;c lập bởi d th&agrave;nh phần ch&iacute;nh. Chọn hyperplane n&agrave;y sẽ đảm bảo ph&eacute;p chiếu bảo to&agrave;n được tối đa lượng variance c&oacute; thể. V&iacute; dụ cụ thể ở 2 h&igrave;nh dưới đ&acirc;y:
<img style="width: 100%;" src="https://tek4.vn/public_files/3c7dd4df-9f71-4888-b010-688623204dc8" alt="Screenshot_20221201_045429" />
<img style="width: 100%;" src="https://tek4.vn/public_files/7fe594d2-50e1-42a2-bd25-09c7dc30664a" alt="Screenshot_20221201_045441" />
Dataset 3D được chiếu xuống mặt phẳng 2D, x&aacute;c lập bởi 2 th&agrave;nh phần ch&iacute;nh, bảo to&agrave;n được một lượng variance lớn. Ch&iacute;nh v&igrave; vậy, dữ liệu được chiếu c&oacute; h&igrave;nh dạng rất giống dữ liệu gốc tr&ecirc;n đồ thị.
Để c&oacute; thể chiếu dữ liệu sang si&ecirc;u mặt phẳng thấp chiều, ta c&oacute; thể sử dụng ph&eacute;p nh&acirc;n ma trận $X$ với ma trận $W_d$, được định nghĩa l&agrave; ma trận chứa $d$ cột đầu ti&ecirc;n của $V^T$.
$$ X_{d-proj} = X \cdot W_d $$
Scikit-learn cũng hỗ trợ sử dụng PCA, trong thư viện sklearn.decomposition. Ta c&oacute; thể sử dụng n&oacute; như sau:
<pre class="language-python"><code>from sklearn.decomposition import PCA

pca = PCA(n_components = 2)
X2D = pca.fit_transform(X)</code></pre>
<hr />
Fanpage Facebook:&nbsp;<a href="https://www.facebook.com/tek4.vn/">TEK4.VN</a>&nbsp;
Tham gia cộng đồng để chia sẻ, trao đổi v&agrave; thảo luận:&nbsp;<a href="https://www.facebook.com/groups/tek4.vn/">TEK4.VN - Học Lập Tr&igrave;nh Miễn Ph&iacute;</a>

Tổng quan về Giảm chiều dữ liệu và Principle Component Analysis