<pre style="text-align: center;">"[___WARNING_Kh&oacute;a học đang trong qu&aacute; tr&igrave;nh cập nhật nội dung mỗi tuần n&ecirc;n kh&ocirc;ng thể tr&aacute;nh khỏi sai s&oacute;t. Rất mong bạn đọc th&ocirc;ng cảm. Nếu c&oacute; bất cứ thắc mắc n&agrave;o h&atilde;y ib cho page <a href="https://www.facebook.com/tek4.vn">TEK4.VN</a> hoặc thảo luận tại group <a href="https://www.facebook.com/groups/tek4.vn">TEK4.VN- Học Lập Tr&igrave;nh Miễn Ph&iacute;</a>_WARNING___]"</pre>
<h3 style="text-align: justify;">Giới thiệu kh&oacute;a học machine learning cơ bản với Python</h3>
Bạn nghe n&oacute;i về tr&iacute; tuệ nh&acirc;n tạo rồi machine learning v&agrave; muốn t&igrave;m hiểu về n&oacute;. Kh&oacute;a học n&agrave;y l&agrave; gi&agrave;nh cho bạn.
Kh&oacute;a học n&agrave;y được thiết kế một c&aacute;ch b&agrave;i bản với những kiến thức từ cơ bản đến n&acirc;ng cao gi&uacute;p bạn c&oacute; khả năng l&agrave;m quen một c&aacute;ch dễ d&agrave;ng nhất với lĩnh vực machine learning.
C&aacute;c chủ đề của kh&oacute;a học được thiết kế liền mạch với những giải th&iacute;ch dễ hiểu v&agrave; v&iacute; dụ minh họa thực tế. Với mỗi b&agrave;i học, bạn sẽ được l&agrave;m quen với c&aacute;c kỹ năng mới v&agrave; n&acirc;ng cao hiểu biết của m&igrave;nh về lĩnh vực học m&aacute;y đầy th&aacute;ch thức nhưng lại v&ocirc; c&ugrave;ng th&uacute; vị với nhiều ứng dụng thực tế n&agrave;y.
Một điều đặc biệt nữa của kh&oacute;a học l&agrave; n&oacute; được thiết kế sao cho mỗi phần l&agrave; tương đối độc lập. V&igrave; vậy, bạn c&oacute; thể học to&agrave;n bộ kh&oacute;a học từ đầu đến cuối hoặc bạn cũng c&oacute; thể nhảy ngay v&agrave;o bất kỳ phần cụ thể n&agrave;o v&agrave; t&igrave;m hiểu những g&igrave; bạn cần ngay lập tức.
Hơn nữa, kh&oacute;a học bao gồm nhiều b&agrave;i tập dựa tr&ecirc;n c&aacute;c nghi&ecirc;n cứu t&igrave;nh huống thực tế trong đời sống. V&igrave; vậy, bạn kh&ocirc;ng chỉ học l&yacute; thuyết m&agrave; c&ograve;n được thực h&agrave;nh rất nhiều v&iacute; dụ để x&acirc;y dựng c&aacute;c m&ocirc; h&igrave;nh của ri&ecirc;ng m&igrave;nh một c&aacute;ch thực thụ. Đặc biệt, bạn sẽ được luyện tập với c&aacute;c kh&aacute;i niệm NGAY LẬP TỨC với hệ thống b&agrave;i tập được hệ thống h&oacute;a v&agrave; đ&aacute;nh gi&aacute; trực tiếp tr&ecirc;n TEK4.VN.
<h3 style="text-align: justify;">Kh&oacute;a học machine learning cơ bản với Python n&agrave;y d&agrave;nh cho ai?</h3>
<ul>
<li style="text-align: justify;">Bất cứ ai quan t&acirc;m đến Machine Learning.</li>
<li style="text-align: justify;">Học vi&ecirc;n đ&atilde; c&oacute; những kiến thức trung học phổ th&ocirc;ng về to&aacute;n v&agrave; muốn bắt đầu học Machine Learning.</li>
<li style="text-align: justify;">Bất kỳ ai đ&atilde; c&oacute; những kiến thức cơ bản về học m&aacute;y, như c&aacute;c thuật to&aacute;n cổ điển như hồi quy tuyến t&iacute;nh hoặc hồi quy logistic, nhưng vẫn muốn t&igrave;m hiểu th&ecirc;m về học m&aacute;y v&agrave; kh&aacute;m ph&aacute; c&aacute;c kh&iacute;a cạnh kh&aacute;c của machine learning.</li>
<li style="text-align: justify;">Bất kỳ ai gặp kh&oacute; khăn trong việc lập tr&igrave;nh để &aacute;p dụng c&aacute;c thuật to&aacute;n học m&aacute;y v&agrave;o b&agrave;i to&aacute;n thực tế.</li>
<li style="text-align: justify;">Bất kỳ sinh vi&ecirc;n đại học n&agrave;o muốn bắt đầu sự nghiệp trong lĩnh vực machine learning.</li>
<li style="text-align: justify;">Bất kỳ ai muốn n&acirc;ng cao kiến thức của bản th&acirc;n trong lĩnh vực Machine Learning.</li>
<li style="text-align: justify;">Bất kỳ người n&agrave;o kh&ocirc;ng h&agrave;i l&ograve;ng với c&ocirc;ng việc của họ v&agrave; muốn trở th&agrave;nh Nh&agrave; khoa học dữ liệu.</li>
<li style="text-align: justify;">Bất kỳ người n&agrave;o muốn tạo gi&aacute; trị gia tăng cho doanh nghiệp của họ bằng c&aacute;ch sử dụng c&aacute;c c&ocirc;ng cụ Machine Learning mạnh mẽ.</li>
</ul>

Machine Learning cơ bản với Python

<h2 id="vấn-đề" style="text-align: justify;">Đặt vấn đề</h2>
Khi ta huấn luyện một m&ocirc; h&igrave;nh. Để đạt độ ch&iacute;nh x&aacute;c cao ta thường muốn giảm dần tốc độ học trong qu&aacute; tr&igrave;nh huấn luyện, thường l&agrave; với tỉ lệ $O(t^{-\frac{1}{2}})$ hoặc chậm hơn. &nbsp;X&eacute;t một m&ocirc; h&igrave;nh huấn luyện dựa tr&ecirc;n c&aacute;c đặc trưng thưa (c&aacute;c đặc trưng xuất hiện &iacute;t). kh&ocirc;ng nhữ đ&acirc;y l&agrave; điều thường gặp trong ng&ocirc;n ngữ tự nhi&ecirc;n, v&iacute; dụ từ preconditioning hiếm gặp hơn nhiều so với learning m&agrave; c&ograve;n l&agrave; vấn đề thường gặp trong nhiều mảng kh&aacute;c như quảng c&aacute;o điện to&aacute;n (computational advertising) v&agrave; lọc cộng t&aacute;c (collaborative filtering). C&aacute;c trọng số li&ecirc;n quan đến c&aacute;c đặc trưng thưa chỉ được cập nhật khi những đặc trưng n&agrave;y xuất hiện.&nbsp;
Đối với tốc độ học giảm dần, ta c&oacute; thể gặp phải trường hợp c&aacute;c tham số của những đặc trưng phổ biến hội tụ kh&aacute; nhanh đến gi&aacute; trị tối ưu, trong khi đối với c&aacute;c đặc trưng thưa, ta kh&ocirc;ng c&oacute; đủ số lượng dữ liệu tđể x&aacute;c định gi&aacute; trị tối ưu của ch&uacute;ng. N&oacute;i c&aacute;ch kh&aacute;c, tốc độ học hoặc l&agrave; giảm qu&aacute; chậm đối với c&aacute;c đặc trưng phổ biến hoặc l&agrave; qu&aacute; nhanh đối với c&aacute;c đặc trưng &iacute;t phổ biến.
Một c&aacute;ch để khắc phục vấn đề n&agrave;y l&agrave; đếm ố lần ta gặp một đặc trưng nhất định v&agrave; sử dụng n&oacute; để điều chỉnh tốc độ học. Tức l&agrave; thay v&igrave; chọn tốc độ học theo c&ocirc;ng thức $\eta= \frac{\eta_{0}}{\sqrt{t + c}}$ ta c&oacute; thể sử dụng $\eta_{i}= \frac{\eta_{0}}{\sqrt{s(i,t) + c}}$. Trong đ&oacute; $s(i, t)$ l&agrave; số gi&aacute; trị kh&aacute;c kh&ocirc;ng của đặc trưng $i$ ta quan s&aacute;t được đến thời điểm $t$. Tuy nhi&ecirc;n, c&aacute;ch n&agrave;y thất bại trong trường hợp khi đặc trưng kh&ocirc;ng hẳn l&agrave; thưa, chỉ l&agrave; c&oacute; gradient nhỏ v&agrave; hiếm khi đạt gi&aacute; trị lớn. X&eacute;t cho c&ugrave;ng, ta kh&oacute; ph&acirc;n định r&otilde; r&agrave;ng l&agrave; khi n&agrave;o th&igrave; đặc trưng l&agrave; đ&atilde; được quan s&aacute;t chưa.&nbsp;
<h2 id="adagrad" style="text-align: justify;">Adagrad</h2>
Adagrad cũng l&agrave; một thuật to&aacute;n để tối ưu h&oacute;a dựa tr&ecirc;n gradient descent, thuật to&aacute;n n&agrave;y gi&uacute;p điều chỉnh tốc độ học ứng với c&aacute;c t&iacute;nh năng kh&aacute;c nhau, thực hiện c&aacute;c cập nhật nhỏ hơn (tức l&agrave; tốc độ học thấp) cho c&aacute;c tham số li&ecirc;n quan đến c&aacute;c t&iacute;nh năng thường xuy&ecirc;n xuất hiện v&agrave; c&aacute;c cập nhật lớn hơn (tức l&agrave; tốc độ học cao) cho c&aacute;c tham số li&ecirc;n quan đến c&aacute;c t&iacute;nh năng kh&ocirc;ng thường xuy&ecirc;n. V&igrave; l&yacute; do n&agrave;y, Adagrad rất th&iacute;ch hợp để xử l&yacute; dữ liệu thưa thớt. Một v&agrave;i dẫn chứng về hiệu quả của Adagrad l&agrave; Dean đ&atilde; ph&aacute;t hiện ra rằng Adagrad đ&atilde; cải thiện đ&aacute;ng kể độ bền của SGD v&agrave; sử dụng n&oacute; để đ&agrave;o tạo mạng lưới thần kinh quy m&ocirc; lớn tại Google, Pennington đ&atilde; sử dụng Adagrad để đ&agrave;o tạo nh&uacute;ng từ GloVe v&igrave; những từ kh&ocirc;ng thường xuy&ecirc;n xuất hiện y&ecirc;u cầu cập nhật lớn hơn nhiều so với những từ xuất hiện thường xuy&ecirc;n.
Adagrad hiệu quả do c&aacute;ch t&iacute;nh $s(t, i)$ đượ thay bằng tổng b&igrave;nh phương của tất cả c&aacute;c gradient được quan s&aacute;t trước đ&oacute;. Cụ thể, n&oacute; sử dụng $s(i, t+1) = s(i, t)+ (\partial_i f(\mathbf{x}))^2$ l&agrave;m c&ocirc;ng cụ để điều chỉnh tốc độ học. Việc n&agrave;y c&oacute; hai ưu điểm: Thứ nhất ta kh&ocirc;ng cần phải quyết định khi n&agrave;o th&igrave; gradient được coi l&agrave; đủ lớn. Thứ hai n&oacute; tự động thay đổi gi&aacute; trị t&ugrave;y theo độ lớn của gradient. C&aacute;c tọa độ thường xuy&ecirc;n c&oacute; gradient lớn bị giảm đ&aacute;ng kể, trong khi c&aacute;c tọa độ kh&aacute;c với grandient nhỏ được xử l&yacute; nhẹ nh&agrave;ng hơn
<h3 id="c&ocirc;ng-thức" style="text-align: justify;">C&ocirc;ng thức</h3>
Ở đ&acirc;y ta sử dụng biến $s_t$ để t&iacute;ch lũy phương sai của c&aacute;c gradient trong qu&aacute; khứ như sau:
$\mathbf{g}_t= \partial_wl(y_t, f(\mathbf{x}_t, \mathbf{w}))$
$\mathbf{s}_t =\mathbf{s}_{t-1} + \mathbf{g}_t^2$
$\mathbf{w}_t =\mathbf{w}_{t-1} -\frac{\eta}{\sqrt{\mathbf{s}_t + \epsilon}}*\mathbf{g}_t$
C&aacute;c c&ocirc;ng thức tr&ecirc;n được biến đổi tr&ecirc;n từng t&iacute;nh năng, để hiểu r&otilde; hơn ta sẽ xem v&iacute; dụ dưới đ&acirc;y:&nbsp;
X&eacute;t h&agrave;m: $f(x) = 0.1x_1^2 + 2x_2^2$ đ&acirc;y l&agrave; h&agrave;m số m&agrave; ta đ&atilde; sử dụng ở phần trước, b&acirc;y giờ ta sẽ thử t&igrave;m điểm tối ưu của h&agrave;m tr&ecirc;n nhưng vẫn sử dụng tốc độ học l&agrave; $0.4$ như ở b&agrave;i trước để thấy được sự kh&aacute;c biệt:
<pre class="language-python"><code>%matplotlib inline
from d2l import mxnet as d2l
import math
from mxnet import np, npx
npx.set_np()

def adagrad_2d(x1, x2, s1, s2):
 eps = 1e-6
 g1, g2 = 0.2 * x1, 4 * x2
 s1 += g1 ** 2
 s2 += g2 ** 2
 x1 -= eta / math.sqrt(s1 + eps) * g1
 x2 -= eta / math.sqrt(s2 + eps) * g2
 return x1, x2, s1, s2

def f_2d(x1, x2):
 return 0.1 * x1 ** 2 + 2 * x2 ** 2

def train_2d(trainer, steps=20): #@save
 """Optimize a 2-dim objective function with a customized trainer."""
 # s1 and s2 are internal state variables and will
 # be used later in the chapter
 x1, x2, s1, s2 = -5, -2, 0, 0
 results = [(x1, x2)]
 for i in range(steps):
 x1, x2, s1, s2 = trainer(x1, x2, s1, s2)
 results.append((x1, x2))
 return results

def show_trace_2d(f, results): #@save
 """Show the trace of 2D variables during optimization."""
 d2l.set_figsize()
 d2l.plt.plot(*zip(*results), '-o', color='#ff7f0e')
 x1, x2 = np.meshgrid(np.arange(-5.5, 1.0, 0.1),
 np.arange(-3.0, 1.0, 0.1))
 d2l.plt.contour(x1, x2, f(x1, x2), colors='#1f77b4')
 d2l.plt.xlabel('x1')
 d2l.plt.ylabel('x2')
eta = 0.4
d2l.show_trace_2d(f_2d, d2l.train_2d(adagrad_2d))</code></pre>
Ta c&oacute; thể thấy trong h&agrave;m adagrad_2d th&igrave; mỗi một t&iacute;nh năng sẽ c&oacute; c&aacute;c tham số cập nhật kh&aacute;c nhau, trong v&iacute; dụ n&agrave;y c&aacute;c t&iacute;nh năng ch&iacute;nh l&agrave; $x_1$ v&agrave; $x_2$. Qu&aacute; tr&igrave;nh tối ưu được thể hiện qua h&igrave;nh dưới:
<img style="width: 600px; display: block; margin-left: auto; margin-right: auto;" src="https://tek4.vn/public_files/927f3c88-27e9-487e-ac07-712ff0dcd2f4" alt="ada1" />
Ở h&igrave;nh tr&ecirc;n ta c&oacute; thể thấy thuật to&aacute;n đ&atilde; mượt đi rất nhiều đối với hướng $x_2$, giờ ta thử thay đổi l&ecirc;n tốc độ học l&agrave; $2$ xem điều g&igrave; xảy ra.
<pre class="language-python"><code>eta = 2
d2l.show_trace_2d(f_2d, d2l.train_2d(adagrad_2d))</code></pre>
<img style="width: 600px; display: block; margin-left: auto; margin-right: auto;" src="https://tek4.vn/public_files/7ae1df69-43ca-4d76-b6b7-861166c6a47a" alt="ada2" />
Ta thấy l&uacute;c n&agrave;y thuật to&aacute;n tiệm cận điểm tối ưu rất nhanh.
Vậy ở b&agrave;i n&agrave;y ta đ&atilde; biết c&aacute;ch điều chỉnh learning rate để cho thuật to&aacute;n nhanh đạt điểm tối ưu, đặc biệt l&agrave; trong c&aacute;c b&agrave;i to&aacute;n về xử l&yacute; ng&ocirc;n ngữ khi c&aacute;c từ xuất hiện thưa thớt trong tập dữ liệu. Ở b&agrave;i sau ta sẽ đi t&igrave;m hiểu về RmsProp, đ&acirc;y l&agrave; một biến thể của Gradient Descent.
<hr />
Fanpage Facebook:&nbsp;<a href="https://www.facebook.com/tek4.vn/">TEK4.VN</a>&nbsp;
Tham gia cộng đồng để chia sẻ, trao đổi v&agrave; thảo luận:&nbsp;<a href="https://www.facebook.com/groups/tek4.vn/">TEK4.VN - Học Lập Tr&igrave;nh Miễn Ph&iacute;</a>

Thuật toán Adagrad và vấn đề hiệu chỉnh Learning Rate