<pre style="text-align: center;"><em>"[___WARNING_Kh&oacute;a học đang trong qu&aacute; tr&igrave;nh cập nhật nội dung mỗi tuần <br />n&ecirc;n kh&ocirc;ng thể tr&aacute;nh khỏi sai s&oacute;t. Rất mong bạn đọc th&ocirc;ng cảm. <br />Nếu c&oacute; bất cứ thắc mắc n&agrave;o h&atilde;y ib cho page <a href="https://www.facebook.com/tek4.vn">TEK4.VN</a> <br />hoặc thảo luận tại group <a href="https://www.facebook.com/groups/tek4.vn">TEK4.VN- Học Lập Tr&igrave;nh Miễn Ph&iacute;</a>_WARNING___]"</em></pre>
<h3 style="text-align: justify;">Giới thiệu kh&oacute;a học machine learning cơ bản với Python</h3>
<p style="text-align: justify;">Bạn nghe n&oacute;i về tr&iacute; tuệ nh&acirc;n tạo rồi machine learning v&agrave; muốn t&igrave;m hiểu về n&oacute;. Kh&oacute;a học n&agrave;y l&agrave; gi&agrave;nh cho bạn.</p>
<p style="text-align: justify;">Kh&oacute;a học n&agrave;y được thiết kế một c&aacute;ch b&agrave;i bản với những kiến thức từ cơ bản đến n&acirc;ng cao gi&uacute;p bạn c&oacute; khả năng l&agrave;m quen một c&aacute;ch dễ d&agrave;ng nhất với lĩnh vực machine learning.</p>
<p style="text-align: justify;">C&aacute;c chủ đề của kh&oacute;a học được thiết kế liền mạch với những giải th&iacute;ch dễ hiểu v&agrave; v&iacute; dụ minh họa thực tế. Với mỗi b&agrave;i học, bạn sẽ được l&agrave;m quen với c&aacute;c kỹ năng mới v&agrave; n&acirc;ng cao hiểu biết của m&igrave;nh về lĩnh vực học m&aacute;y đầy th&aacute;ch thức nhưng lại v&ocirc; c&ugrave;ng th&uacute; vị với nhiều ứng dụng thực tế n&agrave;y.</p>
<p style="text-align: justify;">Một điều đặc biệt nữa của kh&oacute;a học l&agrave; n&oacute; được thiết kế sao cho mỗi phần l&agrave; tương đối độc lập. V&igrave; vậy, bạn c&oacute; thể học to&agrave;n bộ kh&oacute;a học từ đầu đến cuối hoặc bạn cũng c&oacute; thể nhảy ngay v&agrave;o bất kỳ phần cụ thể n&agrave;o v&agrave; t&igrave;m hiểu những g&igrave; bạn cần ngay lập tức.</p>
<p style="text-align: justify;">Hơn nữa, kh&oacute;a học bao gồm nhiều b&agrave;i tập dựa tr&ecirc;n c&aacute;c nghi&ecirc;n cứu t&igrave;nh huống thực tế trong đời sống. V&igrave; vậy, bạn kh&ocirc;ng chỉ học l&yacute; thuyết m&agrave; c&ograve;n được thực h&agrave;nh rất nhiều v&iacute; dụ để x&acirc;y dựng c&aacute;c m&ocirc; h&igrave;nh của ri&ecirc;ng m&igrave;nh một c&aacute;ch thực thụ. Đặc biệt, bạn sẽ được luyện tập với c&aacute;c kh&aacute;i niệm NGAY LẬP TỨC với hệ thống b&agrave;i tập được hệ thống h&oacute;a v&agrave; đ&aacute;nh gi&aacute; trực tiếp tr&ecirc;n TEK4.VN.</p>
<h3 style="text-align: justify;">Kh&oacute;a học machine learning cơ bản với Python n&agrave;y d&agrave;nh cho ai?</h3>
<ul>
<li style="text-align: justify;">Bất cứ ai quan t&acirc;m đến Machine Learning.</li>
<li style="text-align: justify;">Học vi&ecirc;n đ&atilde; c&oacute; những kiến thức trung học phổ th&ocirc;ng về to&aacute;n v&agrave; muốn bắt đầu học Machine Learning.</li>
<li style="text-align: justify;">Bất kỳ ai đ&atilde; c&oacute; những kiến thức cơ bản về học m&aacute;y, như c&aacute;c thuật to&aacute;n cổ điển như hồi quy tuyến t&iacute;nh hoặc hồi quy logistic, nhưng vẫn muốn t&igrave;m hiểu th&ecirc;m về học m&aacute;y v&agrave; kh&aacute;m ph&aacute; c&aacute;c kh&iacute;a cạnh kh&aacute;c của machine learning.</li>
<li style="text-align: justify;">Bất kỳ ai gặp kh&oacute; khăn trong việc lập tr&igrave;nh để &aacute;p dụng c&aacute;c thuật to&aacute;n học m&aacute;y v&agrave;o b&agrave;i to&aacute;n thực tế.</li>
<li style="text-align: justify;">Bất kỳ sinh vi&ecirc;n đại học n&agrave;o muốn bắt đầu sự nghiệp trong lĩnh vực machine learning.</li>
<li style="text-align: justify;">Bất kỳ ai muốn n&acirc;ng cao kiến thức của bản th&acirc;n trong lĩnh vực Machine Learning.</li>
<li style="text-align: justify;">Bất kỳ người n&agrave;o kh&ocirc;ng h&agrave;i l&ograve;ng với c&ocirc;ng việc của họ v&agrave; muốn trở th&agrave;nh Nh&agrave; khoa học dữ liệu.</li>
<li style="text-align: justify;">Bất kỳ người n&agrave;o muốn tạo gi&aacute; trị gia tăng cho doanh nghiệp của họ bằng c&aacute;ch sử dụng c&aacute;c c&ocirc;ng cụ Machine Learning mạnh mẽ.</li>
</ul>

Machine Learning cơ bản với Python

<h2 style="text-align: justify;">Những thuật to&aacute;n tối ưu kh&aacute;c kh&ocirc;ng sử dụng Gradient descent</h2>
<div class="page" style="text-align: justify;" role="region" data-page-number="1" aria-label="Page 1" data-loaded="true">
<div class="textLayer">Thuật to&aacute;n Gradient descent l&agrave; một trong những kh&aacute;i niệm quan trọng nhất trong ng&agrave;nh học m&aacute;y: cho trước h&agrave;m mất m&aacute;t, thuật to&aacute;n sẽ tiến từng bước dựa v&agrave;o độ dốc, v&agrave; đạt đến điểm cực trị sau một khoảng thời gian t&iacute;nh to&aacute;n. Được Cauchy ph&aacute;t hiện năm 1847 v&agrave; được mở rộng bởi Haskell Curry cho b&agrave;i to&aacute;n tối ưu bất tuyến t&iacute;nh, giờ đ&acirc;y Gradient descent l&agrave; một th&agrave;nh phần kh&ocirc;ng thể thiếu được trong những giải thuật học m&aacute;y, từ Linear Regression cho tới mạng Neuron học s&acirc;u.<br /><br />Mặc d&ugrave; gradient descent, v&agrave; "người con" học s&acirc;u của n&oacute; l&agrave; backpropagation l&agrave; một trong những đột ph&aacute; lớn nhất của ng&agrave;nh tr&iacute; tuệ nh&acirc;n tạo, qu&aacute; tr&igrave;nh tối ưu h&oacute;a trong mạng Neuron th&igrave; lại l&agrave; một trong những b&agrave;i to&aacute;n c&ograve;n ngỏ.<br /><br />Những thuật to&aacute;n tối ưu trong một số trường hợp c&oacute; thể bị kẹt tại c&aacute;c điểm cực trị địa phương c&oacute; độ dốc s&acirc;u. Thực ra, c&oacute; những &yacute; tường gi&uacute;p giải quyết vấn đề n&agrave;y, như momentum để đẩy Gradient descent ra khỏi cực trị địa phương, SGD hoặc chuẩn h&oacute;a theo từng mẻ dữ liệu, l&agrave;m mượt kh&ocirc;ng gian lỗi. Nhưng cực trị địa phương l&agrave; nguy&ecirc;n nh&acirc;n dẫn đến những vấn đề kh&aacute;c trong mạng Neuron.<br /><br /></div>
<div class="textLayer"><img style="width: 100%;" src="https://tek4.vn/public_files/58d41a12-b9f0-4a4f-9f3d-0a2fa4a0a82e" alt="func1" /></div>
<div class="textLayer">&nbsp;</div>
<div class="textLayer">V&igrave; c&aacute;c thuật to&aacute;n tối ưu nhạy cảm với cực trị địa phương, n&ecirc;n d&ugrave; ta c&oacute; thể cải thiện thuật to&aacute;n tối ưu, th&igrave; tốc độ hội tụ cũng rất chậm. Phương ph&aacute;p Gradient descent vốn l&agrave; một phương ph&aacute;p tốn nhiều thời gian do tốc độ hội tụ thấp, d&ugrave; ta đ&atilde; c&oacute; những phương ph&aacute;p để th&iacute;ch ứng với bộ dữ liệu k&iacute;ch thước lớn như batch gradient descent.<br /><br />Gradient descent đặc biệt nhạy cảm với qu&aacute; tr&igrave;nh khởi tạo. V&iacute; dụ, hiệu suất của thuật to&aacute;n tối ưu c&oacute; thể vượt trội hơn khi ta khởi tạo điểm bắt đầu gần cực tiểu địa phương thứ 2 so với cực tiểu địa phương thứ 1, nhưng qu&aacute; tr&igrave;nh khởi tạo l&agrave; một qu&aacute; tr&igrave;nh ngẫu nhi&ecirc;n<br /><br />Tốc độ học m&aacute;y quyết định độ nhanh chậm của Gradient descent, đương nhi&ecirc;n, qu&aacute; nhanh qu&aacute; nguy hiểm: Nếu đặt tốc độ học qu&aacute; cao, thuật to&aacute;n c&oacute; thể kh&ocirc;ng hội tụ. Nếu qu&aacute; thấp, thời gian chạy sẽ bị đột ngột tăng. Để giải quyết vấn đề n&agrave;y, ta c&oacute; thể sử dụng kỹ thuật suy biến tốc độ (learning rate decay), nhưng chọn tham số đ&oacute; như thế n&agrave;o, v&agrave; kiểm so&aacute;t những trường hợp ph&aacute;t sinh từ kỹ thuật suy giảm tốc độ l&agrave; rất kh&oacute;<br /><br />Gradient descent l&agrave; một thuật to&aacute;n dựa tr&ecirc;n đạo h&agrave;m, n&ecirc;n sẽ mắc phải c&aacute;c vấn đề li&ecirc;n quan đến đạo h&agrave;m như hiện tượng suy giảm hoặc b&ugrave;ng nổ đạo h&agrave;m. Ngo&agrave;i ra, Gradient descent kh&ocirc;ng c&oacute; khả năng tối ưu những h&agrave;m kh&ocirc;ng khả vi.<br /><br />Đương nhi&ecirc;n, Gradient descent l&agrave; một phương ph&aacute;p đ&atilde; được nghi&ecirc;n cứu v&ocirc; c&ugrave;ng kỹ lưỡng, v&agrave; c&oacute; c&aacute;ch để khắc phục những nhược điểm, trong đ&oacute; c&oacute; c&aacute;c biến thể của GD v&agrave; những giải ph&aacute;p sử dụng cấu tr&uacute;c mạng - nhưng t&iacute;nh ổn định c&ograve;n kh&ocirc;ng cao. Vả lại, mục ti&ecirc;u của b&agrave;i viết kh&ocirc;ng phải l&agrave; hướng dẫn người đọc sử dụng batch normalization để l&agrave;m mượt kh&ocirc;ng gian lỗi, hay lựa chọn một thuật to&aacute;n tối ưu kh&aacute;c như AdaGrad hoặc Adam.<br /><br />Mục ti&ecirc;u của b&agrave;i viết n&agrave;y ch&iacute;nh l&agrave; giới thiệu những phương ph&aacute;p tối ưu kh&aacute;c, &iacute;t th&ocirc;ng dụng hơn, nhưng th&uacute; vị hơn v&agrave; đặc biệt l&agrave; kh&ocirc;ng theo khu&ocirc;n mẫu thường thấy của c&aacute;c thuật to&aacute;n tối ưu l&agrave; dựa v&agrave;o đạo h&agrave;m. Đương nhi&ecirc;n, cũng giống như Gradient descent, c&aacute;c thuật to&aacute;n n&agrave;y c&oacute; hiệu suất t&ugrave;y v&agrave;o c&aacute;c trường hợp kh&aacute;c nhau, một số trường hợp sẽ cho ra kết quả tuyệt vời, số c&ograve;n lại th&igrave; sẽ kh&ocirc;ng được tốt lắm. Vậy nhưng, ta c&oacute; thể thấy được tinh thần s&aacute;ng tạo v&agrave; bản chất th&uacute; vị của từng phương ph&aacute;p một. Đ&acirc;y ch&iacute;nh l&agrave; một trong những lĩnh vực v&ocirc; c&ugrave;ng hứa hẹn của ng&agrave;nh học m&aacute;y.</div>
</div>
<div class="page" role="region" data-page-number="2" aria-label="Page 2" data-loaded="true">
<h2 class="textLayer" style="text-align: justify;">Particle Swarm Optimization</h2>
<div class="textLayer" style="text-align: justify;">Thuật to&aacute;n Particle Swarm Optimization (tối ưu bầy đ&agrave;n) l&agrave; một thuật to&aacute;n dựa tr&ecirc;n luật số đ&ocirc;ng, sử dụng một lượng phần tử lớn để "th&aacute;m hiểm" kh&ocirc;ng gian lời giải nhằm t&igrave;m ra gi&aacute; trị cực tiểu. PSO li&ecirc;n tục cải thiện lời giải khả thi dựa v&agrave;o c&aacute;c chỉ số đ&aacute;nh gi&aacute;. C&aacute;ch hoạt động của PSO ch&iacute;nh l&agrave; khởi tạo một lượng phần tử lớn (bầy đ&agrave;n), rồi để bầy đ&agrave;n tự di chuyển độc lập với nhau dựa tr&ecirc;n những quy tắc to&aacute;n học cơ bản như vận tốc v&agrave; vị tr&iacute;. Từng bước di chuyển của phần tử được quyết định bởi những vị tr&iacute; m&agrave; phần tử nghĩ l&agrave; tốt nhất, c&ugrave;ng với c&aacute;c vị tr&iacute; tốt nhất m&agrave; c&aacute;c phần tử kh&aacute;c đ&atilde; t&igrave;m ra. Theo l&yacute; thuyết, bầy đ&agrave;n di chuyển tới lời giải tối ưu sau một số lần lặp.<br /><br />PSO l&agrave; một thuật to&aacute;n th&uacute; vị - kh&ocirc;ng những thuật to&aacute;n n&agrave;y &iacute;t nhạy cảm hơn với nhiều, qu&aacute; tr&igrave;nh giao tiếp kết quả giữa c&aacute;c phần tử c&ograve;n c&oacute; tiềm năng để trở th&agrave;nh c&ocirc;ng cụ hữu dụng để t&igrave;m kiếm lời giải tr&ecirc;n một kh&ocirc;ng gian to v&agrave; thưa thớt.</div>
<div class="textLayer" style="text-align: justify;">&nbsp;</div>
<div class="textLayer" style="text-align: justify;"><img style="width: 100%;" src="https://tek4.vn/public_files/16de8bd5-3f71-43d3-9605-3e0bcea1cef7" alt="func2" /></div>
<div class="textLayer" style="text-align: justify;"><br />V&igrave; PSO kh&ocirc;ng dựa tr&ecirc;n &yacute; tưởng sử dụng Gradient, n&ecirc;n b&agrave;i to&aacute;n cần được tối ưu kh&ocirc;ng cần phải khả vi. V&igrave; vậy sử dụng PSO để tối ưu h&oacute;a m&ocirc; h&igrave;nh học m&aacute;y sẽ cho ta tự do hơn trong những lựa chọn kh&aacute;c, như việc chọn h&agrave;m k&iacute;ch hoạt cho m&ocirc; h&igrave;nh. Đồng thời, PSO kh&ocirc;ng đưa ra bất kỳ giả định n&agrave;o về kh&ocirc;ng gian lời giải v&agrave; c&oacute; thể tối ưu tr&ecirc;n c&aacute;c kh&ocirc;ng gian v&ocirc; c&ugrave;ng lớn.<br /><br />Đương nhi&ecirc;n, c&aacute;c thuật to&aacute;n tối ưu sử dụng phương ph&aacute;p luật số đ&ocirc;ng sẽ c&oacute; độ phức tạp t&iacute;nh to&aacute;n lớn hơn nhiều so với c&aacute;c thuật to&aacute;n dựa tr&ecirc;n Gradient, nhưng kh&ocirc;ng phải l&uacute;c n&agrave;o cũng vậy. V&igrave; PSO c&oacute; t&iacute;nh chất mở v&agrave; kh&ocirc;ng nghi&ecirc;m khắc, người sử dụng c&oacute; thể kiểm so&aacute;t số lượng phần tử trong bầy đ&agrave;n, tốc độ di chuyển, lượng th&ocirc;ng tin phần tử chia sẻ với bầy đ&agrave;n, vv, hệt như qu&aacute; tr&igrave;nh ta điều chỉnh c&aacute;c tham số trong một mạng neuron.</div>
<h2 class="textLayer" style="text-align: justify;">Surrogate Function</h2>
<div class="textLayer" style="text-align: justify;">Surrogate Function (đa thức nội suy) l&agrave; phương ph&aacute;p tối ưu h&oacute;a sử dụng một h&agrave;m c&oacute; h&igrave;nh d&aacute;ng tương đương với h&agrave;m mất m&aacute;t để t&igrave;m cực tiểu. Kỹ thuật n&agrave;y sẽ lấy mẫu tại h&agrave;m mất m&aacute;t, tức sẽ t&igrave;m gi&aacute; trị của $\rm loss \it (x)$ tr&ecirc;n c&aacute;c gi&aacute; trị x kh&aacute;c nhau, rồi lưu lại. Sau khi đ&atilde; c&oacute; đủ c&aacute;c điểm dữ liệu, một h&agrave;m đa thức nội suy từ c&aacute;c điểm dữ liệu được x&acirc;y dựng để hợp với dữ liệu thu được (trong h&igrave;nh l&agrave; h&agrave;m đa thức bậc 7)<br /><br />V&igrave; qu&aacute; tr&igrave;nh t&igrave;m cực tiểu của đa thức l&agrave; một lĩnh vực to&aacute;n học được t&igrave;m hiểu kỹ v&agrave; tồn tại những phương ph&aacute;p v&ocirc; c&ugrave;ng hữu hiệu để t&igrave;m được cực tiểu to&agrave;n cục tr&ecirc;n h&agrave;m đa thức th&ocirc;ng qua đạo h&agrave;m, ta c&oacute; thể đưa ra giả sử rằng cực tiểu to&agrave;n cục tr&ecirc;n đa thức nội suy cũng tương đương với h&agrave;m mất m&aacute;t.</div>
<div class="textLayer" style="text-align: justify;">&nbsp;</div>
<div class="textLayer" style="text-align: justify;"><img style="width: 100%;" src="https://tek4.vn/public_files/641922a0-5ffb-4f2c-a8f1-47f25ef80dce" alt="func3" /></div>
<div class="textLayer" style="text-align: justify;">&nbsp;</div>
<div class="textLayer" style="text-align: justify;">Phương ph&aacute;p tối ưu nhờ h&agrave;m đa thức nội suy vốn kh&ocirc;ng phải phương ph&aacute;p tăng tiến lặp, nhưng qu&aacute; tr&igrave;nh t&igrave;m ra h&agrave;m nội suy l&agrave; phương ph&aacute;p lặp. Phương ph&aacute;p n&agrave;y cũng kh&ocirc;ng phải l&agrave; phương ph&aacute;p sử dụng Gradient, d&ugrave; những phương ph&aacute;p để t&igrave;m cực tiểu to&agrave;n cục của h&agrave;m nội suy dựa tr&ecirc;n đạo h&agrave;m. Vậy nhưng, v&igrave; qu&aacute; tr&igrave;nh lặp v&agrave; qu&aacute; tr&igrave;nh t&iacute;nh đạo h&agrave;m chỉ l&agrave; thứ yếu so với qu&aacute; tr&igrave;nh đi t&igrave;m h&agrave;m nội suy, n&ecirc;n thuật to&aacute;n c&oacute; thể xử l&yacute; tr&ecirc;n một bộ dữ liệu lớn v&agrave; những b&agrave;i to&aacute;n tối ưu kh&ocirc;ng khả vi.<br /><br />Qu&aacute; tr&igrave;nh tối ưu h&oacute;a sử dụng h&agrave;m đa thức nội suy thể hiện sự t&agrave;i t&igrave;nh v&igrave;:</div>
<ul style="text-align: justify;">
<li>Qu&aacute; tr&igrave;nh n&agrave;y đơn giản l&agrave; đang l&agrave;m mượt bề mặt của h&agrave;m mất m&aacute;t, giảm đi t&iacute;nh gồ ghề do những cực trị địa phương, thứ khiến ta mất thời gian huấn luyện m&ocirc; h&igrave;nh học m&aacute;y v&agrave; học s&acirc;u. Phương ph&aacute;p biến chuyển b&agrave;i to&aacute;n tối ưu với độ phức tạp kh&oacute; th&agrave;nh dễ: d&ugrave; l&agrave; h&agrave;m đa thức, hay RBF, GP, MARS, hoặc một m&ocirc; h&igrave;nh nội suy kh&aacute;c, qu&aacute; tr&igrave;nh ta t&igrave;m cực tiểu to&agrave;n cục được đẩy nhanh nhờ kiến thức to&aacute;n học</li>
<li>Việc overfit h&agrave;m nội suy kh&ocirc;ng phải l&agrave; vấn đề nan giải, do d&ugrave; c&oacute; overfit vừa, h&agrave;m nội suy cũng mượt hơn nhiều so với h&agrave;m mất m&aacute;t. Huấn luyện c&aacute;c m&ocirc; h&igrave;nh nội suy cũng dễ hơn, do những quy chuẩn trong qu&aacute; tr&igrave;nh x&acirc;y dựng c&aacute;c m&ocirc; h&igrave;nh đ&atilde; tối giản &aacute;p dụng to&aacute;n học.</li>
<li>Tối ưu d&ugrave;ng nội suy kh&ocirc;ng bị giới hạn bởi t&iacute;nh m&ugrave; như gradient descent. Với h&agrave;m nội suy, ta c&oacute; thể bao qu&aacute;t được to&agrave;n bộ h&agrave;m. Ngược lại, với Gradient descent, ta tiếp tục đi theo ngược chiều gradient m&agrave; kh&ocirc;ng biết rằng hướng ta đi tới c&oacute; phải l&agrave; cực tiểu to&agrave;n cực kh&ocirc;ng.</li>
<li>Sử dụng h&agrave;m nội suy sẽ lu&ocirc;n nhanh hơn sử dụng c&aacute;c phương ph&aacute;p sử dụng gradient, nhưng ta bắt buộc phải đ&aacute;nh đổi bằng ACC. Sử dụng h&agrave;m đa thức nội suy chỉ c&oacute; thể t&igrave;m được vị tr&iacute; chung chung của cực tiểu to&agrave;n cục, nhưng th&ocirc;ng tin n&agrave;y vẫn v&ocirc; c&ugrave;ng gi&aacute; trị.</li>
</ul>
<p style="text-align: justify;">Ta c&oacute; thể khắc chế c&aacute;c nhược điểm bằng một m&ocirc; h&igrave;nh kết hợp: sử dụng h&agrave;m nội suy để c&oacute; thể gi&uacute;p mạng neuron xấp xỉ c&aacute;c parameter, rồi sử dụng gradient descent để chỉnh m&ocirc; h&igrave;nh đến đ&uacute;ng cực tiểu. C&aacute;ch kh&aacute;c l&agrave; nhờ m&ocirc; h&igrave;nh nội suy để dẫn đường cho thuật to&aacute;n tối ưu, vi ta biết trước cả tập x&aacute;c định lẫn tập gi&aacute; trị của h&agrave;m nội suy, v&agrave; h&agrave;m nội suy &iacute;t nhạy cảm hơn với sự gồ ghề của h&agrave;m mất m&aacute;t.</p>
<h2 style="text-align: justify;">Simulated Annealing</h2>
<p style="text-align: justify;">Simulated Annealing (M&ocirc; phỏng t&ocirc;i luyện) l&agrave; một kh&aacute;i niệm dựa tr&ecirc;n qu&aacute; tr&igrave;nh t&ocirc;i luyện kim loại trong ng&agrave;nh luyện kim. Một kim loại được đun n&oacute;ng vượt qu&aacute; nhiệt độ kết tinh để giảm độ cứng v&agrave; thay đổi c&aacute;c h&oacute;a l&yacute; học, rồi để kim loại nguội từ từ v&agrave; kết rắn lại<br /><br />Sử dụng &yacute; tưởng l&agrave;m m&aacute;t chậm, simulated annealing khiến x&aacute;c suất chấp nhận c&aacute;c lời giải k&eacute;m tối ưu giảm chậm xuy&ecirc;n suốt qu&aacute; tr&igrave;nh kh&aacute;m ph&aacute; kh&ocirc;ng gian lời giải. V&igrave; bản th&acirc;n việc chấp nhận lời giải k&eacute;m tối ưu gi&uacute;p ta kh&aacute;m ph&aacute; kh&ocirc;ng gian rộng hơn để c&oacute; thể t&igrave;m ra được cực tiểu to&agrave;n cục (giống như việc đi vượt qua đồi để t&igrave;m được một thung lũng kh&aacute;c s&acirc;u hơn), simulated annealing ngầm định rằng kết quả đ&atilde; được t&igrave;m ra từ những bước đầu ti&ecirc;n. Khi thuật to&aacute;n tiếp tục chạy, sẽ c&oacute; bước biến chuyển từ từ, từ qu&aacute; tr&igrave;nh kh&aacute;m ph&aacute; sang qu&aacute; tr&igrave;nh khai th&aacute;c.</p>
<p style="text-align: justify;"><img style="width: 100%;" src="https://tek4.vn/public_files/993b97cf-ed9d-4281-91e4-9889fadfefac" alt="func4" /></p>
<p style="text-align: justify;">Dưới đ&acirc;y l&agrave; m&ocirc; tả sơ khai c&aacute;ch hoạt động của phương ph&aacute;p Simulated Annealling.</p>
<ol style="text-align: justify;">
<li>Nhiệt độ được khởi tạo tại một gi&aacute; trị dương n&agrave;o đ&oacute; v&agrave; tiến dần đến 0.</li>
<li>Tại mỗi bước, thuật to&aacute;n ngẫu nhi&ecirc;n chọn một lời giải gần với lời giải hiện tại, t&iacute;nh gi&aacute; trị mất m&aacute;t v&agrave; di chuyển tới vị tr&iacute; kh&aacute;c dựa tr&ecirc;n nhiệt độ hiện tại (tức x&aacute;c suất ch&aacute;p nhận lời giải tốt hoặc xấu hơn)</li>
<li>Trong trường hợp l&yacute; tưởng, khi nhiệt độ hạ đến 0, thuật to&aacute;n đ&atilde; hội tụ đến lời giải tối ưu.</li>
</ol>
<p style="text-align: justify;">Thuật to&aacute;n n&agrave;y c&ograve;n c&oacute; thể sử dụng với c&aacute;c phương tr&igrave;nh động lượng hoặc phương ph&aacute;p lấy mẫu ngẫu nhi&ecirc;n. Simulated Annealing c&ograve;n được sử dụng để giải quyết b&agrave;i to&aacute;n người b&aacute;n h&agrave;ng, b&agrave;i to&aacute;n t&igrave;m khoảng c&aacute;ch ngắn nhất để di chuyển giữa h&agrave;ng trăm địa điểm kh&aacute;c nhau. C&oacute; thể thấy rằng c&oacute; v&ocirc; số c&aacute;c tổ hợp đường đi, nhưng Simulated annealing, mang n&eacute;t tương đồng với học củng cố, c&oacute; hiệu suất rất tốt.<br /><br />Simulated annealing hoạt động rất tốt trong những viễn cảnh cần một lời giải xấp xỉ trong khoảng thời gian ngắn, hiệu suất vượt xa tốc độ chậm của Gradient Descent. Như đa thức nội suy, ta c&oacute; thể viết một thuật to&aacute;n kết hợp với Gradient Descent để kết hợp những ưu điểm của cả 2, tốc độ của Simulated Annealing v&agrave; sự ch&iacute;nh x&aacute;c của Gradient Descent.</p>
<h1 style="text-align: justify;">Kết luận</h1>
<p style="text-align: justify;">Gradient Descent l&agrave; thuật to&aacute;n phổ biến nhất trong tr&iacute; tuệ nh&acirc;n tạo n&oacute;i chung v&agrave; học m&aacute;y, học s&acirc;u n&oacute;i ri&ecirc;ng, d&ugrave; mang nhiều khuyết điểm, nhưng Gradient Descent vẫn hoạt động tốt v&agrave; ổn định. Trong bối cảnh hiện tại, khi ta ng&agrave;y c&agrave;ng đạt tới giới hạn tốc độ t&iacute;nh to&aacute;n, hướng đi t&iacute;ch hợp c&aacute;c phương ph&aacute;p kh&ocirc;ng sử dụng gradient v&agrave; Gradient Descent cho thấy một tiềm năng to lớn trong hoạt động nghi&ecirc;n cứu v&agrave; sản xuất c&aacute;c thuật to&aacute;n th&ocirc;ng minh.</p>
</div>