<h1 class="ant-typography post-detail_title__2iF6e"><img src="https://tek4.vn/public_files/capture-189-png" alt="" width="100%" /></h1>
<h1 class="ant-typography post-detail_title__2iF6e">Flatten CNN Trong Pytorch</h1>
B&agrave;i viết n&agrave;y sẽ gi&uacute;p ch&uacute;ng ta h&igrave;nh dung được c&aacute;ch Flatten một tensor cho một h&igrave;nh ảnh thang độ x&aacute;m, cụ thể l&agrave; ch&uacute;ng ta sẽ chỉ ra c&aacute;ch để c&oacute; thể flatten c&aacute;c axes tensor, việc n&agrave;y l&agrave; cần thiết khi l&agrave;m việc với CNN. Bắt đầu th&ocirc;i!
<img style="width: 681px; display: block; margin-left: auto; margin-right: auto;" src="http://tek4vn.2soft.top/public_files/capture-189-png-1" alt="Capture-189" height="250" />
<h3 style="text-align: justify;">Flatten to&agrave;n bộ Tensor</h3>
Flatten l&agrave; một loại hoạt động reshape cụ thể trong đ&oacute; tất cả c&aacute;c axes được l&agrave;m phẳng (&nbsp;smooshed) hoặc gh&eacute;p lại (squashed&nbsp;) với nhau.
Để flatten một tensor, ch&uacute;ng ta cần c&oacute; &iacute;t nhất hai axes. B&acirc;y giờ ch&uacute;ng ta h&atilde;y xem một h&igrave;nh ảnh viết tay của số t&aacute;m từ tập dữ liệu MNIST. H&igrave;nh ảnh n&agrave;y c&oacute; 2 th&ocirc;ng số l&agrave; chiều cao v&agrave; chiều rộng.
<img style="width: 681px; display: block; margin-left: auto; margin-right: auto;" src="http://tek4vn.2soft.top/public_files/1-png-1" alt="1" height="250" />
Chiều cao v&agrave; chiều rộng lần lượt l&agrave; 18 x 18.&nbsp;C&aacute;c k&iacute;ch thước n&agrave;y cho ch&uacute;ng ta biết rằng đ&acirc;y l&agrave; h&igrave;nh ảnh đ&atilde; cắt v&igrave; tập dữ liệu MNIST chứa h&igrave;nh ảnh k&iacute;ch thước l&agrave; 28 x 28.&nbsp;&nbsp;B&acirc;y giờ, h&atilde;y xem c&aacute;ch hai axes chiều cao v&agrave; chiều rộng n&agrave;y được flatten th&agrave;nh một axis duy nhất c&oacute; chiều d&agrave;i 324.
H&igrave;nh ảnh ở tr&ecirc;n cho thấy đầu ra đ&atilde; được flatten của ch&uacute;ng ta với một axis d&agrave;i 324.&nbsp;Trong v&iacute; dụ n&agrave;y, ch&uacute;ng ta đang flatten to&agrave;n bộ h&igrave;nh ảnh tensor, nhưng nếu ch&uacute;ng ta chỉ muốn flatten c&aacute;c axes cụ thể trong tensor?&nbsp;Điều n&agrave;y thường được y&ecirc;u cầu khi l&agrave;m việc với CNN.
H&atilde;y xem c&aacute;ch ch&uacute;ng ta c&oacute; thể flatten c&aacute;c axes cụ thể của tensor bằng code PyTorch.
<h3 style="text-align: justify;">Flatten c&aacute;c axes cụ thể của một Tensor</h3>
Đầu v&agrave;o tensor của một mạng CNN thường c&oacute; 4 axes. 1 cho batch size, 1 cho c&aacute;c k&ecirc;nh m&agrave;u v&agrave; 1 cho chiều cao v&agrave; chiều rộng.
<pre><code>(Batch Size, Channels, Height, Width)</code></pre>
H&atilde;y bắt đầu bằng c&aacute;ch x&acirc;y dựng một tensor đ&aacute;p ứng c&aacute;c th&ocirc;ng số kỹ thuật n&agrave;y.&nbsp;Để bắt đầu, giả sử ch&uacute;ng ta c&oacute; ba tensor sau.
<pre class="language-python"><code>t1 = torch.tensor([
 [1,1,1,1],
 [1,1,1,1],
 [1,1,1,1],
 [1,1,1,1]
])

t2 = torch.tensor([
 [2,2,2,2],
 [2,2,2,2],
 [2,2,2,2],
 [2,2,2,2]
])

t3 = torch.tensor([
 [3,3,3,3],
 [3,3,3,3],
 [3,3,3,3],
 [3,3,3,3]
])</code></pre>
Mỗi tensor trong số n&agrave;y c&oacute; shape 4 x 4, v&igrave; vậy ch&uacute;ng ta c&oacute; ba tensor rank 2. Ch&uacute;ng ta sẽ coi đ&acirc;y l&agrave; 3 h&igrave;nh ảnh 4 x 4 sử dụng để tạo một batch c&oacute; thể chuyển đến CNN.
H&atilde;y nhớ rằng c&aacute;c batch được biểu diễn bằng một tensor duy nhất, v&igrave; vậy ch&uacute;ng ta sẽ cần kết hợp ba tensor n&agrave;y th&agrave;nh một tensor lớn hơn duy nhất c&oacute; 3 axes thay v&igrave; 2.
<pre class="language-python"><code>&gt; t = torch.stack((t1, t2, t3))
&gt; t.shape

torch.Size([3, 4, 4])</code></pre>
Ở đ&acirc;y, ch&uacute;ng ta đ&atilde; sử dụng phương thức stack() để nối chuỗi ba tensor theo một axis mới.&nbsp;V&igrave; ch&uacute;ng ta c&oacute; ba tensor&nbsp; theo một axis mới, n&ecirc;n ch&uacute;ng ta biết chiều d&agrave;i của axis n&agrave;y phải l&agrave; 3, v&agrave; ch&uacute;ng ta c&oacute; thể thấy trong shape c&oacute; 3 tensor c&oacute; chiều cao v&agrave; chiều rộng l&agrave; 4.
Axis c&oacute; chiều d&agrave;i l&agrave; 3 đại diện cho batch size, c&ograve;n axes c&oacute; chiều d&agrave;i l&agrave; 4 đại diện cho chiều cao v&agrave; chiều rộng tương ứng.&nbsp;Đ&acirc;y l&agrave; kết quả đầu ra của batch biểu diễn tensor:
<pre class="language-python"><code>&gt; t
tensor([[[1, 1, 1, 1],
 [1, 1, 1, 1],
 [1, 1, 1, 1],
 [1, 1, 1, 1]],

 [[2, 2, 2, 2],
 [2, 2, 2, 2],
 [2, 2, 2, 2],
 [2, 2, 2, 2]],

 [[3, 3, 3, 3],
 [3, 3, 3, 3],
 [3, 3, 3, 3],
 [3, 3, 3, 3]]])</code></pre>
Tại thời điểm n&agrave;y, ch&uacute;ng ta c&oacute; một tensor rank 3 chứa một loạt ba h&igrave;nh ảnh 4 x 4.&nbsp;Tất cả những g&igrave; ch&uacute;ng ta cần l&agrave;m b&acirc;y giờ để biến tensor n&agrave;y th&agrave;nh dạng m&agrave; CNN mong đợi l&agrave; th&ecirc;m một axis cho c&aacute;c k&ecirc;nh m&agrave;u.&nbsp;Về cơ bản, ch&uacute;ng ta c&oacute; một k&ecirc;nh m&agrave;u duy nhất ngầm định cho mỗi tensor h&igrave;nh ảnh n&agrave;y, v&igrave; vậy trong thực tế, đ&acirc;y sẽ l&agrave; những h&igrave;nh ảnh c&oacute; thang độ x&aacute;m (<a href="https://en.wikipedia.org/wiki/Grayscale">grayscale</a>).
CNN sẽ mong đợi thấy một axis k&ecirc;nh m&agrave;u r&otilde; r&agrave;ng, v&igrave; vậy h&atilde;y th&ecirc;m một axis bằng c&aacute;ch reshape tensor n&agrave;y:
<pre class="language-python"><code>&gt; t = t.reshape(3,1,4,4)
&gt; t
tensor(
[
 [
 [
 [1, 1, 1, 1],
 [1, 1, 1, 1],
 [1, 1, 1, 1],
 [1, 1, 1, 1]
 ]
 ],
 [
 [
 [2, 2, 2, 2],
 [2, 2, 2, 2],
 [2, 2, 2, 2],
 [2, 2, 2, 2]
 ]
 ],
 [
 [
 [3, 3, 3, 3],
 [3, 3, 3, 3],
 [3, 3, 3, 3],
 [3, 3, 3, 3]
 ]
 ]
])</code></pre>
Ch&uacute;ng ta đ&atilde; th&ecirc;m axis c&oacute; độ d&agrave;i l&agrave; 1 ngay sau batch size. Ngo&agrave;i ra, khi bổ sung axis =1 kh&ocirc;ng l&agrave;m thay đổi số phần tử c&oacute; trong tensor ban đầu, điều n&agrave;y l&agrave; do t&iacute;ch của c&aacute;c gi&aacute; trị th&agrave;nh phần kh&ocirc;ng thay đổi khi ch&uacute;ng ta nh&acirc;n với một.
Axis đầu ti&ecirc;n c&oacute; 3 phần tử, mỗi phần tử của axis đầu ti&ecirc;n đại diện cho một h&igrave;nh ảnh.&nbsp;Đối với mỗi h&igrave;nh ảnh, ch&uacute;ng ta c&oacute; một k&ecirc;nh m&agrave;u duy nhất.&nbsp;Mỗi k&ecirc;nh n&agrave;y chứa 4 mảng gồm 4 số hoặc th&agrave;nh phần v&ocirc; hướng.
H&atilde;y xem điều n&agrave;y với code bằng c&aacute;ch lập index v&agrave;o tensor n&agrave;y.
Ch&uacute;ng ta c&oacute; h&igrave;nh ảnh thứ nhất:
<pre class="language-python"><code>&gt; t[0]
tensor([[[1, 1, 1, 1],
 [1, 1, 1, 1],
 [1, 1, 1, 1],
 [1, 1, 1, 1]]])</code></pre>
Ch&uacute;ng ta c&oacute; k&ecirc;nh m&agrave;u đầu ti&ecirc;n trong h&igrave;nh ảnh thứ nhất:
<pre class="language-python"><code>&gt; t[0][0]
tensor([[1, 1, 1, 1],
 [1, 1, 1, 1],
 [1, 1, 1, 1],
 [1, 1, 1, 1]])</code></pre>
Ch&uacute;ng ta c&oacute; h&agrave;ng pixel đầu ti&ecirc;n trong k&ecirc;nh m&agrave;u đầu ti&ecirc;n của h&igrave;nh ảnh thứ nhất:
<pre class="language-python"><code>&gt; t[0][0][0]
tensor([1, 1, 1, 1])</code></pre>
Ch&uacute;ng t&ocirc;i c&oacute; gi&aacute; trị pixel đầu ti&ecirc;n trong h&agrave;ng đầu ti&ecirc;n của k&ecirc;nh m&agrave;u đầu ti&ecirc;n của h&igrave;nh ảnh thứ nhất:
<pre class="language-python"><code>&gt; t[0][0][0][0]
tensor(1)</code></pre>
<h4 class="sub-section-heading" style="text-align: justify;">Flatten Tensor Batch</h4>
H&atilde;y xem c&aacute;ch flatten c&aacute;c h&igrave;nh ảnh trong batch n&agrave;y.&nbsp;H&atilde;y nhớ rằng to&agrave;n bộ batch l&agrave; một tensor duy nhất sẽ được chuyển đến CNN, v&igrave; vậy ch&uacute;ng ta kh&ocirc;ng muốn flatten to&agrave;n bộ.&nbsp;Ch&uacute;ng ta chỉ muốn flatten tensor h&igrave;nh ảnh trong batch tensor.
Trước ti&ecirc;n, h&atilde;y flatten to&agrave;n bộ mọi thứ để xem n&oacute; sẽ như thế n&agrave;o, c&oacute; 4 c&aacute;ch:
<pre class="language-python"><code>&gt; t.reshape(1,-1)[0]
tensor([1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 2, 2, 2, 2, 2, 2, 2, 2,
 2, 2, 2, 2, 2, 2, 2, 2, 3, 3, 3, 3, 3, 3, 3, 3, 3, 3, 3, 3, 3, 3, 3, 3])

&gt; t.reshape(-1)
tensor([1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 2, 2, 2, 2, 2, 2, 2, 2,
 2, 2, 2, 2, 2, 2, 2, 2, 3, 3, 3, 3, 3, 3, 3, 3, 3, 3, 3, 3, 3, 3, 3, 3])

&gt; t.view(t.numel())
tensor([1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 2, 2, 2, 2, 2, 2, 2, 2,
 2, 2, 2, 2, 2, 2, 2, 2, 3, 3, 3, 3, 3, 3, 3, 3, 3, 3, 3, 3, 3, 3, 3, 3])

&gt; t.flatten() 
tensor([1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 2, 2, 2, 2, 2, 2, 2, 2,
 2, 2, 2, 2, 2, 2, 2, 2, 3, 3, 3, 3, 3, 3, 3, 3, 3, 3, 3, 3, 3, 3, 3, 3])</code></pre>
C&aacute;ch cuối c&ugrave;ng&nbsp;flatten(), đ&acirc;y l&agrave;&nbsp;một c&aacute;ch kh&aacute;c được t&iacute;ch hợp sẵn dưới dạng phương thức cho c&aacute;c đối tượng tensor được gọi.&nbsp;Phương ph&aacute;p n&agrave;y tạo ra kết quả giống như c&aacute;c phương ph&aacute;p b&ecirc;n tr&ecirc;n.
Ch&uacute;ng ta đ&atilde; l&agrave;m flatten to&agrave;n bộ batch v&agrave; điều n&agrave;y sẽ gh&eacute;p tất cả c&aacute;c h&igrave;nh ảnh lại với nhau th&agrave;nh một axis duy nhất.
Batch đ&atilde; được flatten n&agrave;y sẽ kh&ocirc;ng hoạt động tốt b&ecirc;n trong CNN của ch&uacute;ng ta v&igrave; ch&uacute;ng ta cần c&aacute;c dự đo&aacute;n ri&ecirc;ng cho từng h&igrave;nh ảnh trong batch tensor v&agrave; b&acirc;y giờ ch&uacute;ng ta c&oacute; một mớ hỗn độn được flatten.
Giải ph&aacute;p ở đ&acirc;y l&agrave; flatten từng h&igrave;nh ảnh trong khi vẫn duy tr&igrave; batch axis.&nbsp;Điều n&agrave;y c&oacute; nghĩa l&agrave; ch&uacute;ng ta chỉ muốn flatten một phần của tensor.
Ch&uacute;ng ta chỉ flatten axis k&ecirc;nh m&agrave;u với axis chiều cao v&agrave; chiều rộng.
<pre><code>C&aacute;c axis cần được flatten: (C, H, W)</code></pre>
Điều n&agrave;y c&oacute; thể được thực hiện bằng phương thức flatten() c&oacute; sẵn của PyTorch.
<h4 style="text-align: justify;">Flatten c&aacute;c axes cụ thể của một tensor</h4>
H&atilde;y chạy đoạn code sau:
<pre class="language-python"><code>&gt; t.flatten(start_dim=1).shape
torch.Size([3, 16])

&gt; t.flatten(start_dim=1)
tensor(
[
 [1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1],
 [2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2],
 [3, 3, 3, 3, 3, 3, 3, 3, 3, 3, 3, 3, 3, 3, 3, 3]
]
)</code></pre>
H&atilde;y ch&uacute; &yacute; đến tham số&nbsp;start_dim , điều n&agrave;y cho phương thức flatten() biết axis n&agrave;o m&agrave; n&oacute; sẽ bắt đầu thao t&aacute;c flaten.
Kiểm tra shape, ta c&oacute; thể thấy rằng ch&uacute;ng ta c&oacute; một tensor rank 2 với ba h&igrave;nh ảnh k&ecirc;nh m&agrave;u đơn đ&atilde; được l&agrave;m phẳng th&agrave;nh 16 pixel.
<h3 style="text-align: justify;">Flatten 1 h&igrave;nh ảnh RGB</h3>
Nếu ch&uacute;ng ta flatten một h&igrave;nh ảnh RGB, điều g&igrave; sẽ xảy ra với m&agrave;u sắc?
Mỗi k&ecirc;nh m&agrave;u sẽ được flatten trước.&nbsp;Sau đ&oacute;, c&aacute;c k&ecirc;nh dẹt sẽ được xếp cạnh nhau tr&ecirc;n một axis duy nhất của tensor. h&atilde;y xem v&iacute; dụ dưới đ&acirc;y:
Ch&uacute;ng ta sẽ x&acirc;y dựng một tensor h&igrave;nh ảnh RGB, v&iacute; dụ với chiều cao l&agrave; 2 v&agrave; chiều rộng l&agrave; 2.
<pre class="language-python"><code>r = torch.ones(1,2,2)
g = torch.ones(1,2,2) + 1
b = torch.ones(1,2,2) + 2

img = torch.cat(
 (r,g,b)
 ,dim=0
)</code></pre>
Đoạn code tr&ecirc;n&nbsp;cung cấp cho ch&uacute;ng ta một tensor như mong muốn.&nbsp;Ch&uacute;ng ta c&oacute; thể x&aacute;c minh điều n&agrave;y bằng c&aacute;ch kiểm tra shape như sau:
<pre class="language-python"><code>&gt; img.shape
torch.Size([3, 2, 2])</code></pre>
Ch&uacute;ng ta c&oacute; ba k&ecirc;nh m&agrave;u với chiều cao v&agrave; chiều rộng l&agrave; 2. Ch&uacute;ng ta cũng c&oacute; thể kiểm tra dữ liệu của tensor n&agrave;y như sau:
<pre class="language-python"><code>&gt; img
tensor([
 [
 [1., 1.]
 ,[1., 1.]
 ]
 ,[
 [2., 2.]
 , [2., 2.]
 ],
 [
 [3., 3.]
 ,[3., 3.]
 ]
])</code></pre>
B&acirc;y giờ, ch&uacute;ng ta c&oacute; thể thấy n&oacute; tr&ocirc;ng như thế n&agrave;o bằng c&aacute;ch flatten tensor h&igrave;nh ảnh.
<pre class="language-python"><code>&gt; img.flatten(start_dim=0)
tensor([1., 1., 1., 1., 2., 2., 2., 2., 3., 3., 3., 3.])</code></pre>
Lưu &yacute; rằng tham số start_dim ở đ&acirc;y cho phương thức flatten() biết nơi bắt đầu flatten.&nbsp;Trong trường hợp n&agrave;y, ch&uacute;ng ta đang flatten to&agrave;n bộ h&igrave;nh ảnh.&nbsp;Tuy nhi&ecirc;n, ch&uacute;ng ta cũng c&oacute; thể flatten ri&ecirc;ng c&aacute;c k&ecirc;nh như sau:
<pre class="language-python"><code>&gt; img.flatten(start_dim=1)
tensor([
 [1., 1., 1., 1.],
 [2., 2., 2., 2.],
 [3., 3., 3., 3.]
])</code></pre>
<h3 style="text-align: justify;">Kết Luận</h3>
B&acirc;y giờ, c&oacute; lẽ ch&uacute;ng ta cũng đ&atilde; hiểu r&otilde; về hoạt động flatten cho tensor.&nbsp;&nbsp;Ch&uacute;ng ta đ&atilde; biết c&aacute;ch flatten to&agrave;n bộ một tensor đồng thời cũng biết c&aacute;ch flatten c&aacute;c axes tensor cụ thể. Bạn sẽ thấy điều n&agrave;y hữu &iacute;ch khi x&acirc;y dựng một CNN của m&igrave;nh. Hi vọng bạn thấy th&iacute;ch b&agrave;i viết n&agrave;y, hẹn gặp lại bạn trong c&aacute;c b&agrave;i viết tiếp theo!
&nbsp;
<hr />
Fanpage Facebook:&nbsp;<a href="https://www.facebook.com/tek4.vn/">TEK4.VN</a>&nbsp;
Tham gia cộng đồng để chia sẻ, trao đổi v&agrave; thảo luận:&nbsp;<a href="https://www.facebook.com/groups/tek4.vn/">TEK4.VN - Học Lập Tr&igrave;nh Miễn Ph&iacute;</a>

Admin

Flatten CNN Trong Pytorch

Cùng tác giả

Admin

Có liên quan