์ค๋ ์ฌ์๋์ ๊ฐ์ '๋ฐ์ฌ' ๋ ๊ฒ์ ๋จน์ด ๋ณด์๋ค.
์น๊ตฌ ๋์ด๋ ๋๋ 3๋ช ์ด ๋ชจ์ฌ์ [์ฌ์ค ์น๊ตฌ ๋์ด ๋ค ํ๊ณ ๋๋ ๋ค์์ ์ง๋ฌธํ๊ณ ์ด๋ฌ๋ฉด ์๋ ๊น ๋ด์ง ๊ฑฐ๋ ๊ทธ๋ฐ?] ์ด๋ฐ์ ๋ฐ ์ค์ต์ ํ๋ค.
ใ ใ ใ ใ ใ
์ ์ฌ์ ๋จน๊ณ ํ์ฐธ ๋ ๋ค๊ณ ์๋๋ฐ ์น๊ตฌ์ ์ฌ์์น๊ตฌ๊ฐ ์ ์ ๋๋ฌ์ '๋ฐ์ฌ' ๋ ๊ฒ์ ๋ง๋ค์ด ์ฃผ์๋๋ฐ
ใ ใ ใ ใ ์๊น์ด ๊ทธ ๋จธ๋๊น? ์ฐํ ํ์ฐ์๋ฃ์ ์์ด์๋ค. ๋ฐ์นด์ค์ ์ฌ์ด๋ค๋ฅผ ์์ด ๋ง๋ค์ด์ ๋ฐ์ฌ๋ผ๋๋ฐ ใ ใ ใ ใ
ใ ใด ๊ฐ์ฑ์ ๋ฅผ ๋ง์๋ฉด ๋๋ ๋ง์น ์ ์ ์ทจํ๊ฒ ์ฒ๋ผ[์ ๋ ์ ๋จน์ด๋ดค์ผ๋ฉด์? ] ๋ง๊ตฌ ๋ ๋ด๋ค. ๋ช์๊ฐ์ ๋ ๋ฐ๋ค๊ฐ ํ์ ์ง์ณ ๋ชจ์์ ํํ๊ณ ์ง์ ๋ค์ด์๋ค.
์ค๋ ๋ชจ์์์ ๋๋ ๋์์ด ๋ฌ์๋ ค๋ ๋ชจ๋ฅด๊ฒ ๋ค. ์ฒ์์ ๋ช๊ฐ์ง ์์ด๋์ด๋ฅผ ๋๊ธด ํ๊ณ , ๊ด์ฐฐ๋ ฅ์ ๋ฐํํ๊ธด ํ๋๋ฐ ใ ใ ๋ฑ๋ง ์ก๋ค๊ฐ ๋๋ฌ๋ค.
์์ง ์ฉ์ด๋ ์ต์ํ์ง ๋ชปํ๊ณ ์ฝ๋ฉ๋ ๊ฑฐ์ ๋ชปํ๋ ๋ด๊ฐ ํด์ค ์ ์๋ ๊ฒ์ input data ์ output data ์ dimension counting ์ด๋ ํจ์๋ฅผ ์ง์ ํ ๋ ์๊ธฐ๋ ์คํ check ๊ทธ๋ฆฌ๊ณ ๊ธฐ์กด์ ํจํค์ง๋ฅผ ์ด๋ป๊ฒํ๋ฉด ์ฐ๋ฆฌ์ ๋ชฉ์ ์ ์ ๋ง์ถ์ด ์ธ ์ ์์์ง์ ๋ํ ๊ด์ ์ ์ ์ ๋...
์ฌ๋ฌ๊ฐ์ ํ์ด์ฌ ์ฝ๋๋ฅผ ๊ฐ์ด ๋๋ฆฌ๋ ค๊ณ ํ๋๋ฐ ์ด๋ค ์ฝ๋๋ Tensorflow ์ ๋ฎ์ ๋ฒ์ ์๋ง ๋์๊ฐ๊ณ ๋ ์ด์ ์ฝ๋๋ Tensorflow ์ ๋์ ๋ฒ์ ์ด ํ์ํ๊ณ ใ ใ ใ ใ
์ด๋ฏธ์ง์์๋ ์ ์ฐ์ด๋ ์ฝ๋๋ฅผ ์๊ณ์ด๋ก ๋ฐ๊พธ์ด์ ์์ ํ๋ ค๊ณ ํ๋๋ฐ, ๋งจ ์ฒ์์๋ conv2d ๋ฅผ ์ด์ฉํด height ๋ง 1๋ก ์ก๊ณ ์ ๊ทผํ๋ ๋ฐฉ์์ ํ๋ ค๋ค๊ฐ ์๊ฐํ๋ ๋ฐฉ์์ผ๋ก ํ์ตํ๋ ๊ฒ์ด ์๋๋ผ conv1d ํจ์๋ฅผ ์๋กญ๊ฒ ๋ง๋ค์ด์ ์งํํ์๋๋ฐ ์ฌ๋ฌ๋ฒ์ ๋๋ฒ๊น ๊ณผ์ ์์ ์ด์ํ ๋ฌธ์ ๊ฐ ์๊ฒผ๋ค...
๊ทธ ๋ค ๋ชจ๋ '๋ฐ์ฌ' ๋ฅผ ๋ง์๊ณ conv2d ๋ฅผ ์ด์ฉํด์ ์ด๋ป๊ฒ ํด๋ณผ๊น ํ๊ณ ์์ ํด ๋ดค๋๋ฐ ใ ใ ใ ๋ฑ๋ง ์ก๋ค๊ฐ ๋๋ฌ๋ค.
์ ๊ทผ๋ฐ ๋๋ padding, stride, dilation, bias ๋ฑ์ ์ฉ์ด๋ ๊ฐ๋ ๋ ์์ ๋ชจ๋ฅด๋ ์ํ์์ ์ฝ๋ ๋ณด๊ณ ๊ทธ๋ฅ ์ง์ง ์๋ฐํ๊ฒ ์ฝ๋๋ฅผ ๋ณด๋๊ฒ ์๋๋ผ ํจ์๋ ๋ณ์ ๊ฐ์ง๊ณ ๋ญ๊ฐ ๋ฌธ์ ์ผ์ง ๋ง์ถ๋ ๋ฐฉ์์ผ๋ก๋ฐ์ ์ดํด๋ฅผ ๋ชปํ๋๋ฐ ใ ใ
ํ ... ์ค๋ ์๊ฒ ๋ฌ๊ฑฐ๋, ์ฐพ์๋ด์ผ ๋ ๊ฒ๋ค
์ฌ์ค stride, dilation ์ ๋ด๊ฐ ์ง๋ฌธํ๋๊น ์น๊ตฌ๊ฐ ๊ฐ๋ตํ ์ค๋ช ํด ์ฃผ๊ธด ํ๋ค. ํ์ง๋ง padding์? ํจ๋ฉ์ ์์ด ๋จ์ด๋ก ์ท ์๋๊ฐ? ๋ญ ์์ถฉ์์ฉ ์ด๋ฐ ์๋ฏธ๋ ์์ผ๋ ์ด๋์ ๋ ๊ฑฐ๊พธ๋ก ์ดํด๋ ํ๋ค. ์๋ ๋ฐ์ดํฐ๋ฅผ ๋ณดํธํ๊ธฐ ์ํด 0 ์ ๋ฃ์ด์ ๋ฐ์ดํฐ์ ํฌ๊ธฐ๋ฅผ ๋ณดํธํ๋ ๊ฒ ๊ฐ๋ค. - layer ๋ฅผ ๊ฑฐ์น๊ณ ๋์จ ๊ฒฐ๊ณผ๋ฅผ ๋ณด๊ณ ๊ฑฐ๊พธ๋ก ์ ์ถํ๋ค. ํ๋ฒ layer ๋ฅผ ๊ฑฐ์น๊ณ ๋๋ ํฌ๊ธฐ๊ฐ ์ค์ด๋ค์๋ค.
์ฌ๋ด์ผ๋ก tensorflow ์ tensor ์ ๋ํด์๋ ๋ฌผ์ด๋ดค๋๋ฐ, ์ฌ๊ธฐ์ ๋งํ๋ tensor ๋ ๋์ํ์ tensor product ๋ ๊ธฐํํ๊ณผ ๋ฌผ๋ฆฌํ์ ๊ทธ tensor ์ ์ ์๋ ์ข ๋ค๋ฅธ, ์ผ์ข ์ multi-index(dimensional) array ์๋ค.
dilaton causal convolution, 1d ์๊ณ์ด convolution ์ค์์ ๋ฏธ๋ data ๋ฅผ ์ฝ์ง ์๊ณ ๊ณผ๊ฑฐ ๋ฐ์ดํฐ๋ง์ ์ฝ๊ธฐ ์ํด์ dilation ์ ํด ์ฃผ์ด์ผ ํ๋ค๊ณ ํ๋ค. [๋ณต์ํจ์๋ ๋ฑ๊ฐ์ฅ๋ก ์ ์ด dilaton ์ด๋ ๊ฐ๋ ์ด ๋ฑ์ฅํ๋๋ฐ conformal map ์์๋ f(z) = az ๊ฐ์ ๊ฒ์ผ๋ก ... ์ด๊ฒ๊ณผ ๊ด๊ณ๊ฐ ์๋ ๊ฒ์ผ๊น? ]
convolution ์ ์๋ฏธ? ML ์์ ์ฐ์ด๋ convolution ์ explict ํ ์์ด ์ผํ ๋ณด๋ฉด Laplace transform ์ด๋ Forier transformation ์์ ๋ฑ์ฅํ๋ convolution ์๊ณผ ์ ์ฌํด ๋ณด์ด๋๋ฐ ๊ฐ์ ๊ฒ์ผ๋ ค๋? [๋น์ทํ ๊ฒ ๊ฐ์๋ฐ weight ์ฆ filter ๊ฐ ๋ค์ด๊ฐ๋ฉด์ discrete ํ๊ฒ ํํํ ๊ทธ ์๊ณผ ์ด๋ป๊ฒ ์ฐ๊ด์ด ๋๋์ง ์ ๋ชจ๋ฅด๊ฒ ๋ค. ]
a2c ใ ใ ใ ๋ญ ๊ณ์ directory path ๋ฑ์ ๋ฑ์ฅํ๊ณ ๊ฐ์ ธ๋ค ์ผ๊ธด ํ๋๋ฐ ์ด๊ฑด ๋ ๋ฉ๊น? ์๊ณ ๋ฆฌ์ฆ์ด๋ผ๋๋ฐ
์ค๋ ์ด์ฉํ cnn (convolutional neural network) ๋ ์ ์ด์ ์ด๋ฏธ์ง์ ๊ด๋ จ๋ ๊ฒ์ด๋ผ conv2 ์ฆ 2d ๊ด๋ จ ํจํค์ง๋ ์ ๋์ด ์๋๋ฐ ์๊ณ์ด ๋ถ์ํ๊ธฐ์๋ ์ ํฉํ ํด์ ์๋์๋ค. ํ ์ํ๋ก์ฐ๊ฐ ์๋ keras ๋ PyTorch ์๋ conv1d ๊ด๋ จ ๊ฒ๋ค์ด [์ฌ์ค ํ ์ํ๋ก์ฐ๋ 20.x ๋ฒ์ ์๋..] ์ ๋์๊ฐ๋ ๊ฒ ๊ฐ์๋ฐ ํธํ์ด ์๋๋ ์ด๋ฐ
github ์ ์๋ฃ ์ฌ๋ฆฌ๊ณ ๊ณต์ ํ๊ณ ํ๋๊ฑฐ?
์ ์๊ฐํด๋ณด๋ ์ค๋ ๊ฐ์ด ์ค์ตํ ์น๊ตฌ ํ๋ช ์ ์ด๋ฏธ์ง ์ ๊ณต์ด๊ณ ๋ค๋ฅธ ํ๋ช ์ ์ํํธ์จ์ด์ด๊ธด ํ์ง๋ง ํ์ฌ์์ ML ๊ด๋ จ์ด๋ผ [์ฆ ๋๋ค ์ปดํจํฐ ๊ด๋ จ ์ชฝ์ด๋ผ] ์ด cnn ์ ์ด์ฉํด์ ์์ ํ ๊ฒ์ธ๊ฐ? ์ ์ง์ง ์ฝ๋ฉ ํ๋ ๋ชจ์ต์ ๋ณด๋ ๋ค๋ค ์ฅ๋์ด ์๋๋๊ตฐ.. CNN ๊ณผ ๊ด๋ จ๋์ด์ ์ข ์ฐพ์๋ณด๋ ์น๊ตฌ A ์ ์ ๊ณต์ด๋ ๋ง์ด ๊ฒน์น๊ธด ํ๋๊ตฐ, ์ปดํจํฐ ๋น์ ์ผ์ ์ค๋ํ์ผ๋ ํด์ด ์ต์ํ๊ธด ํ๋ ค๋?
์ด ์น๊ตฌ ๋์ด ๋์๊ฒ ์ปด๊ณต์ ์ฌ๋ฏธ๋ฅผ ์ด์ ๋๋ผ๊ณ ์๋๊ณ ๋ฌป๋๋ฐ ใ ใ ใ ๋ฐฐ์ฐ๋ ๊ฒ์ ์ฌ๋ฐ๊ธด ํ๋ฐ, ๋ ๋ช๋ฒ ๋์๊ฒ ์ค์ต๋ ์ํค๊ณ ํด์ ์ฌ๋ฏธ์๊ธฐ๋ ํ๋ฐ, ์ฒ์๋ถํฐ ๊ทธ ์๋ง์ ์ฝ๋๋ฅผ ์ง๊ณ ๋ ์ฝ๋๋ฅผ ๊ตฌ์ํ๊ณ ๋๋ฒ๊น ์ ์๋ฃํ๋ ๊ฒ ๊น์ง ๊ทธ ์์ ์ด ๋งค์ฐ ๊ณ ๋๊ธด ํ ๊ฒ ๊ฐ๋ค.
๋จธ๋ฆฌ๋ก ๋๊ณ , ์ฝ๋ฉ ์ง ๊ฒ์ผ๋ก๋ ๋๋ ๊ฒ ๊ฐ์๋ฐ ์คํํด๋ณด๋ฉด ์๋๋ ใ ใ ใ
์ด๋ฐ ใ ใ ใ ๋ ๊ทธ๋ฅ ์ํ์ด๋ ๊ณต๋ถํด์ผ ํ๋ ค๋ ใ ใ ใ
์ผ๋จ ์๊ฐ์ ๋ด์ missing-semester ์์ ์ ๋ฃ๊ณ ์คํ์์ ๊ฐ์ ๋ด์ฉ์ ์ ๋ฆฌํ๋ฉด์ ๊ณต๋ถ๋ฅผ ํด๋ณด๋๋ก ํ์. ๊ณผ์ฐ ์ผ๋ง๋ ๋ค์ ์ ์์๊น? ์ฒซ๊ฐ์ shell ํ ์๋ง ๋ฆฌ๋ ์ค ๊ด๋ จํ ๊ธฐ๋ณธ ๋ช ๋ น์ด๋ค์ ๋ฐฐ์ฐ๋ ค๋?
๋๋ ์ ๋ค์ฒ๋ผ ์ปดํจํฐ๋ ์ฝ๋ฉ์ ์ํด์ ๊ฐ์ด ํ๋ ๊ฒ์ ๊ธฐ์ฌ๋๋ฅผ ๋์ด๊ณ ์ถ์๋ฐ ใ ใ [์ํ ๋์จ๋ค๋ฉด์ ์ํ์ ์ธ์ ๋์ค๋ ๊ฑฐ๋๊ณ ! .... ์ฐจ๋ผ๋ฆฌ ์ฒ์์ ํํธ ๊ณต๋ถ๊ฐ ๋ ์ฌ์ ๋๋ฐ ใ ใ ใ ์ด๊ฑด ์ง์ง ์ปด๊ณต๊ณผ ์น๊ตฌ๋ค ํ์๊ณผ์ ์์ ํ๋ ๊ฒ๋ค ์๋๊ฐ... ใ ใ ใ ใ ]
ํ ๋ ๋๋ ์ ๊น ์ปดํจํฐ ๊ณต๋ถ์ ๋ฏธ์ณค๋ ์ ์ด ์์๊ธฐ์, ๋ ๋ฐฐ์์ ์ถ๊ตฌํ๊ธฐ์ ์ด๊ฒ๋ ์๊ณ ์ถ๋ค๋ ์์ฌ์ด ์๊ฒผ๋ค. ์ ์ ์ด๋ ๊ฒ ์๊ณ ์ถ์ ๊ฒ์ด, ์ดํดํ๊ณ ์ถ์ ๊ฒ์ด ๋ง์ ๊ฒ์ผ๊น.. ๋จ๋ค์ ํ๋๋ง ํ๋ฉด๋ง์กฑํ๋ค๋๋ฐ ๋๋ ๊ธ๋ฐฉ ์ง๋ ค์ ๋ ๋ค๋ฅธ ๊ฒ๋ค์ ํ๊ณ ์ถ๊ณ , ๊ธฐ์กด์ ํ๋ ๊ฒ์ด ์๋ ์์ ํ ๋ค๋ฅธ ๋ถ์ผ์ ๊ฒ๋ค์ด ๊ณ์ ํด์ ํ๊ณ ์ถ์๊น? ๋๋ ๋๋ฌด๋ ์๋ง์ด ํฐ ์์ฌ์์ด์ธ๊ฑธ๊น...
๊ทธ๋๋ ์ด๋ฒ ํ๋ก์ ํธ๋ ์ํ๋ ์น๊ตฌ๋ค์ด ์๊ณ [๋ ๋ด๊ฐ ์๊ฐ์ ๋ด์ ์์ฃผ ๋ง๋๋ฌ ๊ฐ์ผ๊ฒ ๋ค.-.-; ] ๊ณต๋ถํ ์๋ฃ๋ ๋์ณ๋์ ๋๋ ์๊ฐ์ ์๋นํ ๋ค์ด๋ฉด ์กฐ๊ธ์ฉ์ด๋ผ๋ ๋ฐ๋ผ ๊ฐ ์ ๋ ์์ ๊ฒ ๊ฐ์๋ฐ, ์ง๊ธ ๋์ ์ด ํฅ๋ฏธ๊ฐ ์ธ์ ๊น์ง ๊ณ์ ์ด์ด์ง๋ ค๋? ์ฌํด์ ๋์ ๋ชฉํ๋ RL ์ ์ดํดํ๊ณ ์ ๋๋ก ์ค์ตํด ๋ณด๋ ๊ฒ์ผ๋ ค๋?
์ฝ๋ฉ์ ์ํ๋ ์น๊ตฌ๋ค์ด ๋ง์ด ๋์์ฃผ๋๋ฐ ๊ทธ๋๋ ๋๋ ์ข ํผ์ ํด๋ณผ ์ ์์ด์ผ ํ์ง ์์๊น? ๋๋ถ๋ถ์ด ์ปด๊ณต๊ณผ ์ ๋ค์ด๋ผ ์ฝ๋ฉ์ ๋ณ๊ฑฐ ์๋๋ผ๊ณ ํ๋๋ฐ, ์ง๊ธ ์๊ณ ๋ฆฌ์ฆ ์ง๋ ๊ฒ๋ ํฌ๊ฒ ์ํ ๊ฐ์๊ฒ ๋ค์ด๊ฐ๋ ๊ฒ๋ ์๋๊ณ ์์งํ ์๋ ๋ง ์ฌํด ์ด์ ์ด๋ ๊ฒ ํ๋ก์ ํธ ๋ฐฉํฅ์ ๋ฐ๊พธ๋ฉด์ ์ด์ ์ฒ๋ผ ์ํ์ ์ธ ๋ฐฉ์์ด ๋ง์ด ์ฐ์ผ ๊ฒ ๊ฐ์ง๋ ์์๋ฐ.. ํ ใ ใ ใ ์๋ฌดํผ ๋๋ ์ด๋ฒ ๊ธฐํ์ RL ์ ์ข ์ดํดํด ๋ณด๊ณ ์ถ๋ค.
๋ถ๋ด๋ถ๋ด ๋์ค๊ณผํ์ ๋ช ๊ถ์ ์ง๋ฅด๋ ค๊ณ ํ๋ค. [์๋ ์ถ์ฅ ์ ์ ์ง๋ฅผ๋ ค๊ณ ํ๋๋ฐ.. ์ฅ๋ฐ๊ตฌ๋์ ๋ฃ์ด๋๊ณ ์ง๋ฅด์ง ๋ชปํ์๋ค. ๊ด๋ จ ๊ธฐ๋ก] ๊ณํ์ผ๋ก๋ ๊น๋์ ๊ต์์ ๋๊ณผํ ์๋ฆฌ์ฆ๋ฅผ ์ฌ์ ๋จธ์ ๋ฌ๋์ ๊ทธ ๊ธฐ๋ฐ์ด ๋๋ ๋๊ณผํ, Neural network ๋ฅผ ์ดํดํด ๋ณด๋ ค๊ณ ํ๋๋ฐ, ์ผ๋จ ์ธ์ฆ๋ ธ์คํค์ ๋ฅ๋ฌ๋ ๋ ๋ณผ๋ฃจ์ ์ ๋จผ์ ์ฝ์ด๋ด์ผ ๋ ๊ฒ ๊ฐ๋ค. ๊น๋์ ๊ต์์ ์๋ฆฌ์ฆ ์ค์์๋ ๊ทธ๋๋ง ์ธ๊ฐ vs ๊ธฐ๊ณ ์ด ์ฑ ์ด ๊ด๋ จ์ด ์์ด ๋ณด์ธ๋ค. ์ ๊ฒ๋ฆฌ์์ ๊ธฐ๊ณ๋ ์ด๋ป๊ฒ ์๊ฐํ๋๊ฐ๋ ๊ตฌ์ ํ๋ ค๊ณ ํ๋๋ฐ ํ
ใ ใ ใ ใ ์ ์ฑ ์ธ์ ๋ ์๊ณ ๋ฆฌ์ฆ๊ณผ ์กฐํฉ๋ก ๊ด๋ จ ์ธ๊ตญ ์ฑ ์ ์ด๊น ํ๋๋ฐ ใ ใ ์ด๋ฒ์๋ ๋์ด ๊ฝค๋ ๊นจ์ง๊ฒ ๊ตฐ ... RL ์ ๊ณต๋ถํ๋ค๊ณ ํด๋ ์ฌ๋ฏธ์๋ ์ํ ๊ณต๋ถ๋ฅผ ์ ํ ์๋ ์์ง...
๊ทธ๋์ ๋ ์ด์ ์ถ์ฅ ๋๋ฌ์ผ๋ ๋ ์ ๋ฌด๊ฐ ์์ฒญ ๋ง์ด ์์ฌ์์ ํ ๋ฐ [๋ฌผ๋ก ์ถ์ฅ ์ค๊ฐ ์ค๊ฐ์ ๋ณด๊ณ ์๋ฅผ ์ฒ๋ฆฌํ๊ธด ํ์ผ๋] ์ด๊ฑธ ํ ์๊ฐ์ด ์์๊น? ใ ใ ใ
์ ์ผ๋จ ๋ด์ผ์ ํด์ฆ ํ์ด๋ ์ถ์ฅ ๊ธฐ๊ฐ์ ์กฐ๊ธ ๋จ์๋ ์ถ๋ฆฌํผ์ฆ๋ค์ ๋ง์ ธ ์ ๋ณตํด์ผ๊ฒ ๋ค.