오늘 여의도에 가서 '박사' 란 것을 먹어 보았다.
친구 둘이랑 나랑 3명이 모여서 [사실 친구 둘이 다 하고 나는 뒤에서 질문하고 이러면 안될까 딴지 거는 그런?] 이런저런 실습을 했다.
ㅋㅋㅋㅋㅋ
점심을 먹고 한참 떠들고 있는데 친구의 여자친구가 잠시 놀러와 '박사' 란 것을 만들어 주었는데
ㅋㅋㅋㅋ 색깔이 그 머랄까? 연한 탄산음료의 색이었다. 박카스와 사이다를 섞어 만들어서 박사라는데 ㅋㅋㅋㅋ
ㅇㄴ 각성제를 마시면 나는 마치 술에 취한것 처럼[술도 안 먹어봤으면서? ] 마구 날 뛴다. 몇시간을 날 뛰다가 풀에 지쳐 모임을 파하고 집에 들어왔다.
오늘 모임에서 나는 도움이 됬을려나 모르겠다. 처음에 몇가지 아이디어를 냈긴 했고, 관찰력을 발휘하긴 했는데 ㅠㅠ 뱀만 잡다가 끝났다.
아직 용어도 익숙하지 못하고 코딩도 거의 못하는 내가 해줄 수 있는 것은 input data 와 output data 의 dimension counting 이나 함수를 지정할 때 생기는 오타 check 그리고 기존의 패키지를 어떻게하면 우리의 목적에 잘 맞추어 쓸 수 있을지에 대한 관점 제시 정도...
여러개의 파이썬 코드를 같이 돌리려고 하는데 어떤 코드는 Tensorflow 의 낮은 버전에만 돌아가고 또 어전 코드는 Tensorflow 의 높은 버전이 필요하고ㅋㅋㅋㅋ
이미지에서는 잘 쓰이는 코드를 시계열로 바꾸어서 작업하려고 하는데, 맨 처음에는 conv2d 를 이용해 height 만 1로 잡고 접근하는 방식을 하려다가 생각하는 방식으로 학습하는 것이 아니라 conv1d 함수를 새롭게 만들어서 진행하였는데 여러번의 디버깅 과정에서 이상한 문제가 생겼다...
그 뒤 모두 '박사' 를 마시고 conv2d 를 이용해서 어떻게 해볼까 하고 작업해 봤는데 ㅋㅋㅋ 뱀만 잡다가 끝났다.
아 근데 나는 padding, stride, dilation, bias 등의 용어나 개념도 아예 모르는 상태에서 코드 보고 그냥 진짜 엄밀하게 코드를 보는게 아니라 함수랑 변수 가지고 뭐가 문제일지 맞추는 방식으로밖에 이해를 못했는데 ㅠㅠ
흠... 오늘 알게 됬거나, 찾아봐야 될 것들
사실 stride, dilation 은 내가 질문하니까 친구가 간략히 설명해 주긴 했다. 하지만 padding은? 패딩은 영어 단어로 옷 아닌가? 뭐 완충작용 이런 의미도 있으니 어느정도 거꾸로 이해는 했다. 원래 데이터를 보호하기 위해 0 을 넣어서 데이터의 크기를 보호하는 것 같다. - layer 를 거치고 나온 결과를 보고 거꾸로 유추했다. 한번 layer 를 거치고 나니 크기가 줄어들었다.
여담으로 tensorflow 의 tensor 에 대해서도 물어봤는데, 여기서 말하는 tensor 란 대수학의 tensor product 도 기하학과 물리학의 그 tensor 의 정의랑 좀 다른, 일종의 multi-index(dimensional) array 였다.
dilaton causal convolution, 1d 시계열 convolution 중에서 미래 data 를 읽지 않고 과거 데이터만을 읽기 위해선 dilation 을 해 주어야 한다고 한다. [복소함수나 등각장론에 이 dilaton 이란 개념이 등장하는데 conformal map 에서는 f(z) = az 같은 것으로 ... 이것과 관계가 있는 것일까? ]
convolution 의 의미? ML 에서 쓰이는 convolution 의 explict 한 식이 얼핏 보면 Laplace transform 이나 Forier transformation 에서 등장하는 convolution 식과 유사해 보이는데 같은 것일려나? [비슷한 것 같은데 weight 즉 filter 가 들어가면서 discrete 하게 표현한 그 식과 어떻게 연관이 되는지 잘 모르겠다. ]
a2c ㅋㅋㅋ 뭐 계속 directory path 등에 등장하고 가져다 썼긴 했는데 이건 또 멀까? 알고리즘이라는데
오늘 이용한 cnn (convolutional neural network) 는 애초에 이미지에 관련된 것이라 conv2 즉 2d 관련 패키지는 잘 되어 있는데 시계열 분석하기에는 적합한 툴은 아니었다. 텐서플로우가 아닌 keras 나 PyTorch 에는 conv1d 관련 것들이 [사실 텐서플로우도 20.x 버전에는..] 잘 돌아가는 것 같은데 호환이 안되니 이런
github 에 자료 올리고 공유하고 하는거?
아 생각해보니 오늘 같이 실습한 친구 한명은 이미지 전공이고 다른 한명은 소프트웨어이긴 하지만 회사에서 ML 관련이라 [즉 둘다 컴퓨터 관련 쪽이라] 이 cnn 을 이용해서 작업한 것인가? 와 진짜 코딩 하는 모습을 보니 다들 장난이 아니더군.. CNN 과 관련되어서 좀 찾아보니 친구 A 의 전공이랑 많이 겹치긴 하는군, 컴퓨터 비전 일을 오래했으니 툴이 익숙하긴 하려나?
이 친구 둘이 나에게 컴공의 재미를 이제 느끼고 있냐고 묻는데 ㅋㅋㅋ 배우는 것은 재밌긴 한데, 또 몇번 나에게 실습도 시키고 해서 재미있기는 한데, 처음부터 그 수많은 코드를 짜고 또 코드를 구상하고 디버깅을 완료하는 것 까지 그 작업이 매우 고되긴 한 것 같다.
머리로 되고, 코딩 짠 것으로도 되는 것 같은데 실행해보면 안되니 ㅋㅋㅋ
이런 ㅋㅋ ㅋ난 그냥 수학이나 공부해야 하려나 ㅋㅋㅋ
일단 시간을 내서 missing-semester 수업을 듣고 스팀잇에 강의 내용을 정리하면서 공부를 해보도록 하자. 과연 얼마나 들을 수 있을까? 첫강은 shell 흠 아마 리눅스 관련한 기본 명령어들을 배우려나?
나도 애들처럼 컴퓨터나 코딩을 잘해서 같이 하는 것에 기여도를 높이고 싶은데 ㅠㅠ [수학 나온다면서 수학은 언제 나오는 거냐고! .... 차라리 처음의 퀀트 공부가 더 쉬웠는데 ㅋㅋㅋ 이건 진짜 컴공과 친구들 학위과정에서 하는 것들 아닌가... ㅋㅋㅋㅋ]
한 때 나도 잠깐 컴퓨터 공부에 미쳤던 적이 있었기에, 또 배움을 추구하기에 이것도 알고 싶다는 욕심이 생겼다. 아 왜 이렇게 알고 싶은 것이, 이해하고 싶은 것이 많은 것일까.. 남들은 하나만 하면만족한다는데 나는 금방 질려서 또 다른 것들을 하고 싶고, 기존에 했던 것이 아닌 완전히 다른 분야의 것들이 계속 해서 하고 싶을까? 나는 너무나 욕망이 큰 욕심쟁이인걸까...
그래도 이번 프로젝트는 잘하는 친구들이 있고 [더 내가 시간을 내서 자주 만나러 가야겠다.-.-; ] 공부할 자료는 넘쳐나서 나도 시간을 상당히 들이면 조금씩이라도 따라 갈 수 는 있을 것 같은데, 지금 나의 이 흥미가 언제까지 계속 이어질려나? 올해의 나의 목표는 RL 을 이해하고 제대로 실습해 보는 것일려나?
코딩은 잘하는 친구들이 많이 도와주는데 그래도 나도 좀 혼자 해볼 수 있어야 하지 않을까? 대부분이 컴공과 애들이라 코딩은 별거 아니라고 하는데, 지금 알고리즘 짜는 것도 크게 수학 같은게 들어가는 것도 아니고 솔직히 작년 말 올해 초에 이렇게 프로젝트 방향을 바꾸면서 이전처럼 수학적인 방식이 많이 쓰일 것 같지는 않은데.. 흠 ㅋㅋㅋ 아무튼 나도 이번 기회에 RL 을 좀 이해해 보고 싶다.
부랴부랴 대중과학서 몇 권을 지르려고 한다. [원래 출장 전에 지를려고 했는데.. 장바구니에 넣어두고 지르진 못했었다. 관련 기록] 계획으로는 김대식 교수의 뇌과학 시리즈를 사서 머신러닝의 그 기반이 되는 뇌과학, Neural network 를 이해해 보려고 했는데, 일단 세즈노스키의 딥러닝 레볼루션을 먼저 읽어봐야 될 것 같다. 김대식 교수의 시리즈 중에서는 그나마 인간 vs 기계 이 책이 관련이 있어 보인다. 숀 게리시의 기계는 어떻게 생각하는가도 구입하려고 하는데 흠
ㅋㅋㅋㅋ 저 책 외에 또 알고리즘과 조합론 관련 외국 책을 살까 하는데 ㅋㅋ 이번에도 돈이 꽤나 깨지겠군 ... RL 을 공부한다고 해도 재미있는 수학 공부를 안 할수는 없지...
그나저나 이제 출장 끝났으니 또 업무가 엄청 많이 쌓여있을 텐데 [물론 출장 중간 중간에 보고서를 처리하긴 했으나] 이걸 할 시간이 있을까? ㅋㅋㅋ
아 일단 내일은 퀴즈 풀이랑 출장 기간에 조금 남았던 추리퍼즐들을 마져 정복해야겠다.