nn.Sequential에서는 instance인 model.parameters()에서 .no_grad() 조건하에서 웨이트 값들을 끄집어 내어 학습과정에서 직접 업데이트를 시키면 그 다음 학습 과정에서 업데이트 된 웨이트 값들이 model 에 입력되어 사용되었다. 하지만 nn.Sequential 과는 달리 nn.Module을 하위의 클라스로 불러 처리하고자

PyTorch 가제공하는 뉴럴 네트워트 클라스 nn을 살펴보자. 그 사용법은 Keras 의 Sequential 과 아주 흡사하다. 그 내부에서 nn.Linear, nn.ReLU, nn.Linear 로 구성되며 각 nn.Linear 별로 내부에서 웨이트 매트릭스 w1 과 w2 가 계산되어 넘겨진다. 메인 학습 루틴에서 method 명령인 .parameter()에

NumPy 라이브러리 쳬계하에서 작성한 앞서의 머신 러닝 코드를 PyTorch로 변환하는 작업은 대단히 쉽지만 왜 PyTorch로 바꾸면 좋은지 그 이유는 알아야 하지 않겠는가? 그 이우는 너무나 간단하다. GPU 컴퓨팅이 가능해지는 것이 큰 장점이다. 구글 Colabo를 쓴다면 이 조차 필요 없을지도 모른다. 왜냐면 NumPy 스타일 코드 전체를 GPU 와

TensorFlow 머신 러닝 코드는 실행에 앞서 Computational Graph 즉 그래프를 생성하게 되어 있다. Session 단계에서는 생성된 그래프를 이용하여 입력되는 데이터에 대해 언제라도 동일한 그래프를 사용하여 연산을 실행한다. numPy 스타일 뉴럴네트워크 코드나 PyTorch 코드와 비교할 목적으로 GPU 연산에 따른 소요 시간을 그래프

러신 러닝 문제를 코딩한다는 면에서 PyTorch라고 해서 NumPy 나 TensorFlow 와 별다른 특징을 지적할 수는 없을 것이다. 머신 러닝의 목적이 같으므로 결국은 동일하거나 비슷한 결과를 주리라 예상된다. 하지만 훨씬 최근에 출현한 PyTorch는 자체 웹사이트의 예제에 의하면 과학기술 분야의 컴퓨팅 영역에서 오랫동안 파이선 코딩을 뒷받침해 왔던

그림의 선형회귀법 예제에서 미지수인 웨이트 값 w를 regression 기법으로 찾아보자. 처음에서 random number 나 임의의 상수 값으로부터 시작하면 된다. 이 웨이트 값 w는 PyTorch 머신 러닝 과정의 중요 변수이므로 반드시 torch.Tensor로 선언되어야 torch 라이브러리의 지원을 받아 regression 이 가능해짐에 유의하자.

컴퓨터 코딩을 다루다 보면 흔하게 접하는 용어로서 Front end 와 Back end 가 있다. 컴퓨터 코딩에서 Front end 란 코드를 작성 수정 빌드 업로딩 저장 및 라이브러리 설치를 지원하기 위한 편집 시스템을 뜻한다. 간단한 예로서는 아두이노 IDE를 들 수 있을 것이다. 마찬가지로 머신 러닝을 위한 코드 편집 작업을 위해서는 이미 잘 알려진 툴이

Linear regression 선형회귀법 유형의 머신 러닝 코드를 다루기 위한 전초 작업으로서 Linear regression에서 다루게 될 리스트 데이터를 설정해서 워밍업을 해보자. x_data = [1.0, 2.0, 3.0] y_data = [2.0, 4.0, 6.0] y_data 와 x_data 사이의 함수관계가 y=2x 라는 점은 누구라도 알 수 있다.

이 연습 문제는 PyTorch 머신 러닝을 익히기 전에 해보는 단순한 파이선 코딩에 의한 선형회귀 문제의 계산 및 그래픽 처리 과정이다. PyTorch 라이브러리 설치 이전에 Anaconda TensorFlow 설치 과정에서 종속적인 라이브러리 모듈로서 numpy 와 matolotlib 가 이미 설치되어 있음을 상기하자. 물론 윈도우즈 7 버전에서는 Python

위 그림은 PyTorch 튜토리알에서 찾아 볼 수 있는 ConvNet 뉴럴 네트워크 다이아그램이다. Concolution+ReLU+Pooling을 2단으로 실행 후 Fully connected 레이어에 의해 최종 Class 학습을 실행한다. 마지막 Output = 10 은 CIFAR-10 예제에서 10개의 Class를 사용하기 때문일 것이다. PyTorch

미중간에 무역전쟁이 점차 격화되는 듯하다. 연전에 ZTE 손봐주기에에서 시작하여 최근에 화웨이를 끝장내 버릴듯한 강력한 제재를 취하더니 이제는 결국 슈퍼컴까지에 이르렀다. 슈퍼컴의 역사를 보면 1980년대에 크레이사의 슈퍼컴에서부터 시작하여 일본의 후지쯔가 뒤따른 것으로 알고 있었는데 이제 보니 짝통만 디립다 만들던 짱개들이 슈퍼컴 생산 및 시장을 거의 다

X자 9X9 이미지 매트릭스에 대한 Convolutional Striding 작업 후 얻어지는 7X7 이미지에서 원래 이미지의 특징이 잘 보존되는 수치 사례를 쥬피터 노트북 코딩에 의해 이미 살펴보았다. 일반적으로 CNN 알고리듬의 특징 추출은 크게 3가지 단계로 나누어진다. 첫 번째가 바로 Convolutional Striding이다. 한편 지금 사용 중인

PyTorch 든 TensorFlow 든 이미지 분석을 위한 머신 러닝에서는 항상 ConvNet 이 출발점이 된다. ConvNet은 CNN(Convolutional Neural Network) 으로 흔히 불리우며 그 둘은 같은 뜻으로 사용된다, 이미지 머신 러닝을 위한 CNN 코드는 대개 10개 레이어까지 사용하는 것이 보통이다. 사용하는 레이어 수가 많으므로

CIFAR-10 PyTorch 쥬피터 노트북(Jupyter Notebook)예제를 구글 Colabo에서 다루어 보자. 쥬피터 노트북에서 실행이 잘되면 Colabo에서 실행도 아무런 문제가 없을 것이지만 단 학습과 테스트를 위한 데이터 파일을 Colabo 맞춰 준비해주고 런타임에서 유형을 GPU 로 설정해주면 실행이 된다. 10개의 class 로 구인된 6만개의

TensorFlow에서 처리되는 머신 러닝 문제는 PyTorch 머신 러닝에서도 다 가능하다고 볼 수 있다. 그럼에도 불구하고 PyTorch를 출시한 이유는 무엇일까? 아마도 TensorFlow에서 취약한 부분의 보강이 충분히 이루어졌을 것으로 보인다. 특히 머신 러닝 영역에서 제대로 된 예제가 희귀한 Transfer Learning 문제를 해결하기 위한 툴

안면 데이타 처리 예제를 살펴보자. 이 예제zip 데이터를 다운 받아서 업로드하여 파이선 unzip 알고리듬으로 압축해제를 하려 하였으나 무슨 이유에선지 성공하지 못했다. 그 대안으,로 zip 파일을 압축을 푼 상태에서 많이 저장 되어 있는 jpeg 파일들을 업로딩하였더니 Sample 폴더 밑에 위치하였다. 우선 mkdir faces 명령으로 폴더를 준비한다.

이미 친일 인명 사전에도 등재된 구한말에 나라 팔아 쳐먹은 이 완용에 대해서 모르는 사람은 아무도 없을 것이다. 나라 판 댓가로 엄청 많은 부동산을 비롯한 재물을 챙겨서 자자손손 부귀영화를 누리다 이 항구라는 놈은 해방 전에 뒤졌고 나머지는 여의도 7.7배 면적 땅 소송 얘기는 들었지만 결과는 잘 모르겠으나 어차피 팔아먹은 나라 다 팔아서 캐나다 어디론가 이민

머신 러닝에서 cost 함수의 설정과 이 cost 함수의 최소값을 찾아내기 위한 경사하강법은 너무나 중요하다. TensorFlow 코딩에 있어서도 Hypothesis를 도입 후 cost 함수를 구성하고 경사하강법을 적용하는 코스로 이루어진다. 물론 learning rate 도 파라메터로 설정해야 하지만 Gradient Descent 알고리듬의 내적인 흐름에

TensorFlow가 구글에서 머신 러닝을 위해서 제공하는 오픈 소스 라이브러리 이듯이 PyTorch 또한 FaceBook에서 제공하는 Deep Learning을 지원하기위한 오픈소스 플랫폼이다. TensorFlow 나 PyTorch에서 Tensor 라는 용어가 나오는데 텐서는 NumPy 라이브러리에서 지원하는 어레이가 매트릭스나 벡터 변환 계산에 사용될 수

드론반 고교생들이 자신들이 조립한 DJI 드론을 날려 실습한 후 드론 시법 비행이 있었다. 공간이 협소하여 시늉만 내는 정도이지만 영상에서 보시다시피 RC 프로와 아마츄어 사이의 비행 실력 차이가 무척 커 보인다.