랜덤 포레스트(Random Forrests) 머신러닝 기법은 Classification 성능이라든지 또는 확장성(Scalability)과 쉬운 사용법으로 인해 지난 10년간에 걸쳐 각광을 받았다. 랜덤포레스트 기법은 직관적으로 Decision Tree들로 이루어진 앙상블이라고 볼 수 있다. 즉 랜덤포레스트는 높은 변동성을 가지는 여러 Decision Tree들의

GaussianNB Classifier 를 사용해 보기 전에 5-0 Bayesian Rule 과 기초 확률론내용을 사전에 살펴보도록 하자. GaussianNB 는 Naive Baesian 알고리듬의 특수한 경우이다. 즉 학습과 테스트를 위한 샘플들이 연속적인 변수일 때 사용하는 알고리듬으로서 Scikit-learn의 상당 수 알고리듬들이 인식율을 높이기 위해

확률론에서 대단히 중요한 역할을 담당하는 랜덤 변수는 사실상 변수가 아님에 주목하자. 랜덤 변수라고 하는 것은 결과물을 포함하는 확률적 사건 즉 outcome을에 대해서 실수 값을 설정하는 또는 라벨 명을 설정해 주는 함수라 할 수 있는 것이다. 주사위 던지기 게임에서 던질 때 마다 나오는 outcome 에 종속적인 랜덤 변수를 X 라고 하자. 예를 들어 주사위를

)XOR 로직 계산은 Rosenblatt 의 퍼셉트론 연구로부터 잉태되었던 뉴럴 네트워크 발전의 중요한 고비로 기억된다. 1969년에 MIT 민스키 교수가 그의 저서 퍼셉트론에서 Rosenblatt 의 퍼셉트론으로는 XOR 로직 계산이 불가능하다고 부정적인 의견을 제시했던 바로 그 문제로서 1971년에 퍼셉트론 개발의 주역이었던 Rosenblatt 이 사고로

28X28 사이즈 MNIST 데이터 X를 읽어 들여 1X784 사이즈로 일차원 화된 매트릭스로 변환한 다음 마지막에 하나의 요소를 추가하여 1X785 로 만든다. 마지막 요소에는 바이아스 용으로 1을 입력해 둔다. 웨이트 매트릭스 W는 바이아스를 별도로 처리할 필요 없이 785X10으로 처리한다. 연산 결과 10 비트 hypothesis states 에 각

뉴럴 네트워크 텐서플로우에 의한 Iris data classification 에 통계학적 Softmax 기법을 적용해 보자. Softmax의 엑스포넨트에 포함시켜야 할 항은 linear classifier에 더해 Covariance(공분산) classifier 항을 추가하기로 하며 각각 서로 독립적으로 랜덤하게 설정되는 웨이트들이 다음과 같이 사용된다. 이

Iris flowers Classification 문제는 2019년 텐서플로우 홈페이지 리모델링 전에 있었던 예제로서 붓꽃 꽃잎 사이즈와 꽃받침 사이즈 데이터를 사용하여 세부적으로 종을 분류하는 Scikit-learn 라이브러리 사용법을 배우는데 좋은 예로서 이미 교보문고에서 출판된 필자의 “파이선 코딩 초보자를 위한 텐서플로우 OpenCV 머신 러닝” 1장에서

2012년 ILSVRC에서 발표되었던 AlexNet은 물론 그 인식률이 50∼60% 라고는 하지만 그 이 후로 다양한 Image Classification 모델들의 출현을 가능하게 했다는 점에서 본격적인 Image Classification 분야 발전의 서막을 연 신호탄이라 할 수 있다. AlexNet에서 사용하는 파라메터 규모를 분석해 보면 그 아키텍추어가

2017년도 기준 각종 이미지 네트워크의 인식률 수준을 비교해 보면 가장 초기의 네트워트였던 AlexNet 은 Top-1 error rate 기준으로 50%를 상회하는 수준이었으며 뒤를 이어 출현한 다양한 네트워크들이 인식률을 높여 나갔다. Top-5 error rate로 기준을 바꾸면 인식률이 20% 이상 훨씬 올라 갈 수도 있음에 유의하자. 2017년을

이와 같이 data 폴더 준비가 되었으면 tutorial 의 data loading 셀 코드를 Colabo에 가져다 실행이 가능해진다. 로딩되는 데이터는 Compose, Crop, Resize, ToTensor 처리를 통해 data augmentation이 이루어져야 Transfer Learning 처리가 가능해진다. 특히 ∙∙∙Crop 명령은 잘라내는 이미지의

7월 11일 중부지방 장맛비가 걷히기 시작할 무렵 단체 버스로 영월 강원랜드가 있는 하이원 리조트로 향했다. 막상 영월에 도착해보니 행선지인 하이원 마운틴 코도로 정확하게 네비 입력이 안되어서 인지 프로 운전 기사도 콘도를 못찾아 30분가랼 지체 되었다. 하이원 마운틴 콘도 골프장, 테마파크가 여기저기에 미로처럼 흩어져 있는 지형이었다. 바쁘게 당일 오후 교육을

예제에서 함수 train_model 코드 부분 이해가 어려운 편이다. 어떤 모델을 사용할 것인지 여부는 models 라이브러리가 제공하는 범위 내에서 즉 AlexNet, Inception, VGGNet, ResNet을 포함하는 9가지 종류 중에서 선정이 가능하다. 특히 9종의 각 모델 별로 Fine Tuning 시키기 위한 예제 코드는 아래 url 주소에 예제로

실제로 필요한 모델은 아래와 같이 Fine Tunnuing 영역에서 라이브러리 models 가 제공하는 ResNet18을 호출하여 model_ft 로 둔다. _ft 는 fine tinning 의 약자인 듯하다. 아울러 model_ft.fc.in_features 는 결국 ResNet18에서 제공하는 in_features 값인 셈이다. 물론 ResNet 말고도

PyTorch Transfer Learning 예제 코드는 Fine Tuning과 Fixed Feature Extractor 2가지 기법을 포함하고 있다. Fine Tuning에서는 특정 Image Classification 알고리듬을 사용하여 ImageNet을 학습한 결과 중 Feature Extraction 학습 결과 웨이트 매트릭스를 그대로 가져다 학습을

2019년 7월 현재 ImageNet 은 전체적으로 1000종에 달하는 140만개의 이미지 파일로 구성된 데이터 베이스로서 영어 사전에 해당하는 WordNet 방식을 따라 대상물의 명사들 별로 수백 수천가지의 이미지들로 이루어진다. 대상물 하나를 노드라고 하는데 평균 500장 정도의 이미지 데이터를 가지고 있다. 1000종 140만개의 이미지 데이터 베이스인

일본 아베의 비열함을 해외 축구의 나라 브라잘 에서도 인지하고 있군요!

정부에서 반일 대책 세운다고 호들갑 을 떨고 기재부는 달랑 6조원 투자를 하네 마네 염병을 떠는군요. 태양광만해도 6조원 이상 투자했을 거예요! 정부 차원의 특단의 대책이 어랴워 보이지만 그래도 여러분에게 소개하고 싶은 기분 좋은 짤이 하나 떳군요. 가장 마음에 드네요. 더운 밤 시원하게 보내세요.

아래 그림은 2017년 8월 중순에 작성했던 블로그로서 라즈베리 파이에서 버튼을 생성할 수 있는 파이선 2.7버 전을 위한 Tkinter 라이브러리를 사용하였다. 2년이 지난 지금 실행시켜보니 그다지 마음에 들지 않는 에러 메시지가 발생했다. 2년 전에 별 문제가 없었지만 워낙 시간이 경과했으며 아울러 OS 도 Jessie에서 Stretch 로 업그레이드 한게

좌파 정권이 들어서서 탈원전해서 원자력 말아먹고 중국제 태양광해서 국토오염의 선봉에 서질 않나 누가 자문하는지 손대는 건마다 말아먹다가 간만에 제대로 된 권고가 나왔군요. 그것도 우리나라를 방문한 손정의가! 이미 이웃나라 일본만해도 이미 한해 전에 학과 전공을 막론하고 거의 전체 대학교과 과정의 30% 선에서 인공지능 내지는 머신 러닝 교유과정을 반영하는 것으로

LeNet-5는 CNN을 개척한 LeCUN이 제시한 표준적인 구조의 뉴럴 네트워크이다. 32X32 이미지는 1024 비트 즉 1K비트급 이미지로서 일 단계 Convolution 처리과정에서 첫 번째 Convolution에서 6개의 5X5 필터를 사용하여 28X28 이미지로 크기를 줄인 후 두 번째로 막바로 Subsampling 즉 Max-Pooling 작업을