머신 러닝에서 MNIST 수기 숫자 판독을 위한 CNN(Convolutionary Neural Network) 코드를 경험하였으면 그 다음 RNN(Recurrent Neural Nwtwork) 분야로 넘어가 보자. CNN에 이어 RNN으로 넘어간다고 해서 RNN 이 CNN 이 후에 개발된 것은 전혀 아니란 점을 알아 두자. CNN 이 1990년대 말 LeCUN에

Back end 소프트웨어인 Keras 는 Front end인 아나콘다 설치 시에 함께 설치하도록 되어 있으므로 인해서 파이선 머신 러닝 분야에서 상당히 높은 사용률을 보여 주고 있으며 그 다음이 PyTorch이다. Caffe 는 버클리 대학이, Theano 는 몬트리올 대학이 제공하는 머신 러닝 라이브러리이다. Back end 라 함은 쉽게 말해서 Solver

SPS30 미세먼지 센서로 측정한 PM2.5 값을 255까지 한계인 byte 데이터로 변환하여 앱인벤터에서 수치 값과 실시간 그래프를 작성해 보자. 아두이노에서는 arduino_sps30_example 코드에서 PM2.5 데이터 출력만 블루투스로 송신하도록 byte 변수 pm을 선언하여 Serial.write 명령으로 출력한다. byte 데이타이기 때문에 255를

엑셀 명령 MINVERSE를 사용하여 매트릭스 A의 역행렬 즉 인버스 매트릭스를 편리하게 계산할 수 있었다. 매트릭스 인버스를 계산하는 원리와 행렬식(Determinant)에 대해서 알아보자. 2x2 매트릭스 C 와 C의 행렬식(Determinant)값을 고려해 보자. 다음의 3x3 매트릭스 A에 대해서 A의 인버스 매트릭스 계산 중간 과정에 수반하여 나타나는

읽어 들인 데이터를 직접 사용하여 머신 러닝을 시킬 수도 있으나 이 데이터들을 표준화(Normalization) 시키면 머신 러닝 결과가 더욱 정밀해질 수 있다. 읽어들인 MNIST 학습 데이타와 테스트 데이타를 표준화 한 후 원 데이터는 컴퓨터 메모리를 많이 차지하므로 삭제하도록 한다. 한편 표준화 이전이든 후든 X_train 이나 X-test는 그 수가

TensorFlow에서 뉴럴네트워크(NN)를 사용하는 High Level API는 간단히 Linear Classifier를 사용하는 Low Level API 와 구별된다. 한편 High Level API 에서도 2가지가 있는바 하나는 TensorFlow 의 tf.layers 명령을 사용하는 방법과 그 이후에 출현한 Keras API

아두이노에서 SPS 미세먼지 센서 측정 결과는 간단하게 Serial.print 명령에 의해 시리얼 모니터에서 확인이 가능하다. 하지만 미세먼지 센서 측정기를 휴대용으로 사용하기 위해서는 PC와 USB 케이블을 제거하고 아두이노의 실린더형 어댑터에 직류건전지를 연결하여 5V 로 레귤레이팅한 전압을 아두이노에 공급하게 된다. 따라서 측정 결과를 출력해 보려면 LCD

SPS 미세먼지 센서 규격을 보면 내부적으로 충분한 샘플링 시간을 부여 하여 PM 1.0 과 PM2.5 를 따로 따로 측정하여 출력하는 것으로 되어 있다. 데스크 탑 컴퓨터에 연결하여 시험할 경우에는 시리얼 모니터 또는 시리얼 플로터로 출력하여 결과를 확인할 수 있으나 포터블화 할 경우에는 전원도 어댑터를 사용해야 하며 출력 결과를 디스플레이 디바이스를 사용하여

이미 아두이노 C/C++을 사용하여 매트릭스 연산을 위한 어레이를 설정하고 매트릭스 요소 값들을 입력한 후 매트릭스 연산 룰에 따라 코딩하여 실행 후 결과를 출력하여 보았다. 이번에는 보다 HIGH LEVEL 언어라 할 수 있는 엑셀 명령을 사용하여 매트릭스 곱하기 연산을 해보자. 엑셀이 머신 러닝과 얼마나 깊은 관계를 맺고 있을지는 모르겠으나 머신 러닝이

SENSIRION 사의 SPS30 센서를 사용하여 미세먼지 농도를 측정해보자. SENSIRION 사는 스위스의 센서 회사로서 환경 계측 분야의 정밀한 센서를 보급하고 있다. 하지만 아직까지는 아두이노 우노에서 SPS30 센서를 사용하여 미세먼지 농도를 측정하기 위해서 필요한 라이브러리를 인터넷 상에서 조달할 수 없는 상황이다. GITHUB에서 발견되는 라이브러리

Iris data를 엑셀로 읽어들여 그래프를 작성해보기로 한다. Iris 데이터는 인터넷에서 쉼표로 분리된 텍스트 파일 형식으로 쉽게 구할 수 있으며 워드패드로 iris.txt 라는 파일명과 확장자로 저장하였다. 이 텍스트형 데이터 파일을 엑셀에서 읽어 들이자. Iris 데이터 워드패드 텍스트 파일 내용 요약은 다음과 같다. 엑셀은 보급률이 높은 소프트웨어여서

이미 Wide Deep 뉴럴 네트워크를 사용하는 XOR 문제에서 ReLU 함수 대신 zSigmoid(z)를 사용하여 거의 동일한 결과를 얻었으며 동일한 방법을 MNISYT CNN 코드에 적용해 보기로 한다. ReLU를 사용하는 MNIST CNN 의 인식율은 learning rate =0.001, 15 trainiing epochs에 98.85% 수준이다. CNN

Sigmoid 함수의 중복적인 사용으로 인한 Vanishing Gradient 문제로 인해 Hinton 교수가 제안한 ReLU 함수가 대안으로 폭 넓게 사용되면서 문제의 해결이 이루어졌지만 한편 Sigmoid 함수의 사용이 대단히 위축 되었다. 하지만 ReLU 함수의 약점 중의 하나가 꺽어지는 부분에서 미분계수 값을 가지지 못하는 단점이 있다. 이러한 약점을

머신 러닝에서는 특정 클라스에 속하는 identical 하면서 distinguishable 한 많은 샘플 수의 입력 벡터들 X에 대해서 학습 계산을 실행하여 Hypothesis 레벨 별로 값을 계산한다. 물론 이 계산은 0부터 9까지 class 전체를 대상으로 돌아가면서 모든 class들에 대해 cost(loss) 함수인 Crooss Entropy가 최소화

MNIST 뿐만 아니라 사진 이미지 머신 러닝을 위한 CIFAR-10 데이타 경우도 각 사물별로 10개씩의 사진 이미지를 학습용 데이터로 제공하기도 한다. 즉 plane 비행기를 하나의 클라스로 잡고 비행기의 특징(feature)을 보여 줄 수 있는 10장의 학습용 샘플로 데이터 베이스를 구성하는 것이다. MNIST 숫자 데이터 베이스가 흑백임에 비해 컬러

Sine 함수 계산을 코딩하여 시리얼 모니터에 출력해보자. Sine 함수의 성격 상 –1에서 +1 사이의 값을 출력해준다. 헤더 영역에 실수형(float) 어레이로 101개를 설정한다. float s[101]; 시리얼 모니터와 시리얼 플로터를 사용할 수 있도록 setup()에서 통신 속도를 설정해 둔다. Serial.begin(9600); Sine 함수 값을

동호회에서 DJI에서 나온 텔로 모델 바람이 불었다. 그저 그런가 했는데 그런게 아니었다. 핸드폰으로 조종이 가능하며 필요하면 스틱 조종기로도 조종이 가능하다. 정말 호버링이 대단한 장난감인데 카메라 기능이 상당히 뛰어나 실내 촬영용으로 안전하면서도 고성능인 듯하다. 손바닥 이류 착륙 공중제비 다 가능하다. 그런데 간간히 통신이 끈기는 듯한 느낌이 있으나 워낙

총 에너지가 8ΔE이면서 6개의 입자로 이루어진 볼츠만 확률 분포를 고려해 보자. 0∼8ΔE 구간의 이산적 에너지 레벨의 수는 9개이다. 입자들은 identical 하면서 distinguishable 하다고 가정한다. identical 하다는 가정은 고려하는 6개의 입자가 물성이 동일하다면 즉 예를 들어 “모두 같은 크기 및 질량을 가지는 탄소분자로 이루어진다”

입자들이 포함된 용기의 내부 온도가 일정하고 입자들의 전체 에너지가 보존된다는 조건하에서 각각의 입자들은 서로 다른 위치와 속도분포를 가지게 되므로 물리적으로 가능한(probable) microstate의 경우의 수가 수없이 많아지게 되는데 이러한 상황을 통계 확률적으로 고려해 보자. 현실적이면서도 물리적인 상황에서 용기 내부에는 입자 1몰만 잡아도 6에 10의

통계학은 데이터의 수집에서 시작하여 구성 분석 해석 및 발표에 이르기까지 전 과정을 아우르는 수학의 분과이다. 통계학을 과학, 산업 또는 사회문제에 적용하기 위해서는 대개 통계학적인 분포(statistical population) 또는 통계학 모델(statistical model)을 가지고 스터디 한다. 인구분포 문제라면 당연히 한 지역 이나 나라 안의 모든