Sklearn의 SVC는 hyperplane 경계에서 데이터가 혼합되어 있는 경우 중요 파라메터인 γ 와 C 값을 조절하여 Overfitting 조절이 가능하다. 따라서 SVC 예제에서처럼 Iris Flowers 데이터를 대상으로 다항식 기법을 적용한 TesnsorFlow 코드를 사용하여 결과를 비교해 보기로 하자.
SVC루틴을 사용하여 결과를 아래와 같은 결과를 얻어 보기 위해서는 150개의 Iris 데이터를 7:3 으로 학습용(X_train)과 테스트용(X_test)을 나누어(split) 처리하기로 하자. 학습용과 테스트용 두 종류로 분리되는 데이터는 반드시 StandardScaler를 사용하여 표준화 처리를 해야 한다. 반면에 TensorFlow에서 코딩된 다항식 기법 적용 시에는 표준화 처리를 할 필요가 없다. 실제 SVC와 다항식 기법 계산 결과를 참조해 보면 Setosa를 식별하는 hyperplane 의 기울기를 참조해 보면 될 것 같다.
SVC기법에서 gamma 값아 커지면 Setosa(0)와 Vergicolor(1) 식별 결과가 다음의 첫 번째 그림에서처럼 너무 빡빡해지는 경향이 있으며 C 값이 지나치게 커져도 Classification 결과가 자연스럽지는 못하다. 즉 rbf (Radical Basis Function) kernel을 사용하는 SVC 알고리듬에서 gamma 값이 작아야 즉 Vapnik 의 soft margin classification 효과가 가능해지며 한편 linear kernel을 사용하는 SVC 라든지 또는 LogisticRegression Classifier 결과와 비교가 가능하다.
TensorFlow 코딩에서 다음의 결과들은 비선형 Covariance 만을 사용하는 hypothesis를 사용할 경우와 선형항과 바선형 항을 혼합했을 경우의 특장을 보여준다. Covariance 만을 사용했을 경우에는 hyperbola 형으로 classification 이 강하게 이루어지는 반면에 선형 항이 추가되었을 경우에는 직선성이 강화되어 linear kernel 이나 작은 gamma 값을 가지는 rbf kernel 사용 때와 유사성이 보인다.
파이선 코드는 아래 블로그 주소에서 다운받기 바란다.
http://blog.daum.net/ejleep1/923
![마나마인로고.png]
