머신러닝의 기법과 평가

로지스틱 회귀는 이름에 '회귀'가 붙지만, 선형 계산 결과를 확률 형태로 변환해 클래스를 판정하는 분류 기법이다. 연속값 자체를 예측하는 것은 선형 회귀 등 회귀 문제의 기법으로, 이름에 이끌려 이쪽을 선택하는 것이 단골 오류이다. 지도 데이터 없이 덩어리를 찾는 것은 군집화로 비지도학습의 이야기이고, 보상을 단서로 행동을 개선하는 것은 강화학습의 이야기로, 모두 다른 중항목에 놓여 있다.

회귀 문제는 매출이나 기온처럼 연속값을 예측하고, 분류 문제는 스팸 메일인지 여부처럼 이산적인 클래스를 예측한다. 이 둘을 바꿔 놓은 서술이 가장 흔한 오류이다. 지도학습은 어느 문제이든 특징량과 지도 데이터의 짝을 필요로 하므로 한쪽만 특징량으로 충분하다는 것은 아니다. 보상만을 단서로 삼는 것은 강화학습이며 지도학습에 대한 설명이 되지 않는다.

설명 변수가 1개인 것이 단순 회귀 분석, 2개 이상인 것이 다중 회귀 분석이다. '단순'과 '다중'이라는 글자가 그대로 설명 변수의 개수를 나타내므로 바꿔 놓은 서술은 틀렸음을 알 수 있다. 둘 다 연속값을 예측하는 회귀 기법이므로 한쪽이 분류라는 서술도 맞지 않는다. 또한 회귀 분석은 지도학습이므로 개수와 무관하게 지도 데이터를 필요로 한다.

SVM은 마진 최대화, 즉 경계와 가장 가까운 데이터 점 사이의 간격이 최대가 되는 위치에 경계를 긋는다. 이 가장 가까운 점을 서포트 벡터라고 부른다. 오분류한 데이터의 가중치를 늘려가며 학습기를 더해 가는 것은 부스팅의 사고방식이고, 분산이 최대가 되는 방향을 찾는 것은 주성분 분석(PCA)의 사고방식으로 둘 다 SVM에 대한 설명이 아니다. 중심의 중점을 지나는 방법은 마진을 전혀 고려하지 않은 것이다.

커널 트릭은 고차원 공간으로 옮긴 후의 내적을 커널 함수로 직접 구함으로써, 옮긴 곳의 좌표를 실제로 계산하지 않고도 비선형 분리를 가능하게 한다. 좌표를 하나씩 계산하지 않아도 된다는 점이 '트릭'이라 불리는 이유이므로, 실제로 계산한 뒤 분리한다는 서술은 반대이다. 지도 데이터를 사용하지 않는 분할은 군집화의 이야기이며, 학습 데이터 건수를 줄이는 구조도 아니다.

배깅은 부트스트랩 샘플링으로 만든 훈련 데이터로부터 학습기를 병렬로, 서로 독립적으로 만들어 다수결이나 평균을 취한다. 부스팅은 앞선 학습기가 틀린 예를 무겁게 다루면서 학습기를 순차로 더해 가므로 순서에 의존해 병렬로 만들 수 없다. 이 병렬과 순차를 바꿔 놓는 것이 가장 흔한 오류이다. 둘 다 지도학습으로 지도 데이터를 사용하며, 사용할 수 있는 약한 학습기의 종류도 결정 트리나 선형 회귀에 한정되지 않는다.

랜덤 포레스트는 중복을 허용한 추출인 부트스트랩 샘플링으로 조금씩 다른 훈련 데이터를 만들고, 거기서 다수의 결정 트리를 병렬로 서로 독립적으로 키워 다수결이나 평균을 취하는, 배깅의 대표적인 예이다. 앞선 트리의 오류를 무겁게 보면서 하나씩 더해 가는 것은 그래디언트 부스팅 등 부스팅 쪽의 설명으로, 이 부분을 바꿔 놓는 오류가 단골이다. 트리는 1개가 아니라 대량으로 사용하며, 묶는 것은 선형 회귀가 아니라 결정 트리이다.

결정 트리는 특징량에 대한 조건 분기를 트리 형태로 나열하는 기법으로, 어떤 조건에서 어느 쪽으로 나아갔는지를 사람이 읽어낼 수 있다는 점이 강점이다. 한편 트리를 깊게 키울수록 훈련 데이터의 세세한 특성까지 외워 버려 단독으로는 과적합되기 쉽다. 깊게 하면 훈련 데이터에 대한 적합도는 오히려 좋아지고, 그럼에도 새로운 데이터에서 떨어지는 것이 문제이므로 적합도가 반드시 나빠진다는 서술은 틀렸다. 결정 트리는 지도학습이며 분류에도 회귀에도 사용할 수 있다.

AR 모델은 하나의 시계열의 현재값을 그 계열 자신의 과거값으로 설명한다. VAR 모델은 이를 여러 시계열로 확장하여 서로의 과거값으로 설명하는 형태로 만든 것이다. 1개인가 여러 개인가 하는 차이이므로 이를 바꿔 놓은 서술은 틀린다. 둘 다 시계열을 다루는 모델로 이미지의 국소 특징이나 음성의 주파수 성분을 추출하는 도구가 아니다. 지도 데이터의 필요 여부로 나뉘는 것도 아니다.

다중 클래스 분류는 3개 이상의 클래스 중 어디에 속하는지를 맞히는 분류 문제로, 손으로 쓴 숫자를 0부터 9 중 하나로 분류하는 과제가 전형적인 예이다. 최고 기온의 값처럼 연속값을 맞히는 것은 회귀 문제이지 분류가 아니다. 비슷한 고객의 덩어리를 찾는 것은 군집화로 비지도학습이고, 보상을 바탕으로 수를 다시 고르는 것은 강화학습으로, 둘 다 애초에 지도학습의 분류 문제가 아니다.

강의계획은 '비지도학습에는 특징량만이 필요함을 이해한다'는 것을 목표로 제시하고 있다. 정답 라벨을 갖지 않은 채 군집화나 차원 축소를 통해 데이터 자체의 구조를 찾아내는 것이 비지도학습이다. 특징량과 지도 데이터의 짝을 전제로 하는 것은 지도학습, 보상을 단서로 삼는 것은 강화학습으로, 각각 다른 중항목에 놓여 있다. 나머지 데이터를 버리는 절차도 비지도학습에 대한 설명이 아니다.

k-평균법은 클러스터 수 k를 미리 정해 두고, 각 점을 가장 가까운 중심에 할당하는 조작과 중심의 재계산을 반복하는 비계층적 군집화이다. 클러스터 수를 정하지 않고 가까운 것부터 순서대로 병합해 가는 것은 워드법 등 계층적 군집화로, 이쪽은 덴드로그램(수형도)을 그릴 수 있다. 마진을 최대로 하는 것은 SVM으로 지도학습이고, 단어의 등장 방식에서 주제를 추정하는 것은 잠재 디리클레 할당(LDA) 같은 토픽 모델이다.

워드법은 가까운 것부터 순서대로 병합해 가는 계층적 군집화로, 그 병합 과정을 덴드로그램(수형도)으로 그릴 수 있다. 어느 높이에서 자를지를 보면서 클러스터 수를 나중에 정할 수 있는 것이 장점이다. 비계층적으로 클러스터 수를 먼저 정하는 것은 k-평균법 쪽이며, 이쪽은 수형도를 만들지 않는다. 워드법은 차원 축소 기법도 지도학습 기법도 아니며 정답 라벨을 사용하지 않는다.

PCA는 분산이 최대가 되는 방향으로 축을 다시 잡는 선형 차원 축소이고, t-SNE는 가까운 점들끼리의 가까움을 유지하도록 저차원으로 옮기는 비선형 기법으로 2차원이나 3차원에서의 시각화에 자주 사용된다. 이 선형과 비선형을 바꿔 놓은 서술이 단골 오류이다. 문서의 주제를 추정하는 것은 잠재 디리클레 할당(LDA) 같은 토픽 모델, 행렬을 분해하는 것은 특이값 분해(SVD)이다. PCA도 t-SNE도 비지도학습이므로 지도 데이터는 필요 없다.

협업 필터링은 이용자끼리 혹은 상품끼리 평가의 비슷함을 단서로 추천하므로, 평가 이력이 아직 없는 새로운 이용자나 새로운 상품에는 단서를 얻을 수 없어 추천을 내기 어렵다. 이것이 콜드 스타트 문제이다. 상품 설명문이나 속성 자체를 단서로 삼는 콘텐츠 기반 필터링은 이 약점을 보완하는 방향의 사고방식으로 나란히 이야기된다. 계산 시간이나 재고의 이야기가 아니다.

강화학습은 환경과 시행착오하며 상호작용하여, 받는 보상의 누적이 커지는 방책을 학습한다. 단서는 매 수마다의 정답 라벨이 아니라 보상이므로 지도학습의 일종이 아니다. 거리의 가까움만을 단서로 삼는 것은 군집화 등 비지도학습의 발상이고, 단어의 등장 횟수는 자연어 처리의 특징 표현 이야기로, 어느 것도 강화학습의 학습 신호가 아니다. 보상이 바로 돌아오지 않는 경우에 대비해 할인율로 미래를 평가하는 것도 이 틀의 특징이다.

강의계획은 '가치 함수 학습과 방책 학습이라는 2가지 대표적인 접근법을 이해한다'는 것을 목표로 제시하고 있다. 상태 가치 함수나 행동 가치 함수를 추정한 뒤 행동을 고르는 것이 전자로, Q학습과 SARSA가 대표적이다. 방책 자체를 매개변수로 나타내어 직접 갱신하는 것이 후자로, 방책 경사법과 REINFORCE가 대표적이다. Actor-Critic은 방책을 담당하는 Actor와 가치를 담당하는 Critic을 조합하여 둘 다 갖춘다. 어느 한쪽밖에 없다는 서술이나 학습의 대상이 되지 않는다는 서술은 틀렸다.

둘 다 행동 가치 함수를 갱신해 가는 강화학습 기법으로, 갱신에 무엇을 사용하는지가 다르다. Q학습은 다음 상태에서 취할 수 있는 행동 중 가치가 최대인 것을 사용하고, SARSA는 실제로 선택한 다음 행동의 가치를 사용해 갱신한다. 이 둘을 바꿔 놓은 서술이 단골 오류이다. Q학습도 행동 가치 함수를 갱신하므로 한쪽만 사용한다는 서술은 맞지 않는다. 강화학습은 둘 다 보상으로 학습하는 틀이므로 지도 데이터가 필요하다는 서술도 틀렸다.

추정 가치가 최대인 팔이 선택되는 경우는 탐욕적으로 고르는 경우와, 무작위로 골랐는데 우연히 그 팔에 걸리는 경우 2가지이다. 전자는 1에서 0.1을 뺀 0.900, 후자는 0.1을 4로 나눈 0.025가 되어, 합하면 0.925가 된다. 0.900은 무작위로 골랐을 때 맞을 몫을 빠뜨린 값, 0.250은 4개 중에서 균등하게 골랐을 때의 확률, 0.100은 ε 그 자체이다. ε를 크게 할수록 탐색이 늘어나 이 확률은 낮아진다.

4에 0.5를 곱해 2, 12에 0.5의 제곱 즉 0.25를 곱해 3, 8에 0.5의 세제곱 즉 0.125를 곱해 1이 되어 합계는 6.0이다. 24.0은 할인을 전혀 곱하지 않고 4와 12와 8을 더한 값, 12.0은 그 24에 0.5를 한 번만 곱한 값, 7.5는 곱하는 순서를 거꾸로 하여 4에 0.125, 12에 0.25, 8에 0.5를 곱한 값으로, 모두 흔한 혼동이다. 먼 미래의 보상일수록 작게 평가하는 것이 할인율의 역할이므로 가까운 쪽에 큰 가중치가 붙는다.

정밀도는 양성이라고 예측한 것을 분모로 삼으므로, 진양성 40을 진양성 40과 위양성 10의 합인 50으로 나누어 0.80이 된다. 0.67은 실제로 양성인 것을 분모로 한 재현율로, 40을 진양성 40과 위음성 20의 합인 60으로 나눈 값이다. 0.85는 전체 200건 중 올바르게 맞힌 170건의 비율인 정확도, 0.73은 정밀도 0.80과 재현율 0.67의 조화 평균인 F값으로, 모두 다른 지표를 구해 버린 값이다.

정밀도는 '양성이라고 예측한 것 중 실제로 양성이었던 비율'이므로 분모는 예측 쪽에 있다. 재현율은 '실제로 양성인 것 중 잡아낸 비율'이므로 분모는 실제 쪽에 있다. 이 둘을 바꿔 놓는 오류가 가장 많으므로 분모가 예측인지 실제인지로 기억해 둔다. 데이터 전체를 분모로 하는 것은 정확도이며, 진음성이나 위음성만을 분모로 하는 지표는 이 둘 중 어느 것도 아니다. 오검출을 줄이고 싶을 때는 정밀도, 놓침을 줄이고 싶을 때는 재현율을 중시한다.

F값은 정밀도와 재현율의 조화 평균이므로, 2에 0.6과 0.9의 곱인 0.54를 곱한 1.08을, 0.6과 0.9의 합인 1.5로 나누어 0.72가 된다. 0.75는 조화 평균이 아니라 산술 평균을 계산해 버린 값, 0.54는 둘을 곱하기만 한 값, 1.50은 더하기만 한 값이다. 조화 평균은 작은 쪽으로 이끌리므로 산술 평균인 0.75보다 작아진다는 점도 확인해 둔다.

양성이 1%밖에 없으므로 전부 음성이라고 답하는 것만으로 99%가 맞아, 정확도는 99%가 된다. 그러나 실제 양성을 1건도 잡아내지 못했으므로 재현율은 0%이며 이 모델은 쓸모가 없다. 클래스 수가 맞지 않을 때 정확도만 보면 판단을 그르치므로 재현율이나 F값, ROC 곡선과 AUC도 함께 봐야 한다. 이 설정에서 정확도가 1%나 50%가 되는 일은 없다.

ROC 곡선은 판정 임계값을 움직이며 세로축에 진양성률, 가로축에 위양성률을 취해 그린 곡선으로, 그 아래 면적이 AUC이다. AUC는 1에 가까울수록 좋고 0.5는 무작위로 판정한 것과 같은 수준을 의미한다. 세로축을 정밀도, 가로축을 재현율로 하면 이와는 다른 곡선이 되어 버리므로 여기가 단골 혼동 지점이다. 정확도와 데이터 건수, 오차와 반복 횟수의 조합은 학습 진행 상황을 보는 다른 그래프이다.

AIC도 BIC도 데이터에 대한 적합도의 좋음과 매개변수를 늘린 것에 대한 벌칙을 더한 지표로, 값이 작을수록 좋은 모델로 본다. 클수록 좋다고 보는 것은 틀렸으며 여기가 가장 자주 노려지는 부분이다. 훈련 데이터에 대한 적합도만으로 고르면 매개변수가 많은 모델만 선택되어 과적합으로 향하므로, 벌칙을 두어 균형을 잡는다. 필요 이상으로 복잡하게 하지 않는다는 오컴의 면도날 사고방식과 같은 방향이다.

k분할 교차 검증은 데이터를 k개로 나누어 그중 1개를 검증, 나머지를 학습에 사용하는 절차를 k회 반복해 결과를 평균 낸다. 200건을 5분할하면 한 덩어리는 40건이므로 검증은 매번 40건, 학습은 나머지 160건이며, 이를 5회 반복한다. 1회만 나누고 끝내는 것은 홀드아웃 검증으로, 계산은 가볍지만 나누는 방식에 결과가 좌우되기 쉽다. 검증에 160건을 사용한다는 것은 학습과 검증을 혼동한 계산이다.

오차의 제곱은 4, 16, 16, 0이며 그 합계는 36이다. 이를 건수 4로 나눈 9가 평균 제곱 오차(MSE)이며, 그 제곱근인 3.0이 RMSE가 된다. 9.0은 MSE 그대로 답해 버린 값, 2.5는 오차의 절댓값 2, 4, 4, 0의 평균인 평균 절대 오차(MAE), 6.0은 건수로 나누는 것을 잊고 제곱합 36의 제곱근을 취한 값이다. RMSE는 원래 오차와 단위가 맞으므로 읽기 쉽다.

합계 84를 건수 7로 나누어 평균은 12, 작은 순서로 나열했을 때 4번째인 6이 중앙값, 2번 나타나는 4가 최빈값이다. 50이라는 이상값에 평균만 크게 끌려가고 중앙값과 최빈값은 거의 움직이지 않는 점이 핵심으로, 대푯값을 하나만 보고 판단해서는 안 되는 예가 된다. 평균과 중앙값을 바꿔 놓은 값이나 중앙값과 최빈값을 혼동한 값이 흔한 오류이다.

허위 상관은 기온이라는 공통 요인이 있기 때문에 아이스크림 매출과 익사 사고 건수가 함께 움직이는 것처럼, 직접적인 인과가 없는 두 대상 사이에 상관이 나타나는 현상이다. 상관이 있다고 해서 인과가 있다고는 할 수 없다는 것이 여기서의 교훈이므로, 상관계수가 양수라고 해서 원인과 결과라고 할 수 없다. 또한 상관계수가 0이어도 직선적이지 않은 관계가 숨어 있을 수 있으므로 관계가 없다고 단정할 수 없다. 이상값의 처리는 이것과는 별개의 논점이다.