케라스 창시자에게 배우는 딥러닝을 기반으로 공부한 내용을 정리합니다.

4.1 머신러닝의 네 가지 분류

이전 예제에서 다룬 이진 분류, 다중 분류, 스칼라 회귀는 모두 지도 학습(supervised learning)의 예입니다.
지도 학습의 목표는 훈련 데이터의 입력과 타깃 사이에 있는 관계를 학습하는 것입니다.

4.1.1 지도학습

(종종 사람이 레이블링한) 샘플 데이터가 주어지면 알고 있는 타깃(꼬리표, annotation)에 입력 데이터를 매핑하는 방법을 학습합니다.
광학 문자 판독, 음성 인식, 이미지 분류, 언어 번역 같은 딥러닝의 거의 모든 애플리케이션이 일반적으로 지도 학습에 속합니다.

지도 학습은 대부분 분류와 회귀로 구성되며, 아래와 같이 다양한 종류도 있습니다.

• 시퀀스 생성(sequence generation): 사진이 주어지면 이를 설명하는 캡션을 생성합니다. 시퀀스 생성은 (단어나 토큰을 반복적으로 예측하는 것처럼) 일련의 분류 문제로 재구성 할 수 있습니다.
• 구문 트리(syntax tree)예측: 문장이 주어지면 분해된 구문 트리를 예측합니다.
• 물체 감지(object detection): 사진이 주어지면 사진 안의 특정 물체 주위에 경계 상자(bounding box)를 그립니다. 이는 (많은 경계 상자 후보가 주어졌을 때 각 상자의 내용을 분류하는) 분류 문제로 표현되거나, 경계 상자의 좌표를 벡터 회귀로 예측하는 회귀와 분류가 결합된 문제로 표현할 수 있습니다.
• 이미지 분할(image segmentation): 사진이 주어졌을 때 픽셀 단위로 특정 물체에 마스킹(masking)을 합니다.

4.1.2 비지도 학습

어떤 타깃도 사용하지 않고 입력 데이터에 대한 흥미로운 변환을 찾습니다. 데이터 시각화, 데이터 압축, 데이터의 노이즈 제거 또는 데이터에 있는 상관관계를 더 잘 이해하기 위해 사용합니다.
비지도 학습(unsupervised learning)은 데이터 분석에서 중요한 요소이며, 지도 학습 문제를 풀기 전에 데이터셋을 잘 이해하기 위해 필수적으로 거치는 단계입니다.
차원 축소(dimensionality reduction)와 군집(clusterning)이 비지도 학습에서 잘 알려진 범주입니다.

4.1.3 자기 지도 학습

자기 지도 학습(self-supervised learning)은 지도 학습의 특별한 경우이지만 별도의 범주로 할 만큼 충분히 다릅니다.
지도 학습이지만 사람이 만든 레이블을 사용하지 않습니다. 즉, 학습 과정에 사람이 개입하지 않는 지도 학습이라고 생각할 수 있습니다.
레이블이 여전히 필요하지만 보통 경험적인 알고리즘(heuristic algorithm)을 사용해서 입력 데이터로부터 생성합니다.

예를 들어 오토인코더(autoencoder)가 있습니다. 여기에서 생성된 타깃은 수정하지 않은 원본 입력입니다.
같은 방식으로 지난 프레임이 주어졌을 때 비디오의 다음 프레임을 예측하거나, 이전 단어가 주어졌을 때 다음 단어를 예측하는 것이 자기 지도 학습의 예입니다.(이 경우 미래의 입력 데이터로부터 지도되기 때문에 시간에 따른 지도 학습(temporally supervised learning)입니다).

4.1.4 강화 학습

강화 학습(reinforcement learning)에서 에이전트(agent)는 환경에 대한 정보를 받아 보상을 최대화하는 행동을 선택하도록 학습됩니다.
예를 들어 강화 학습으로 훈련된 신경망은 비디오 게임 화면을 입력으로 받고 게임 점수를 최대화하기 위한 게임 내의 행동을 출력할 수 있습니다.

현재 대부분 연구 영역에 속해있고 게임 이외에 실제적인 성공 사례는 아직 없습니다. 하지만 자율 주행 자동차, 자원 관리, 교육 등 많은 애플리케이션을 대체할 잠재력을 지니고 있습니다.

분류와 회귀에서 사용하는 용어

• 샘플 또는 입력: 모델에 주입될 하나의 데이터 포인트
• 예측 또는 출력: 모델로부터 나오는 값
• 타깃: 정답. 외부 데이터 소스에 근거하여 모델이 완벽하게 예측해야 하는 값
• 예측 오차 또는 손실 값: 모델의 예측과 타깃 사이의 거리를 측정한 값
• 클래스: 분류 문제에서 선택할 수 있는 가능한 레이블의 집합. ex)고양이와 강아지 사진을 분류할 때 클래스는 2개
• 레이블: 분류 문제에서 클래스 할당의 구체적인 사례. ex) image #1234에서 ‘dog’ 클래스가 들어 있다고 표시한다면 ‘dog’는 image #1234의 레이블이 됩니다.
• 참 값(ground-truth) 또는 꼬리표(annotation): 데이터셋에 대한 모든 타깃. 일반적으로 사람에 의해 수집됩니다.(인공지능이 데이터의 내용을 이해할 수 있도록 주석을 달아주는 작업)
• 이진 분류: 각 입력 샘플이 2개의 배타적인 범주로 구분되는 분류 작업
• 다중 분류: 각 입력 샘플이 2개 이상의 범주로 구분되는 분류 작업 ex) 손글씨 숫자 분류
• 다중 레이블 분류: 각 입력 샘플이 여러 개의 레이블에 할당될 수 있는 분류 작업. ex) 하나의 image에 cat, dog이 모두 있을 경우 ‘cat’레이블과 ‘dog’레이블을 모두 할당해야 합니다.
• 스칼라 회귀: 타깃이 연속적인 스칼라 값인 작업. ex) 주택 가격 예측
• 벡터 회귀: 타깃이 연속적인 값의 집합인 작업. ex) 연속적인 값으로 이루어진 벡터. (이미지에 있는 경계 상자의 좌표 같은) 여러 개의 값에 대한 회귀
• 미니 배치 또는 배치: 모델에 의해 동시에 처리되는 소량의 샘플 묶음(보통 8~128개 사이). 샘플 개수는 GPU의 메모리 할당이 용이하도록 2의 거듭제곱으로 하는 경우가 많습니다. 훈련할 때 미니 배치마다 한 번씩 모델의 가중치에 적용할 경사 하강법 업데이트 값을 계산합니다.

Reference

1. 케라스 창시자에게 배우는 딥러닝
2. http://www.aistudy.co.kr/heuristic/heuristic.htm
3. https://excelsior-cjh.tistory.com/187
4. https://blog.naver.com/PostView.nhn?blogId=datahive&logNo=222224206050&categoryNo=7&parentCategoryNo=-1&viewDate=&currentPage=&postListTopCurrentPage=&isAfterWrite=true