1차시 From Machine Learning to Deep Learning

기계학습에서 딥러닝으로

전통적인 Machine Learning에서 Deep Learning, DNN, CNN, RNN으로 이어지는 흐름을 정리합니다.

01. From Machine Learning to Deep Learning

3줄 요약

• 전통 ML은 사람이 좋은 feature를 설계하고, 모델은 그 feature를 기준으로 분류나 예측을 수행했다.
• Deep Learning은 여러 hidden layer를 통해 feature representation 자체를 모델이 학습하도록 만든 흐름이다.
• Logistic Regression, DNN, CNN, RNN은 입력을 표현으로 바꾸고 예측한다는 큰 구조로 연결된다.

Instructor

KAIST 전산학부 박노성 교수 Noseong Park Tenured Associate Professor School of Computing, KAIST

Core Flow

AI -> Machine Learning -> Deep Learning -> Feature Engineering -> Logistic Regression -> Sigmoid / Probability -> Representation Learning -> DNN -> CNN -> RNN

Visual Notes

• `/session-visuals/session-01-ml-to-dl-flow.svg`
• `/session-visuals/session-01-logistic-sigmoid.svg`

수업에서 다룬 핵심 구조를 복습용 도식으로 정리한다.

Notes

Machine Learning은 사람이 규칙을 직접 작성하는 대신, 데이터로부터 원하는 task를 수행하는 함수를 학습하는 방식이다.

전통적인 Applied ML에서는 좋은 feature를 만드는 일이 성능을 크게 좌우한다. Deep Learning은 여러 hidden layer를 통해 입력 데이터를 더 분리하기 쉬운 표현 공간으로 변환한다.