딥러닝 네트워크의 연산
본 강의는 [L4DL Project]에서 딥러닝을 본격적으로 다루는 첫 번째 강의입니다.
📣 공지사항
본 강좌를 수강한 수강생들은 Private Slack 채널에 참여가 가능합니다.
- 슬랙(Slack) 커뮤니티 가입 신청 방법은 3번째 강의인 "Parametric Functions and Datasets"의 강의노트에서 확인이 가능하십니다.
- 질문&답변은 슬랙 채널에 남겨주시면 보다 빠르게 확인해드리고 있습니다.
오리엔테이션 영상
[L4DL] Project Currimulum 📑
Background
딥러닝을 공부할 때 단순히 모델을 만들고, 학습을 시켜보는 것은 장기적으로 큰 의미가 없습니다.
딥러닝을 본격적으로 이해하기 위해선, backpropagation이나 parameter update algorithm들을 다루기 앞서 딥러닝 네트워크가 어떤 연산을 이용하여 출력을 계산하는지 이해해야 합니다.
실제 딥러닝 모델은 다음과 같은 과정을 통해 만들어집니다.
딥러닝을 학습하는 입장에서 가장 집중적으로 배워야하는 부분은 바로 Model Training 과정입니다.
그리고 이 과정은 다음과 같이 이루어져 있습니다.
본 강의는 이 과정 중 Model Prediction 과 Loss Calculation에 해당하는 Forward Propagation을 집중적으로 다룹니다. 이를 통해 여러분들은 Convolutional Neural Network가 어떤 과정을 통해 출력을 만들어내는지 확인할 수 있습니다.
그리고 이런 개념 위에서 딥러닝의 심도깊은 이해가 이루어지게 될 것입니다.
Convolutional Neural Networks
딥러닝이 가장 처음 도입된 분야는 이미지 분류입니다. 이에 따라 딥러닝을 이해하는데 가장 기초적인 모델들은 LeNet, AlexNet, VGGNet과 같은 이미지 분류기들입니다.
따라서 본 강의에서는 앞으로 한동안 집중적으로 다룰 Convolutional Neural Network에 관한 네트워크에 연산을 집중적으로 다룹니다.
Implementation with Tensorflow
본 강의에서는 Tensorflow를 이용해 딥러닝에서 사용하는 가장 기본적인 layer인 dense layer, convolutional layer, max/avgerage pooling layer, softmax layer를 만들어보고 연산들을 직접 만들어보면서 이론적으로 배운 내용이 Tensorflow에서 어떻게 구현되어 있는지 확인해봅니다.
Parameters in Networks
본 강의를 학습한 뒤에는 전체 딥러닝 네트워크가 어떤 trainable parameter들을 가지고 있는지, 이런 변수들이 어떻게 연산에 사용되는지 알게됩니다. 따라서 다음과 같이 각 layer들의 특징에 대해 이해할 수 있게됩니다.
추후 이 개념은 딥러닝 모델을 학습시키는 vector chain rule을 이해하는데 사용됩니다.
👨🏫[패스트캠퍼스] 수학적으로 접근하는 딥러닝 강의
🔥[유튜브] Shin's Lab 운영(수학, 신호처리, 머신러닝, 딥러닝)