• 
  HKUST 김성훈 교수

  홍콩 과기대 컴퓨터 공학 교수
  Hong Kong University of Science and Technology

1. 오리엔테이션
   1. 수업소개와 개요
2. 머신러닝의 개념과 용어
   1. 기본적인 Machine Learnnig 의 용어와 개념 설명
   1. TensorFlow의 설치및 기본적인 operations (new)
3. Linear Regression 의 개념
   1. Linear Regression의 Hypothesis 와 cost
   1. Tensorflow로 간단한 linear regression을 구현 (new)
4. Linear Regression cost 함수 최소화
   1. Linear Regression의 cost 최소화 알고리즘의 원리
   1. Linear Regression 의 cost 최소화의 TensorFlow 구현(new)
5. 여러개의 입력(feature)의 Linear Regression
   1. multi-variable linear regression (new)
   1. lab 04-1: multi-variable linear regression을 TensorFlow에서 구현하기
   1. lab 04-2: TensorFlow로 파일에서 데이타 읽어오기 (new)
6. Logistic (Regression) Classification
   1. Logistic Classification의 가설 함수 정의
   1. Logistic Regression의 cost 함수 설명
   1. TensorFlow로 Logistic Classification의 구현하기(new)
7. Softmax Regression (Multinomial Logistic Regression)
   1. Multinomial 개념 소개
   1. Cost 함수 소개
   1. lab 06-1: TensorFlow로 Softmax Classification의 구현하기 (new)
   1. lab 06-2: TensorFlow로 Fancy Softmax Classification의 구현하기 (new)
8. ML의 실용과 몇가지 팁
   1. 학습 rate, Overfitting, 그리고 일반화 (Regularization)
   1. Training/Testing 데이타 셋
   1. lab 07-1: training/test dataset, learning rate, normalization (new)
   1. lab 07-2: Meet MNIST Dataset (new)
9. 딥러닝의 기본 개념과, 문제, 그리고 해결
   1. 딥러닝의 기본 개념: 시작과 XOR 문제
   1. 딥러닝의 기본 개념2: Back-propagation 과 2006/2007 ‘딥’의 출현
   1. Lab : Tensor Manipulation (new)
10. Neural Network 1: XOR 문제와 학습방법, Backpropagation
    1. XOR 문제 딥러닝으로 풀기
    1. 특별편: 10분안에 미분 정리하기
    1. 딥넷트웍 학습 시키기 (backpropagation)
    1. Lab 9-1: XOR을 위한 텐스플로우 딥넷트웍 (new)
    1. Lab 9-2: Tensor Board로 딥네트웍 들여다보기 (new)
11. Neural Network 2: ReLU and 초기값 정하기 (2006/2007 breakthrough)
    1. XSigmoid 보다 ReLU가 더 좋아
    1. Weight 초기화 잘해보자
    1. Dropout 과 앙상블
    1. 레고처럼 넷트웍 모듈을 마음껏 쌓아 보자
    1. Lab 10: 딥러닝으로 MNIST 98%이상 해보기(new)
12. Convolutional Neural Networks
    1. ConvNet의 Conv 레이어 만들기
    1. ConvNet Max pooling 과 Full Network
    1. Google Cloud ML with Examples 1
    1. ConvNet의 활용 예
    1. Lab 11 : ConvNet을 TensorFlow로 구현하자 (MNIST 99%)
13. Recurrent Neural Network
    1. NN의 꽃 RNN 이야기
    1. 실습: TensorFlow에서 RNN 구현하기
14. Deep Deep Network AWS 에서 GPU와 돌려보기 (powered bt AWS)
    1. powered by AWS
15. AWS 에서 저렴하게 Spot Instance 를 터미네이션 걱정없이 사용하기
    1. AWS에서 저렴하게 Spot Instance를 터미네이션 걱정없이 사용하기
16. Google Cloud ML을 이용해 TensorFlow 실행하기
    1. Google Cloud ML을 이용해 TensorFlow 실행하기

•Andrew Ng’s and other ML tutorials 
   https://class.coursera.org/ml-003/lecture
   http://www.holehouse.org/mlclass/
   http://deeplearning.stanford.edu/tutorial/
•Convolutional Neural Networks for Visual Recognition
   http://cs231n.github.io/
•Tensorflow 
   https://www.tensorflow.org
   https://github.com/aymericdamien/TensorFlow-Examples
   Deep learning @Udicity