Support Vector Machine (SVM)

• Linear, nonlinear classification
• Regression
• Outlier detection

Linear SVM Classification

• SVM Classifier: 각 클래스 사이에 가장 폭이 넓은 경계 정의 (large margin classification)
• Support vector: 분류기의 경계에 위치한 훈련 데이터
  • 분류기의 경계 밖에 훈련 샘플을 더 추가해도 경계가 변화하지 않음

Data Structure

• Definition: Computer science에서 효율적인 접근 및 수정을 위해 자료의 조직, 관리, 저장
  • 데이터 값의 모임, 데이터 간 관계, 데이터에 적용할 수 있는 함수 및 명령
  • 적합한 자료구조 선택을 통해 상대적으로 효율적인 알고리즘 개발 가능
• 구현에 따른 자료구조
  • List
  • Tuple
  • Linked list
  • Circular linked list
  • Doubly linked list
  • Hash table
• 형태에 따른 자료구조
  • Linear
    • Stack
    • Queue
    • Deque
  • Non-Linear
    • Graph
    • Tree

GAN (Generative Adversarial Network)

Image Generation

• Traditional neural network: 정보를 감소, 정제, 축약
  • Ex) $28\times28\rightarrow784\ (input)\rightarrow10\rightarrow1\ (output)$
• Backquery: 기존의 신경망을 반대로 뒤집어 레이블을 통해 이미지 생성 (원핫 인코딩 벡터를 훈련된 네트워크에 넣어 레이블에 맞는 이상적 이미지 생성)
  • Ex) $1\ (input)\rightarrow10\rightarrow784\ (output)\rightarrow28\times28$
  • 같은 원핫 인코딩 벡터인 경우 같은 결과 출력
  • 각 레이블을 나타내는 모든 훈련 데이터의 평균적 이미지 도출 $\rightarrow$ 한계점 (훈련 샘플로 사용 불가)

PyTorch

Setup

How to install PyTorch in M1 Mac

1

conda install pytorch torchvision torchaudio -c pytorch-nightly

• conda activate env 이후 jupyter notebook을 통해 import torch를 실행할 경우 위의 사진과 같이 커널이 죽는다.
• 따라서 아래 명령어를 통해 jupyter notebook에서 커널을 선택할 수 있게 해줘야한다.

1

conda install nb_conda_kernels

• 위의 모듈 nb_conda_kernels를 통해 모든 가상환경들을 선택해서 jupyter notebook에서 사용할 수 있다.

Setting up development environment

Clone source code

Ref: Hands-on Machine Learning

1

git clone https://github.com/rickiepark/handson-ml2.git