Hello World!

  • 홈
  • 태그
  • 방명록

하이퍼파라미터최적화 1

Hyperparameter Optimization

머신러닝의 파라미터 1. 학습 알고리즘이 최적화하는 모델 내부 파라미터 e.g. 엣지 가중치, 가중치 행렬 2. 모델 외부에서 모델의 동작 조정하는 하이퍼 파라미터 e.g. 은닉층 갯수, CNN 마스크 크기/보폭, 활성함수 파라미터, 학습률, 모멘텀 모델 선택 : CNN, DMLP 중 어떤 것을 사용할지 결정 하이퍼 매개변수 최적화 : CNN으로 결정 시 층수, 마스크 크기, 학습률 등을 결정 하이퍼파라미터 - 하이퍼 파라미터는 학습 시작 전에 미리 설정 --> 너무 크게 설정하면 오버슈팅으로 수렴 불가 / 작게 설정하면 느리게 수렴 - 파라미터 조합은 검증 집합으로 수행 - 하이퍼 파라미터 선택 시 표준 문헌이 제시하는 기본값 참조 --> 현실에서는 최적값에 여러 개의 값 또는 범위가 제시되어 주어진 ..

ML 2023.01.31
이전
1
다음
더보기
프로필사진

Hello World!

  • 분류 전체보기 (68)
    • PostgreSQL (7)
    • Tensorflow (0)
    • Pytorch (17)
    • Project (2)
    • GAN (6)
    • ML (17)
    • Linux (4)
    • Algorithms (11)
    • Paper (4)

Archives

방문자수Total

  • Today :
  • Yesterday :

Copyright © Kakao Corp. All rights reserved.

  • LAB
  • Git

티스토리툴바