[딥러닝] 9강. "최고의 17분!" 가장 깔끔한 배치 정규화 (Batch Normalization) 설명

배치 정규화 (Batch Normalization)이 그렇게 좋다던데.. 왜지?? #Batch_Normalization #BN 혁펜하임 딸기스무디 먹이기!:    / 혁펜하임   혁펜하임 그는 누구인가: https://hyukppen.com 혁펜하임 인스타:   / hyukppen   ---------------------------------------------    • 혁펜하임의 “퍼펙트” 신호 및 시스템 (Signals & Systems)      • 혁펜하임의 "보이는" 선형대수학 (Linear Algebra)      • 혁펜하임의 “트이는” 강화 학습 (Reinforcement learning)      • 혁펜하임의 “탄탄한” 컨벡스 최적화 (Convex Optimization)      • LEVEL 0: AI를 위한 기초 수학      • LEVEL 0: 인스톨! 파이썬      • LEVEL 1: Easy! 딥러닝      • LEVEL 1: 인스톨! 파이토치      • LEVEL 2: Legend 13 & TTT 도강하기 🙄      • 혁펜하임의 "면접의 신"   --------------------------------------------- 0:00 - BN은 뭐를 하려고 하나 1:06 - 동작 설명 (Training) 2:45 - 기존 bias는 learning 안해도 된다. 3:29 - 동작 설명 (Test) 4:58 - Test시엔 분산에 m/(m-1) 을 곱해요 6:26 - E 는 moving average로 8:11 - CNN에서의 BN 10:14 - BN을 직관적으로 생각해보자 (모래알) 11:58 - 어떻게 Vanishing Gradient를 막을까? 15:48 - 왜 Learning rate를 키워도 될까? 16:33 - 요약 정리