residual network 썸네일형 리스트형 ResNet: Residual Net 정리 이 게시글은 ResNet에 대해 개인적으로 공부한 내용의 정리글입니다. ResNet은 마이크로소프트 북경 연구소의 중국 연구원들이 개발한 VGG-19 기반의 CNN인데, ILSVRC에서 우승을 했었던 모델이다. Neural Network에서 깊이(Depth)는 일반적으로 깊을 수록 학습 데이터 속의 대표적인 개념을 추출하는 성능이 좋아질 것으로 기대된다. 하지만, 네트워크가 너무 깊어지게 되면 좋은 결과를 내기 어려워지고 많은 문제가 생긴다. 망이 깊어지면서 생기는 문제는 "Gradient Vanishing/Exploding 문제", "학습 방법이 어려워지는 문제" 가 있다. "Gradient Vanishing/Exploding" parameter를 업데이트할 때, gradient에 곱해지는 상수인 에타.. 더보기 이전 1 다음
