Alt+F8

또는

Ctrl+K,F

 

 

'C, C++' 카테고리의 다른 글

VSCODE에서 C++ 사용 및 디버깅  (0) 2019.01.17

관련 글

https://sacko.tistory.com/19

 

문과생도 이해하는 딥러닝 (3) - 오차 역전파, 경사하강법

2017/09/27 - 문과생도 이해하는 딥러닝 (1) - 퍼셉트론 Perceptron 2017/10/18 - 문과생도 이해하는 딥러닝 (2) - 신경망 Neural Network 이전 시간까지 신경망이 무엇인지 어떻게 생긴 것인지 작동원리 등을 살..

sacko.tistory.com

http://jaejunyoo.blogspot.com/2017/01/backpropagation.html

 

Backpropagation 설명 예제와 함께 완전히 이해하기

쉽게 설명하는 기계학습(machine learning) 개념, 역전파(backpropagation) 예제와 함께 완전히 이해하기

jaejunyoo.blogspot.com

https://www.linkedin.com/pulse/gradient-descent-backpropagation-ken-chen

 

Gradient Descent and Backpropagation

In previous articles, I have referred to the concepts of gradient descent and backpropagation for many times. But I did not give the details and implementations of them (the truth is, I didn't know these either.

www.linkedin.com

 

As we know, the loss function is a function of weights and biases. So, its gradient can be calculated by taking its derivative with respect to the weights and the biases, so that we know how much each variable contributes to the total error. However, since the relationship between the weights and the biases in the different layers is sort of iterated and accumulated, it is not an easy task to calculate the gradients with respect to them. And this is where backpropagation comes to the rescue!

If I was asked to describe backpropagation algorithm in one sentence, it would be: propagating the total error backward through the connections in the network layer by layer, calculate the contribution (gradient) of each weight and bias to the total error in every layer, then use gradient descent algorithm to optimize the weights and biases, and eventually minimize the total error of the neural network.

'딥러닝 > 이론 관련' 카테고리의 다른 글

딥러닝 파라미터 최적화 용어 정리  (0) 2018.05.14

최근 두 분야에서 결과를 얻기위해 노력중인 초보자로써 깨달은 것.

둘 사이엔 공통점이 있다.

 

요소:딥러닝/ 웨이트트레이닝 순

인풋 : 인풋데이터/ 내 몸뚱아리와 그날의 컨디션(수면,스트레스 등)

과정 : 딥러닝 모델과 옵티마이저 그리고 각종 하이퍼파라미터/ reps * sets * weights (=volume)

결과 : 결과데이터,정답과의 차이(score, distance)/ 근성장 정도, 체지방 감량 정도

 

인풋을 과정에 넣으면 결과가 나온다.

그러면 과정을 평가해, 피드백한다

 

과정에 대해 수많은 의견,논문이 존재한다

지난 시도들을 돌아보고 피드백한것을 모아 더 좋은 결과를 내기위해 인풋(과정)을 바꾼다. 

+ Recent posts