Fully Connected Network

[DL] Back Propagation

빗살무늬 토기(Convex Function) optimization = 하산법. 가장 아랫부분을 Global Minimum이라고하는데 잘못된? 높은 local Minimum으로 가면 안된다. 그래프에서 삼각형 부분이 local이고, 동그라미 부분이 global이라고 볼수있다. 데이터는 3차원인데, 2 레이어가 존재한다. 쎄타0 , 쎄타1가 있는데 쎄타0 = W1X+b1 라고 하면 >>> 출력 쎄타1 = W2X+b2 >> 입력으로 세타 2가지(입출력)가 들어가므로 레이어가 2개 존재한다고 할 수 있다. J(세타0,세타1) 2레이어임.. 만약 세타2가 있다고 가정하면, 세타2 = 쎄타1의 출력값이 세타2로 입력된다. 세타2의값 = W2(W1X+b1)+b2 W3(세타2의 값) + b3이 된다. Random S..