분기노드
순전파 - 같은 값 복제돼서 전달
역전파 - 기울기의 합
Repeat 노드
위의 분기노드를 일반화한 것
순전파 - 같은 값 n번 복제해서 전달
역전파 - 기울기 합
Sum 노드
repeat이랑 반대 관계라서 둘이 순전파 역전파 자리 바꾸면 repeat이랑 똑같음
Matrix multiply
cupy??
'NLP > 밑바닥부터 시작하는 딥러닝2' 카테고리의 다른 글
| 5장 RNN (0) | 2021.04.16 |
|---|---|
| 4장 word2vec 속도 개선 (0) | 2021.04.13 |
| 3장 word2vec (0) | 2021.04.12 |
| 2장 자연어&단어 분산 표현 (0) | 2021.02.22 |