티스토리 뷰

이번 포스팅에서는 Graph SAGE라 불리는 layer는 어떻게 node를 업데이트 하는지 수식을 살펴보고자 한다.

 

혹시, GCN 수식을 보지 못한 사람은 첫번째 포스팅을 보고 수식에 대한 두려움을 없애고 오는 것을 추천한다.!

https://sims-solve.tistory.com/69

 

GNN 수학식 뜯어보기 - 1. GCN

GNN을 공부하다 보면 반드시 접하게 되는 3가지 레이어가 있다. 1. GCN 2. Graph SAGE 3. GAT(Graph Attation) 공부를 하다보면.. 수학식이 나오면 뭔가 좌절감이 들고 못할 것만 같은 생각이 드는데, 이번 기

sims-solve.tistory.com

 

간단하게 Graph SAGE내용을 이야기 하고 들어가보자.

GNN,GCN의 경우에는 노드들의 feature를 단순 '+' 하는 방식으로 진행하였는데, SAGE는 여러 aggregation함수(mean,pool,LSTM..)을 통해 단순 '+'에서 벗어나고자 한것이다.

 

SAGE의 수식을 보면..

이와 같다. 기존 식을 다시한번 살펴보자면..

차이가 조금 보이는 것을 볼 수 있다. 가장 큰 차이점은, 단순 '+'가 아닌 concat을 했다는점이다.(여기서 concat은 pd,numpy에서 concat함수가 아닌, sum, mean ... 이런 것들을 의미)

 

SAGE는 단순 concat의 차이점을 두고 GNN보다 성능이 좋다고 한다.

GCN 수학식을 보고 왔으면 크게 막히는 곳이 없을 것이다. (concat을 제외하면)

 

사실.. DGL 코드에서 구현된 SAGEConv을 한번 디버깅을 해보는 것을 추천한다..!

 

다음은 이제 어느분야에서나 다 쓰는 Attention 기법이 들어간 GAT를 설명해보겠다.!

'Deep-learning' 카테고리의 다른 글

다중공선성을 제거해야할까?  (0) 2022.11.05
GNN 수학식 뜯어보기 - 3. GAT(Attention)  (0) 2022.10.18
GNN 수학식 뜯어보기 - 1. GCN  (1) 2022.10.15
GNN, Graph SAGEConv 코드로 보기  (0) 2022.10.14
1. GNN 뜻  (1) 2022.10.08
공지사항
최근에 올라온 글
최근에 달린 댓글
Total
Today
Yesterday
링크
«   2024/05   »
1 2 3 4
5 6 7 8 9 10 11
12 13 14 15 16 17 18
19 20 21 22 23 24 25
26 27 28 29 30 31
글 보관함