Fully connected layer

Ahn9807 (토론 | 기여)님의 2023년 2월 16일 (목) 08:26 판 (새 문서: 분류: 딥러닝 == 개요 == FCL이란 perceptron에서 모든 weight과 feature의 계산이 이루어지는 것이다. 예를 들어서 weight이 m, feature가 n이라고 하면 계산이 모두 m * n번이루어 지게 된다. 제일 기본적인 방식이자, 행렬처리와 비슷한 방식으로 계산이 이루어진다. 예를 들어서, image의 FCL을 생각해 보자. Image가 32 * 32 * 3이라고 하면, 모두 3072개의 RGB화소가 있는 것이다. 여기...)
(차이) ← 이전 판 | 최신판 (차이) | 다음 판 → (차이)


개요

FCL이란 perceptron에서 모든 weight과 feature의 계산이 이루어지는 것이다. 예를 들어서 weight이 m, feature가 n이라고 하면 계산이 모두 m * n번이루어 지게 된다. 제일 기본적인 방식이자, 행렬처리와 비슷한 방식으로 계산이 이루어진다. 예를 들어서, image의 FCL을 생각해 보자. Image가 32 * 32 * 3이라고 하면, 모두 3072개의 RGB화소가 있는 것이다. 여기서 딥러닝을 하고자 한다면, 총 3072개의 feature을 가지고 weight과 곱해주어야 한다. 여기서 weight은 반드시 k * 3072처럼 행렬곱이 이루어 질 수 있는 개수 만큼 필요하다. (여기서 3072가 feaure들에 곱해져서 합이 구해지고 결국 10 * 1 이렇게 값이 나올것이다. 만약 FCL이라면). FCL의 문제점은 모든 feature들이 동등하게 계산에 참여함으로써 이미지와 같은 경우 이미지 자유변형에 있어서 치명적인 변동성을 가진다는 점이다. 또한 계산이 너무 오래 걸려서 학습속도가 느리다는 점도 있다. 이러한 한계를 극복하기 위해서 Convolution layer을 이용하여 CNN을 계산하게 된다.