활동 목표: Transformer 제대로 이해하기 활동 결과: 1. 개요이번 글에서는 transformer에 대해 배경, 개념 등을 설명하기보다는transformer의 구조를 보면서 각각 어떤 process를 거치는지 파헤쳐 보도록 하겠다. 2. transformer 구조transformer 하면 바로 떠오르는 이미지는 "Attention Is All You Need" 라는 매우 유명한 논문의 아키텍쳐이다.이제부터 이 아키텍쳐를 하나하나 뜯어보도록 하겠다. 2.1. Embedding과 Positional EncodingEmbedding이란 무엇인가?이전에 멀티모달 임베딩에 대해 만든 자료가 있어서 첨부한다. 단어에 대해 임베딩을 진행하면 각 단어가 벡터로 표현되고 벡터 사이의 각도가 작을수록 큰 유사도를..