📐 Positional Encoding — 순서 정보를 어떻게 넣을까

트랜스포머는 병렬 처리의 장점을 얻었지만 단어의 순서를 잃어버렸습니다. 포지셔널 인코딩은 사인과 코사인 함수를 이용해 각 단어 위치를 수학적 지문으로 표현하며 이 문제를 해결했습니다.

✨ 핵심 포인트

병렬 처리의 장점과 순서 상실의 문제

포지셔널 인코딩의 수학적 원리

순서 정보를 회복하며 성능을 높인 효과

고정된 패턴의 한계와 후속 연구의 방향

👉 다음 이야기: Self-Attention — 자기 자신과의 대화

🏷️ #PositionalEncoding #Transformer #NLP #AI역사 #NLPOdyssey