GPT(Generative Pre-trained Transformer) 개요
오늘날 자연어처리(NLP) 분야에서 주목받는 생성형 AI는 사람처럼 텍스트를 생성하는 능력을 갖췄으며, 그 중심에는 GPT가 있습니다. GPT는 대규모 텍스트 학습을 통해 언어 패턴을 이해하고, Decoder-only Transformer 구조를 바탕으로 자연스러운 문장을 예측하고 생성합니다. 특히, Causal Self-Attention을 적용해 순차적으로 다음 단어를 예측하는 방식으로, 대화나 글쓰기에 특화된 놀라운 성능을 발휘합니다.
