트랜스포머 모델 내부 임베딩 벡터 및 피드포워드 네트워크 구조의 분석과 언어 표현 학습에 미치는 영향 = Embedding-Space Analysis of Transformer Internal Representations and Feed-Forward Network Architectures in Language Representation Learning|RISS 상세보기

다국어 초록 (Multilingual Abstract)

This study investigates the semantic maturation process of token embeddings in large language models (LLMs), centering on the concept of embedding maturation, and aims to provide an integrated understanding of the learning mechanisms of such models. A RoBERTa-based model was trained on the Wikitext-103 dataset, and the dynamic evolution of embedding vectors was quantitatively analyzed to empirically validate the structural utility of the maturation concept. Specifically, we measured the average cosine similarity across all tokens, the similarity between individual tokens and the Common Vector, and the dispersion of embeddings based on token frequency, using the distance from the common embedding center as a proxy for maturation.
The results show that high-frequency tokens mature rapidly by semantically differentiating through diverse contexts, while low-frequency or out-of-vocabulary tokens remained in immature states, maintaining high similarity to the Common Vector. These effects were further clarified through a set of experiments with controlled data configurations—namely, the original dataset, simple duplication (30x), and contextual diversity (409 new sentences) for the token "far-left." We found that naive duplication hindered embedding maturation, causing the token to remain near the Common Vector without encoding distinct semantic features. In contrast, the diverse context condition led to rapid separation from the Common Vector, maintaining high maturation and suggesting improved generalization potential.
Additionally, the maturation concept was extended to the internal parameters of the transformer, analyzing the FFN (Feed-Forward Network) keys projected into embedding space. Layer-wise key vector distributions showed clear stratification: lower layers formed tight clusters encoding syntactic and structural patterns, while higher layers produced more dispersed distributions capturing abstract semantic features. This indicates that not only embeddings but also internal parameters undergo hierarchical maturation in response to token frequency and contextual diversity.
In conclusion, (1) embedding maturation varies with token frequency and contextual exposure, and high maturation levels are key indicators of expressive embeddings; (2) data strategies that promote maturation should favor contextual diversity over repetition, with early-stage adjustments for low-frequency tokens; and (3) FFN parameter analysis serves as a complementary diagnostic for interpretability and embedding quality.
This study proposes embedding maturation as a novel interpretive lens for understanding the learning dynamics of language models and provides both theoretical and practical foundations for future research in data curation, training scheduling, and model interpretability.

번역하기

국문 초록 (Abstract)

본 연구는 대규모 언어 모델(LLM)에서 토큰 임베딩이 의미적으로 성숙해지는 과정을 임베딩 성숙도(maturation)라는 개념을 중심으로 분석하고, 이를 통해 언어 모델 학습 메커니즘에 대한 통합적인 통찰을 제공하는 것을 목표로 한다. RoBERTa 기반 모델을 Wikitext-103 데이터셋으로 학습시키고, 학습 중 임베딩 벡터의 동적 변화를 정량적으로 분석함으로써, 성숙도 개념의 구조적 유용성을 검증하였다. 특히 전체 토큰 간 평균 코사인 유사도, 개별 토큰과 Common Vector 간 유사도 변화, 그리고 등장 빈도에 따른 임베딩의 분산성 등을 측정하여, 토큰이 공통된 임베딩 중심에서 얼마나 멀어지는지를 성숙도의 지표로 삼았다.

실험 결과, 빈도가 높은 토큰일수록 다양한 문맥에서 의미적으로 분화되며 빠르게 성숙하는 반면, 저빈도 또는 미등장 토큰은 Common Vector에 가까운 유사도를 지속적으로 유지해 미성숙한 상태를 보였다. 이러한 현상은 데이터 구성 방식에 따라서도 명확히 나타났다. 동일한 토큰(‘far-left’)에 대해 원본 조건, 단순 중복(30배), 문장 다양성 확보(409문장)라는 세 조건을 비교한 실험에서, 단순 중복은 임베딩 성숙도를 오히려 저해하였고, 의미적 특성이 임베딩에 반영되지 않은 채 Common Vector 근처에 머무르게 했다. 반면, 문맥의 다양성을 제공한 경우 임베딩이 빠르게 Common Vector로부터 분리되어 높은 성숙도를 유지하며, 이는 모델의 일반화 가능성과 직결됨을 시사하였다.

또한, 임베딩 성숙도의 관점을 확장하여 트랜스포머의 FFN(Feed-Forward Network) 파라미터를 임베딩 공간에 투영한 분석을 수행하였다. 레이어별 Key 벡터 분포는 층별로 뚜렷한 차이를 보였으며, 낮은 레이어는 문법 및 구조적 패턴에 집중된 군집을 형성했고, 높은 레이어는 분산된 형태로 의미적 표현을 포착하는 성숙한 패턴을 나타냈다. 이는 임베딩 성숙도뿐 아니라 내부 파라미터 자체도 데이터 다양성과 빈도에 반응하여 계층적으로 성숙해감을 보여준다.

결론적으로, 첫째, 임베딩 성숙도는 토큰의 빈도 및 문맥 노출 다양성에 따라 다르게 나타나며, 높은 성숙도는 표현력 있는 임베딩 형성의 핵심 지표가 된다. 둘째, 성숙도를 촉진하는 데이터 구성 전략은
단순 반복보다 문맥 다양성 확보에 기반해야 하며, 학습 초기에 저빈도 토큰에 대한 성숙 보정이 필요하다. 셋째, FFN 파라미터 분석은 모델 해석 가능성과 임베딩 품질 진단의 보조 지표로 활용될 수 있다.

본 연구는 임베딩 성숙도라는 새로운 해석 틀을 통해 언어 모델의 학습과정을 통합적으로 이해할 수 있는 이론적, 실용적 기반을 제공하며, 향후 데이터 구성, 학습 스케줄링, 모델 해석 등 다양한 응용 가능성을 제시한다.

번역하기

본 연구는 대규모 언어 모델(LLM)에서 토큰 임베딩이 의미적으로 성숙해지는 과정을 임베딩 성숙도(maturation)라는 개념을 중심으로 분석하고, 이를 통해 언어 모델 학습 메커니즘에 대한 통합...

목차 (Table of Contents)