Survey of Computational Approaches to Lexical Semantic Change Detection

Paper: Nina Tahmasebi; Lars Borin; Adam Jatowt (2021). "Survey of Computational Approaches to Lexical Semantic Change Detection." Computational approaches to semantic change, Chapter 1, pp. 1–91. Language Science Press. PDF · DOI · arXiv:1811.06278

1. 이 분야의 첫 질문은 순위가 아니다

시대가 바뀌면서 단어는 새 뜻을 얻고 옛 뜻을 잃는다. 하지만 같은 개념을 가리키는 단어 자체가 바뀌기도 한다. 이 서베이는 이 둘을 섞지 않는다. 통시적 개념 변화는 단어 의미가 시간에 따라 달라지는 현상이며, 의미 획득·상실·확대·축소 같은 변화가 여기에 포함된다. 반면 어휘 변화는 같은 개념을 다른 단어가 대신하는 현상이다(Table 1). 그래서 “변한 단어를 찾기”와 “무엇이 어떻게 바뀌었는지 설명하기”는 다른 연구 문제다.

저자들은 실용적인 질문 두 개를 남긴다. 어떤 단어가 변했는가(that), 그리고 그 단어의 무엇이 변했는가(what). 전자는 후보를 빠르게 찾는 문제이고, 후자는 변화한 의미와 시점을 설명하는 문제다. 둘을 같은 리더보드로 평가하면 값싼 탐지와 비싼 해석을 혼동한다.

2. 대체도 네 종류로 나뉜다

그림 1. Tahmasebi et al.의 arXiv:1811.06278 프리프린트 PDF p. 25, Figure 1을 인용했다. 2021년 출판 장에서는 Figure 1.1(PDF p. 53)에 해당한다. 의미 기반 대체를 제외한 세 대체 유형이다. 위는 같은 개체의 이름 변화(상트페테르부르크→페트로그라드→레닌그라드), 가운데는 같은 유형의 다른 사례(시대별 미국 대통령), 아래는 기능이 닮은 시간적 유사물(iPod과 축음기·워크맨·디스크맨)이다. 원도판을 인용했다.

의미 기반 어휘 대체는 예전 nice의 ‘어리석은’ 뜻을 foolish가 대신하는 경우처럼, 의미를 알아야 잡힌다. 같은 개체의 이름 변화는 도시나 인물의 개명이고, 같은 유형의 다른 사례는 역할만 유지한 채 담당자가 바뀌는 경우다. 시간적 유사물은 연속된 대상은 아니지만 시대별로 같은 역할을 맡는다. 이 구분은 예시를 나열하는 데 그치지 않는다. 이름 연결, 개념 연결, 의미 변화에는 필요한 데이터와 정답이 서로 다르다는 경고다.

3. 단어 수준과 의미 구별 방법

단어 수준 방법은 시기마다 단어 하나에 벡터 하나를 만들고, 벡터가 얼마나 움직였는지 잰다. 공기 기반 표현, 시기별 신경 임베딩 뒤 정렬, 여러 시기를 함께 학습하는 동적 임베딩이 여기 속한다. 많은 단어를 훑어 변화 후보를 만들기에는 좋지만, 어떤 의미가 새로 생겼고 어떤 의미가 사라졌는지는 보통 말해 주지 못한다.

의미 구별 방법은 사용례를 의미별로 나눈 뒤 각 의미의 등장·소멸·비중 변화를 추적한다. 주제 모형, word sense induction(WSI), 정렬 코퍼스가 대표적이다. 비용과 오류 가능성은 늘지만 ‘무엇이 변했는가’에 답할 수 있다. 서베이가 지적하듯 지배적인 단어 수준 연구는 확대·축소·새 의미 같은 언어학적 변화 유형을 하나의 ‘변화 있음’으로 뭉개기 쉽다.

질문	적합한 출력	대표적 한계
어떤 단어가 변했나	단어별 변화 점수·후보 목록	변화의 종류를 설명하지 못함
무엇이 변했나	의미별 사용례·등장/소멸	군집·주석·검증 비용이 큼

4. 병목은 정답 데이터와 평가다

이 글은 공통 조건에서 최고 성능을 비교한 표가 아니다. Table 2와 3은 연구별 데이터셋·언어·시간 범위·시점 수·평가 방식·탐지 가능한 변화 클래스를 나란히 놓는 지도다. 연구마다 말뭉치와 정답 정의가 다르므로, 서로 다른 숫자를 한 줄 순위로 합치지 않는다.

저자들은 정답 데이터 부재를 가장 큰 병목으로 본다. 따라서 빈도가 대응되는 양성·음성 집합, 원문에서의 근거 확인, 외부 자료 대조, 희소 증거에서의 작동, 변화 유형과 시점 탐지, 시점 수가 늘었을 때의 확장성, 판단 근거 공개와 반증 가능한 통제를 권한다(§6.3). 영어가 많은 데이터셋의 중심이고 비영어 자원은 더 얇다는 점도 평가의 대표성을 제한한다.

5. 이 서베이를 적용하는 법

변화 후보를 넓게 찾는 작업에는 단어 수준 모델을 쓰되, 후보 목록을 의미 변화의 증거로 착각하지 않는 것이 출발점이다. 설명이 목적이면 사용례, 의미 군집, 시간별 분포와 사람 검증을 연결해야 한다. ‘변화했다’는 점수와 ‘어떤 뜻이 언제 바뀌었다’는 해석을 분리해 기록하는 것이 이 서베이의 가장 오래가는 처방이다.

출판본은 deep contextualized embedding과 SemEval-2020 연구도 다룬다. 다만 이 2021 서베이가 2024년 이후의 LLM 기반 접근을 검증한 것은 아니다. 또한 연구들을 통제 재실험하지 않았으므로, 여기의 분류를 방법 성능의 최종 판정으로 읽으면 안 된다.

심층 보기

References

Tahmasebi, N., Borin, L., & Jatowt, A. (2021). Survey of computational approaches to lexical semantic change detection. In N. Tahmasebi, L. Borin, A. Jatowt, Y. Xu, & S. Hengchen (Eds.), Computational approaches to semantic change (Chapter 1, pp. 1–91). Language Science Press. https://doi.org/10.5281/zenodo.5040302