LEARN · SIMULATE · VERIFY
확률부터 LLM까지, 원리부터 제대로 배우는 자기주도 학습 플랫폼
단어 임베딩 실습실
단어 지도에서 뜻이 비슷한 단어들이 모여 있는 것을 확인하고, 왕 − 남자 + 여자 벡터 연산으로 단어 유추를 직접 해보세요.
원하는 개념·랩·가이드를 검색해보세요
Ctrl K'왕 − 남자 + 여자 = 여왕'이 정말 계산될까
이 페이지에서 배우고 나면
- 단어가 벡터로 표현될 때 의미 유사도가 어떻게 거리로 나타나는지 관찰할 수 있습니다.
- 벡터 덧셈·뺄셈으로 단어 사이의 관계를 표현할 수 있음을 직접 실험할 수 있습니다.
- 비슷한 맥락에서 쓰인 단어가 왜 가까운 벡터를 갖는지 이해할 수 있습니다.
예측 먼저 — 실험 전에 답을 정해 보세요
정답을 몰라도 괜찮습니다 — 먼저 예측을 정해야 시뮬레이션 결과가 기억에 남습니다. 예측을 고른 뒤 아래 시뮬레이션으로 직접 확인하고, 그다음 결과를 열어 보세요.
1. 단어 벡터로 "왕 − 남자 + 여자"를 계산하면 결과에 가장 가까운 단어는?
2. 임베딩 공간에서 "비슷한 의미"는 어떤 모습으로 나타날까요?
단어 지도 — 뜻이 비슷하면 가까이 놓인다
단어(점)를 클릭해 보세요.
"왕" 와(과) 가까운 단어 순위
왕자
거리 1.3
남자
거리 2.5
공주
거리 3.6
여왕
거리 3.8
여자
거리 4.7
사과
거리 6.1
바나나
거리 6.5
고양이
거리 7.3
강아지
거리 7.3
직접 확인해 볼 것
- 탐색 모드에서 "사과"를 클릭하면 1위가 무엇인가요? "강아지"는요? — 의미 무리(과일·동물·왕족)가 지도에서 뭉쳐 있는지 확인하세요.
- 유추 모드 기본값(왕 − 남자 + 여자)의 결과 지점이 어느 단어에 떨어지나요? 왕자 − 남자 + 여자도 시도해 보세요(공주?).
- B와 C를 서로 바꾸면(왕 − 여자 + 남자) 결과가 어떻게 되나요? 방향이 반대가 되는 이유를 생각해 보세요.
- 사과 − 남자 + 여자처럼 말이 안 되는 조합도 "가장 가까운 단어"는 나옵니다 — 유추가 늘 의미 있는 답을 주는 것은 아닙니다.
※ 실제 임베딩은 수백 차원이며 유사도는 주로 코사인으로 잽니다. 여기서는 눈으로 보도록 2차원 지도와 거리를 썼지만, "비슷한 뜻 = 가까운 벡터"라는 원리는 동일합니다.
실측 요약 — 이 실습이 보여주는 것
10개 단어(왕·왕자·여왕·공주·남자·여자·사과·바나나·강아지·고양이)를 2차원 단어 지도에 놓고, 단어를 클릭해 최근접 이웃 순위를 거리로 확인하는 탐색 모드와, A − B + C 벡터 연산의 결과 지점을 별표로 찍어 최근접 단어를 찾는 유추 모드로 "비슷한 뜻 = 가까운 벡터"라는 임베딩의 원리를 체험하는 실험입니다.
- 랩 좌표로 직접 계산하면 왕(7.5, 7.0) − 남자(5.0, 7.0) + 여자(5.0, 3.0) = (7.5, 3.0) — 이 지점에서 여왕(7.4, 3.2)까지 거리는 0.22로 압도적 1위다(2위 공주는 1.25). 왕자 − 남자 + 여자의 답은 공주(거리 1.20) — 성별 축 이동이 실제로 계산된다
- 탐색 모드 실계산: 사과의 최근접은 바나나(거리 1.03), 강아지의 최근접은 고양이(1.00), 왕의 최근접은 왕자(1.25) — 과일·동물·왕족 세 의미 무리가 지도에서 따로 뭉쳐 있다
- 사과 − 남자 + 여자처럼 말이 안 되는 조합에도 최근접 단어(고양이, 거리 1.20)는 기계적으로 나온다 — 유추 연산이 늘 의미 있는 답을 보장하지는 않는다. 실제 임베딩은 수백 차원에 코사인 유사도를 쓰지만 원리는 이 2차원 지도와 같다
바로잡는 오개념: "단어의 유사도는 철자가 비슷한 것이고, 왕 − 남자 + 여자 같은 벡터 연산은 비유일 뿐"이라는 착각 — 임베딩은 쓰임새(분포)가 비슷한 단어를 가까이 놓고 의미 관계를 방향으로 저장하므로, 성별 방향 이동이 실제로 여왕 근처에 떨어진다.
AI 튜터에게 물어보기
— 정답 대신 힌트로 유도합니다. 지금 화면의 실험 상태를 알고 답해요.
예: “방금 결과가 이론과 다른데 왜죠?”, “이 값을 올렸는데 왜 반대로 변하죠?”