LLM 실습실

같은 질문도 프롬프트를 바꾸면 답이 달라집니다

LLM을 잘 쓰는 능력은 읽어서가 아니라 직접 프롬프트를 바꿔보며 생깁니다. 같은 요청도 맥락을 더하거나 형식을 지정하면 답의 품질이 확 달라지는 걸 눈으로 보면, 프롬프트 설계가 왜 중요한지 바로 이해됩니다. 이 실습실은 텍스트가 숫자가 되는 순간부터 프롬프트 설계까지, LLM의 전 과정을 단계별 전용 실습으로 구성했습니다.

이 페이지에서 배우고 나면

프롬프트의 맥락·형식·예시를 바꿔가며 답변 품질이 어떻게 달라지는지 직접 확인할 수 있습니다.
토큰화·어텐션 같은 개념이 실제 입력에서 어떻게 작동하는지 시각화로 관찰할 수 있습니다.
좋은 프롬프트와 모호한 프롬프트의 차이를 손으로 익힐 수 있습니다.

LLM 실습 안내

이 실습실은 대규모 언어 모델의 핵심 원리를 체험하는 공간입니다. 토큰화, 임베딩, 어텐션 등 각 개념의 특성에 맞는 전용 실습 환경과 시각화를 통해 단계적으로 학습할 수 있습니다. 위에서 아래 순서(텍스트 → 예측 → 훈련·활용)로 진행하면 각 실습이 다음 실습의 선수 지식이 됩니다.

나의 진도 지도 — LLM 실습 6개

점 하나가 실습 하나입니다 — 회색 미시작 · 파랑 진행 중 · 초록 완료(모든 예측-확인) · 보라 정복(모든 예측 적중). 진도는 이 브라우저에 저장됩니다.

LLM 핵심 개념별 실습

1단계 · 텍스트를 숫자로 — 모델의 입력 만들기

토큰화 (Tokenization) 실습

ChatGPT는 "사과"라는 단어를 어떻게 읽을까?

BPE·서브워드 분할을 직접 실행하며 문장이 토큰 ID 목록으로 바뀌는 과정을 확인하세요. 어휘 사전 구축과 한국어 토큰화의 어려움까지 체험합니다.

단어 임베딩 (Embedding) 실습

왕 − 남자 + 여자 = ? — 의미가 계산이 된다

단어를 의미가 담긴 벡터로 바꾸면 코사인 유사도로 비슷함을 재고, 벡터 연산으로 단어 유추가 가능해집니다. 의미 기반 검색까지 실험하세요.

2단계 · 다음 단어 예측 — 생성의 원리

언어 모델 (Language Model) 실습

문장 생성의 정체는 "다음 단어 예측"의 반복

P(다음 단어 | 앞의 단어들)를 n-gram으로 직접 계산하고, 확률 예측을 반복하면 문장이 생성되는 과정 — GPT의 다음 토큰 예측의 원형 — 을 체험하세요.

어텐션·Transformer 실습

"그것"이 무엇을 가리키는지 모델은 어떻게 알까?

Self-Attention 가중치를 시각화하며 모델이 문맥의 어느 단어에 주목하는지 확인하세요. Multi-Head Attention과 위치 인코딩까지 현대 LLM의 심장을 들여다봅니다.

Transformer 블록 해부실

Residual·LayerNorm·FFN — 부품을 빼 보면 역할이 보인다

블록의 부품을 하나씩 끄며 층별 기울기와 실학습 성패를 실측하세요. 잔차 없이는 3층부터 무너지고, 파라미터의 2/3는 FFN이 갖고 있습니다.

디코더 아틀라스

숫자로 걷는 트랜스포머 — 프롬프트가 확률이 되기까지 9단계

문장을 넣으면 토큰화·임베딩·어텐션·FFN·로짓·softmax의 모든 중간 행렬이 실제 값으로 다시 계산됩니다. 인과 마스크가 왜 −∞인지, Add&Norm이 왜 평균 0인지 표에서 직접 확인하세요.

RAG 실험실

검색이 답을 결정한다 — 어휘 검색 vs 의미 검색

문서 15건 창고에서 같은 질문을 두 방식으로 검색해 무엇이 근거로 뽑히는지 대결시키세요. 어휘 검색이 글자에 속는 장면과 Top-k의 트레이드오프를 실측합니다.

3단계 · 훈련과 활용 — 모델 다듬기와 끌어내기

훈련 과정·파인튜닝 실습

사전 훈련만 마친 모델은 왜 채팅을 못 할까?

사전 훈련(Pre-training) → 파인튜닝 → RLHF(인간 피드백 학습)로 이어지는 훈련 파이프라인을 단계별로 체험하고, 인스트럭션 튜닝의 효과를 확인하세요.

miniLLM 실행실 — 밑바닥부터 LLM 만들기

같은 구조를 진짜로 학습하면 — 160M 한국어 모델을 브라우저에서

데이터·토크나이저·사전학습·SFT·DPO·배포 여섯 공정과 실제 학습 곡선(19.6억 토큰·14.5시간)을 보고, 176MB 모델을 브라우저에 올려 토큰별 확률을 보며 직접 생성하세요. GPU도 서버도 쓰지 않습니다.

프롬프트 엔지니어링 실습

같은 질문, 다른 답 — 무엇이 갈랐을까?

Zero-shot / Few-shot, Chain-of-Thought, 역할 부여, 출력 형식 지정을 직접 실험하며 입력 설계만으로 모델의 능력을 끌어내는 기술을 익히세요.

4단계 · 종합 프로젝트와 심화

LLM 밑바닥부터 만들기

배운 부품을 모두 조립하는 종합 코스

토큰화부터 어텐션·학습까지, 초소형 언어 모델을 브라우저에서 단계별로 직접 만들어 봅니다. 이 실습실 전체의 졸업 프로젝트입니다.

Transformer 수학 심화

어텐션 수식을 직접 계산해 보기

Q·K·V 행렬 연산과 소프트맥스를 Python 실행 환경(PythonRunner)에서 손으로 계산하며 Transformer의 수학을 정면으로 다룹니다.

딥러닝 실습실

LLM의 토대 복습하기

어텐션·역전파가 낯설다면 딥러닝 실습실의 신경망·최적화 실습으로 토대를 다진 뒤 돌아오세요 — LLM은 딥러닝의 정점입니다.

딥러닝 실습실로 이동합니다.

LLM 실습 시뮬레이터

이 실습은 실제 LLM이 아닌 교육용 시뮬레이터입니다. LLM의 작동 원리, 프롬프트 엔지니어링, 데이터 분석·코드 생성 등실제 AI 활용법을 직접 실습하는 공간입니다.

프롬프트 입력

시스템 프롬프트 사용 (통계/데이터 분석 전문가)

LLM 응답

여기에 LLM의 응답이 표시됩니다...

효과적인 프롬프트 예시

데이터 분석 요청

다음 데이터셋의 패턴을 분석해주세요: [데이터]

이 통계 결과를 일반인이 이해하기 쉽게 설명해주세요

A/B 테스트 결과를 해석하고 권장사항을 제시해주세요

학습 도우미

기계학습의 편향-분산 트레이드오프를 예시로 설명해주세요

베이즈 정리를 실생활 예시로 쉽게 설명해주세요

확률 분포의 종류와 각각의 특징을 정리해주세요

코드 생성

Python으로 선형 회귀 모델을 구현하는 코드를 작성해주세요

데이터 전처리를 위한 pandas 코드를 생성해주세요

시각화를 위한 matplotlib 코드를 작성해주세요

교육적 활용 안내

1. 비판적 사고: LLM의 응답을 맹신하지 말고 항상 검증하세요.

2. 데이터 프라이버시: 민감한 정보는 입력하지 마세요.

3. 학습 도구: LLM은 학습을 도와주는 도구이지, 사고를 대체하지 않습니다.

4. 지속적 학습: 기본기를 탄탄히 하고 LLM을 보조 도구로 활용하세요.

LEARN · SIMULATE · VERIFY

토큰화부터 어텐션, 파인튜닝, 프롬프트 엔지니어링까지 — 대규모 언어 모델(LLM)이 글을 읽고 쓰는 원리를 개념당 하나의 전용 실습으로 체험하세요.