LEARN · SIMULATE · VERIFY
확률부터 LLM까지, 원리부터 제대로 배우는 자기주도 학습 플랫폼
모델 성능 비교 실습
MLP vs CNN vs RNN vs Self-Attention — 같은 데이터, 같은 조건에서 브라우저 실제 학습으로 겨루기
원하는 개념·랩·가이드를 검색해보세요
Ctrl K같은 데이터를 놓고, 네 개의 모델이 서로 다른 방식으로 바라본다
이 페이지에서 배우고 나면
- MLP·CNN·RNN·Self-Attention이 같은 8×8 이미지를 각각 어떤 순서와 단위로 읽는지 설명할 수 있습니다.
- 손실 곡선·파라미터 수·테스트 정확도를 함께 읽고 "이 데이터에는 어떤 귀납 편향이 유리했는가"를 근거를 들어 판단할 수 있습니다.
- 새로운 문제를 만났을 때 "데이터가 이미지형인가, 순차형인가, 표 형식인가"를 기준으로 후보 아키텍처를 골라낼 수 있습니다.
예측 먼저 — 실험 전에 답을 정해 보세요
정답을 몰라도 괜찮습니다 — 먼저 예측을 정해야 시뮬레이션 결과가 기억에 남습니다. 예측을 고른 뒤 아래 시뮬레이션으로 직접 확인하고, 그다음 결과를 열어 보세요.
1. MLP·CNN·RNN·어텐션 중 어떤 데이터에서든 항상 이기는 아키텍처가 있을까요?
2. 파라미터가 더 많은 모델이 항상 더 정확할까요?
네 가지 시선 — 같은 8×8 이미지를 각자 다르게 읽는다
학습을 시작하기 전에, 네 모델이 같은 입력을 어떤 가정으로 읽는지부터 확인하세요. 네 모델 모두 배우는 원리는 같습니다(역전파 + 경사하강법) — 다른 것은 "입력을 읽는 가정"뿐입니다.
MLP (다층 퍼셉트론)
64개 픽셀을 한 줄로 펴서 본다
8×8 이미지를 길이 64의 벡터로 펼쳐 처리합니다. "어떤 픽셀이 어떤 픽셀 옆에 있는지"라는 공간 정보를 전혀 가정하지 않습니다. 구조: 64 → 32(ReLU) → 4.
CNN (합성곱 신경망)
3×3 필터를 이미지 전체에 미끄러뜨린다
같은 3×3 필터 8개를 모든 위치에 재사용(가중치 공유)하고, 전역 최대 풀링으로 "필터가 어디서든 반응했는가"만 남깁니다. 패턴의 위치가 바뀌어도 같은 패턴으로 인식하는 구조적 가정이 내장됩니다. 구조: 3×3 conv ×8(ReLU) → 전역 최대 풀링 → 4.
RNN (순환 신경망)
한 행(8픽셀)씩 위에서 아래로 순서대로 읽는다
이미지의 8개 행을 8개의 타임스텝으로 취급해, 행을 하나 읽을 때마다 은닉 상태(기억)를 갱신합니다. "순서가 의미를 만든다"는 가정입니다. 참고: 이미지에 RNN을 쓰는 것은 실무에서 드문 비전형적 사용으로, 여기서는 비교 실험 장치입니다. 구조: Elman RNN, 은닉 16(tanh) → 4.
Self-Attention 분류기 (단순화한 Transformer 인코더)
모든 행 쌍의 관련도를 어텐션으로 계산한다
8개 행을 8개의 토큰으로 보고, 단일 헤드 self-attention으로 모든 행 쌍의 관련도를 학습합니다. 구조에 대한 가정이 가장 적어 관계를 전부 데이터에서 배워야 합니다. 원 논문 대비 단순화: 단일 헤드(원본 멀티헤드)·단일 블록(원본 6층)·FFN 생략·LayerNorm 생략·학습 위치 임베딩. 구조: d_model=16, 잔차 연결 + 평균 풀링 → 4.
과제: 8×8 이미지 4클래스 분류
실험 설정
실측 요약 — 이 실습이 보여주는 것
같은 8×8 도형 4클래스 데이터로 MLP·CNN·RNN·단순화 Self-Attention 네 모델을 브라우저에서 동시에 실제 학습시켜 손실 곡선·테스트 정확도·파라미터 수·학습 시간을 비교하는 실험입니다. 미학습 위치 프로토콜과 픽셀 셔플 스위치로 각 아키텍처의 "구조적 가정"을 직접 검증합니다.
- 파라미터 실계산: MLP 2,212 / CNN 116 / RNN 468 / Attention 1,092 — 파라미터가 19배 많은 MLP가 CNN을 항상 이기지는 못하며, 순위는 실행·설정마다 바뀐다 (실행 기록 표로 변동성을 직접 확인)
- 미학습 위치 프로토콜: 도형이 놓일 수 있는 16개 위치 중 학습은 좌상단 9곳만 쓰고 테스트는 본 적 없는 7곳으로만 평가한다 — CNN의 가중치 공유(평행이동 등변성)가 일반화에 실제로 기여하는지 정직하게 재는 장치. 4클래스라 무작위 찍기 기준선은 25%
- 픽셀 셔플은 모든 이미지에 동일한 고정 순열을 적용해 이웃 관계만 파괴한다 — 픽셀을 순서 없는 벡터로 보는 MLP는 원리상 영향이 없고, '이웃 픽셀이 의미 있다'고 가정한 CNN이 타격을 받는다
바로잡는 오개념: "최신 아키텍처(어텐션)가 항상 이긴다"는 생각 — 아키텍처는 데이터 구조에 대한 가정(CNN=지역성, RNN=순서, 어텐션=장거리 참조)이며, 데이터의 실제 구조와 가정이 맞는 쪽이 이긴다.
AI 튜터에게 물어보기
— 정답 대신 힌트로 유도합니다. 지금 화면의 실험 상태를 알고 답해요.
예: “방금 결과가 이론과 다른데 왜죠?”, “이 값을 올렸는데 왜 반대로 변하죠?”
직접 해보기 — 실습 과제
- 파라미터 수와 성능은 비례하는가: MLP와 CNN만 켜고 "미학습 위치"로 학습하세요. 파라미터 수를 먼저 확인한 뒤(MLP 2,212개 vs CNN 116개) 테스트 정확도를 비교하세요. 파라미터가 19배 적은 CNN이 크게 앞서는 경향이 있습니다 — "가까운 픽셀끼리 관련 있다"는 가정 덕분에 같은 필터를 재사용해 적은 파라미터로 배우기 때문입니다.
- 암기와 일반화 구분하기: 테스트 방식을 "동일 분포"와 "미학습 위치"로 바꿔가며 두 번 실행하세요. 학습 정확도는 두 경우 모두 100% 부근인데, 미학습 위치 테스트에서는 모델 간 격차가 크게 벌어집니다. 학습 데이터를 다 맞히는 것(암기)과 본 적 없는 입력을 맞히는 것(일반화)은 전혀 다른 능력입니다.
- 픽셀 셔플 — 가정이 틀리면 족쇄가 된다: 픽셀 셔플을 켜고 4개 모델을 다시 학습시키세요. MLP는 성적이 거의 변하지 않지만 CNN은 크게 떨어집니다. MLP는 애초에 위치 관계를 가정하지 않아 잃을 것이 없고, CNN은 "이웃 픽셀" 가정이 깨지면 강점이 사라집니다. 귀납 편향은 가정이 맞으면 무기, 틀리면 족쇄입니다.
- Attention은 왜 여기서 안 빛나는가: Attention(단순화)의 곡선과 테스트 정확도를 관찰하고, 클래스당 데이터를 25장 → 100장으로 늘려 변화를 보세요. 구조에 대한 가정이 가장 적은 모델은 "무엇이 무엇과 관련 있는지"를 전부 데이터에서 배워야 하므로 데이터가 적으면 불리한 경향이 있습니다. 이 결과를 "Transformer는 약하다"로 읽으면 안 되는 이유를 아래 연표의 ViT(2021) 항목에서 확인하세요.
- 실행 버튼을 한 번 더: 아무것도 바꾸지 말고 같은 설정으로 2~3회 반복 실행한 뒤 "실행 기록" 표에서 순위가 유지되는지 확인하세요. 초기 가중치가 무작위이므로 순위가 뒤집히는 실행도 나옵니다. 한 번의 실험으로 "A가 B보다 낫다"고 결론 내릴 수 없는 이유이자, 논문들이 여러 시드의 평균±표준편차를 보고하는 이유입니다.
귀납 편향(inductive bias) 비교
네 모델 모두 배우는 원리는 같습니다 — 역전파로 기울기를 구하고 경사하강법으로 가중치를 고칩니다. 다른 것은 "입력을 읽는 구조적 가정"뿐이며, 이 가정이 데이터와 맞을수록 적은 데이터로 빨리, 잘 일반화합니다.
| 모델 | 구조적 가정 (귀납 편향) | 가정이 유리한 데이터 | 대표 사례 |
|---|---|---|---|
| MLP | 거의 없음 — 모든 입력 차원을 동등하게 취급 | 특별한 공간·순차 구조가 없는 벡터 데이터 | 표 형식 데이터의 기본 신경망 |
| CNN | 지역성 + 가중치 공유에 의한 평행이동 등변성(equivariance), 풀링이 근사적 불변성(invariance)에 기여 | 이미지 등 공간 구조 데이터 | LeNet-5, AlexNet, ResNet |
| RNN | 순차 의존성 — 순서가 의미를 만들고, 현재는 과거에 의존 | 시계열·언어 등 순차 데이터 | LSTM 기반 음성 인식·번역 (2010년대 중반) |
| Transformer | 가정 최소 — 모든 토큰 쌍의 관계를 어텐션으로 학습. 학습은 병렬화 가능하나 어텐션 비용은 시퀀스 길이의 제곱(O(n²)) | 대규모 데이터 + 장거리 의존성 (데이터가 적으면 불리한 경향) | GPT·BERT 등 LLM, ViT |
아키텍처의 역사 — 새로운 가정의 발명사
연대순은 우열순이 아닙니다 — 각 시대는 새로운 데이터와 새로운 가정을 발명했을 뿐입니다.
| 1986 | 역전파 학습의 대중화 — 다층 신경망을 실용적으로 학습시키는 방법이 널리 알려짐 (알고리즘 자체는 Linnainmaa 1970, Werbos 1974 등 이전 연구가 존재) Rumelhart, Hinton & Williams, Nature |
| 1990 | Elman RNN — 순환 연결로 시퀀스의 시간 구조를 학습 Elman, Cognitive Science |
| 1997 | LSTM — 게이트 구조로 RNN의 기울기 소실 문제를 완화 (문제 자체의 분석은 Hochreiter 1991, Bengio et al. 1994) Hochreiter & Schmidhuber, Neural Computation |
| 1998 | LeNet-5 — 합성곱+풀링 구조를 손글씨 숫자 인식에 적용, 수표 판독에 상용화 LeCun, Bottou, Bengio & Haffner, Proc. IEEE |
| 2012 | AlexNet — ILSVRC 2012 우승 (top-5 오류율 15.3%, 2위 26.2%), 딥러닝 붐의 기폭제 Krizhevsky, Sutskever & Hinton, NeurIPS |
| 2017 | Transformer — 순환 구조를 제거하고 self-attention만으로 기계 번역 최고 성능(WMT 2014 영→독 28.4 BLEU), 학습 병렬화 가능 Vaswani et al., NeurIPS |
| 2021 | ViT — 이미지를 패치 토큰으로 잘라 Transformer로 분류. 대규모 사전학습 시 CNN을 능가하지만, 중소규모 데이터 단독 학습에서는 CNN보다 열세임을 논문 스스로 보고 Dosovitskiy et al., ICLR |
데이터 유형별 모델 선택 가이드
- 이미지: CNN이 기본 선택. 대규모 데이터·사전학습을 활용할 수 있으면 ViT 계열도 강력합니다 (Dosovitskiy et al., 2021).
- 시계열·순차 데이터: LSTM/GRU 같은 RNN 계열, 또는 Transformer. 시퀀스가 길고 데이터가 많다면 Transformer가 유리한 경우가 많습니다.
- 자연어: 현재 표준은 Transformer입니다 (GPT·BERT 등).
- 표 형식(tabular) 데이터: 중간 규모(수천~수만 행)에서는 그래디언트 부스팅 등 트리 기반 모델이 딥러닝보다 흔히 우수하다는 벤치마크 연구가 있습니다 (Grinsztajn et al., NeurIPS 2022). 신경망부터 꺼내지 말고 트리 모델을 먼저 검토하세요.
- 공통 원칙: 만능 최강 아키텍처는 없습니다. 데이터의 구조와 양에 맞는 귀납 편향을 고른 모델이 이깁니다 — 이것이 이 실습에서 정직하게 끌어낼 수 있는 일반 교훈입니다.
더 깊이 학습하기
- Rumelhart, Hinton & Williams (1986), Nature: "Learning representations by back-propagating errors" — 역전파 학습의 대중화
- LeCun et al. (1998), Proc. IEEE: "Gradient-Based Learning Applied to Document Recognition" — LeNet-5와 CNN의 실용화
- Hochreiter & Schmidhuber (1997), Neural Computation: "Long Short-Term Memory" — LSTM 원논문
- Krizhevsky, Sutskever & Hinton (2012), NeurIPS: "ImageNet Classification with Deep Convolutional Neural Networks" — AlexNet
- Vaswani et al. (2017), NeurIPS: "Attention Is All You Need" — Transformer 원논문
- Dosovitskiy et al. (2021), ICLR: "An Image is Worth 16x16 Words" — ViT, 데이터 규모와 귀납 편향의 관계
- Grinsztajn, Oyallon & Varoquaux (2022), NeurIPS D&B: "Why do tree-based models still outperform deep learning on typical tabular data?"