통계 실험실 차트
넘스탯 로고
넘스탯
LEARN · SIMULATE · VERIFY

확률부터 LLM까지 — 데이터 사이언스 자기주도 학습 플랫폼

로그인
학습 메뉴
도움말
홈

LSTM / GRU

마일스톤 학습법으로 단계별 완전 정복
딥러닝
LSTM
GRU
게이트
장기 의존성
이 학습을 통해 달성할 수 있는 목표
기초 이해
  • • LSTM/GRU가 왜 필요한지 이해할 수 있다
  • • 게이트의 역할을 설명할 수 있다
  • • GRU와 LSTM을 구분할 수 있다
심화 학습
  • • 세 게이트의 동작을 이해할 수 있다
  • • 셀 상태가 소실을 막는 원리를 설명할 수 있다
  • • 장기 의존성 예시를 이해할 수 있다
실무 적용
  • • LSTM의 한계와 트랜스포머로의 전환을 이해할 수 있다
  • • 과제에 맞는 시퀀스 모델을 선택할 수 있다
  • • CEC 등 이론적 배경을 설명할 수 있다
한눈에 보기

LSTM/GRU는 게이트로 정보를 지우고·더하고·내보내며 셀 상태(장기 기억)를 조절하는 순환 신경망 변형으로, 일반 RNN의 그래디언트 소실을 해결해 장기 의존성을 학습한다.

학습 로드맵

각 단계를 클릭하면 해당 학습 내용을 볼 수 있습니다

기초 이해
개념 정의와 기본 원리
약 12분
클릭
심화 학습
공식 유도와 다양한 예시
약 20분
클릭
실무 적용
실제 케이스와 고급 응용
약 28분

학습 진도 (완료한 단계)

0%

LSTM / GRU란?

난이도 3/5
약 12분

LSTM과 GRU는 순환 신경망(RNN)의 개선판입니다. "게이트"라는 장치로 무엇을 기억하고 무엇을 잊을지 조절해, 일반 RNN이 못 하던 장기 기억을 가능하게 합니다.

LSTM / GRU — 게이트로 장기 기억을 조절셀 상태(장기 기억)에 게이트가 작용 — 그래디언트 소실 없이 먼 과거를 기억셀 상태 (장기 기억) ─ 거의 그대로 전달×망각 게이트무엇을 지울까×입력 게이트무엇을 더할까×출력 게이트무엇을 내보낼까※ GRU는 게이트를 2개로 단순화한 변형 · 게이트가 기억을 보존해 장기 의존성 학습 가능(Hochreiter·Schmidhuber, 1997)
핵심 포인트
  • •게이트로 셀 상태(장기 기억)를 조절
  • •망각·입력·출력 3게이트(LSTM)
  • •셀 상태 경로로 기울기가 잘 흘러 소실 완화
  • •GRU는 2게이트로 단순화한 변형
간단한 예시

"나는 프랑스에서 자랐다 … 그래서 나는 유창한 ___를 한다"에서 빈칸(프랑스어)을 맞히려면 먼 앞의 "프랑스"를 기억해야 합니다. LSTM은 게이트로 이 정보를 오래 보존해 장기 의존성을 처리합니다.

이해도 확인하기

정답: 게이트와 셀 상태 덕분에 장기 의존성을 학습할 수 있습니다. 일반 RNN은 긴 시퀀스에서 그래디언트 소실로 먼 과거를 기억하기 어렵습니다.

정답: GRU는 게이트를 2개(업데이트·리셋)로 단순화한 변형입니다. 파라미터가 적고 계산이 가벼우면서 성능은 LSTM과 비슷한 경우가 많습니다.

딥러닝 이론 페이지로 돌아가기