넘스탯
DATA ANALYTICS & INSIGHTS
확률에서 LLM까지 – 데이터 사이언스 전문 교육 플랫폼
시계열 예측 실습
순환 신경망(RNN)의 기억 능력 — 그리고 예측이 통하는 데이터와 통하지 않는 데이터의 경계
원하는 개념·랩·가이드를 검색해보세요
Ctrl K같은 AI가 사인파는 완벽히 맞히고, 동전 던지기는 영원히 못 맞힙니다 — 그 경계선을 직접 긋습니다
이 페이지에서 배우고 나면
- 새로운 시계열을 보고 "예측 가능 / 부분 가능 / 불가능"을 먼저 예측한 뒤, 나이브 베이스라인 대비 RMSE 실측값으로 그 판단을 검증할 수 있습니다.
- 1-스텝 예측과 자유 주행 다중 스텝 예측을 구분하고, 같은 모델의 두 곡선이 왜 전혀 다른 모양이 되는지 오차 누적으로 설명할 수 있습니다.
- "예측 곡선이 그럴듯해 보인다"는 인상 대신, 베이스라인 비교라는 정량 기준으로 시계열 모델의 성능을 판정할 수 있습니다.
텍스트 생성 실습에서 RNN은 "다음에 올 글자"를 예측했습니다. 이번에는 같은 구조의 RNN에게 "다음에 올 숫자"를 예측시킵니다. 문제의 뼈대는 완전히 같습니다 — 지금까지의 흐름을 보고 다음 한 조각을 맞히는 것. 달라진 것은 이번에는 정답 생성 규칙을 우리가 알고 있어서 모델의 한계를 실측할 수 있다는 점입니다. (텍스트 생성 실습을 아직 안 해봤어도 이 실습만으로 완결됩니다.)
1. 시계열 선택 — 생성 규칙을 알고 시작합니다
생성 규칙: x(t) = sin(2πt/24) + N(0, 0.05) — 주기 24의 규칙적 파형
실측 기반 예상: 패턴이 뚜렷해 RNN이 나이브 예측을 크게 이기는 경향. 전체 600점 중 앞 400점으로 학습하고 뒤 200점으로 평가합니다.지금 생성된 데이터 미리보기 (이 600개 값이 아래 실험에 그대로 쓰입니다)2. 학습 — 과거 24점을 보고 다음 1점 맞히기
Elman RNN(은닉 16) · 윈도 24 · MSE · Adam(학습률 0.005) · 학습 구간 기준 정규화
3. 한 걸음 예측 — 커닝이 허용되는 시험
매 시점 실제 과거 24점을 보고 나서 다음 한 점만 예측합니다. 음영 구간(테스트)은 학습에 쓰지 않은 데이터입니다.학습을 완료하면 활성화됩니다.4. 혼자 걷게 하기 — 눈 감고 계속 걷기 (자유 주행)
세로선 이후 모델은 실제 값을 전혀 보지 못하고, 자기 예측을 다시 입력으로 넣어 계속 걷습니다. 작은 오차가 다음 입력이 되어 오차 위에 오차가 쌓입니다.학습을 완료하면 활성화됩니다.직접 해보기 — 실습 과제
- 패턴이 있으면 배운다 (사인파): 사인파를 학습시키고 1-스텝 예측 곡선을 보세요. 예측이 실제 곡선에 달라붙고 RMSE가 나이브의 0.3배 수준까지 내려가는 경향이 있습니다. 수식을 알려준 적이 없는데 데이터만 보고 규칙을 근사했습니다 — "AI가 예측하려면 공식을 입력해 줘야 한다"는 통념과 반대입니다.
- 베이스라인이라는 심판 (복합 주기): 복합 주기로 바꿔 학습시키세요. 예측이 큰 흐름은 따라가지만 잔떨림(노이즈)까지는 못 맞춥니다 — 노이즈는 정의상 배울 수 없어서 오차 0은 불가능합니다. 그래도 나이브보다 낮으면 성공입니다. 좋은 모델의 기준은 "완벽"이 아니라 "가장 단순한 대안보다 나은가"입니다.
- 무작위 앞에서는 모두가 평등하다 (무작위 걸음): 무작위 걸음을 선택하고 학습량을 2배(120 에폭)로 늘려 보세요. 아무리 오래 학습해도 나이브를 이기지 못하고 보통 조금 더 나쁩니다. 모델이 멍청해서가 아니라 배울 패턴이 없어서이며, 더 크고 좋은 모델을 가져와도 결과는 같습니다 — "예측 실패는 학습 부족 탓"이라는 오해를 깨는 실험입니다.
- 그럴듯함의 함정: 무작위 걸음의 1-스텝 예측 곡선을 RMSE 수치를 가리고 눈으로만 평가해 보세요. 곡선이 실제를 그림자처럼 따라가 잘 맞는 것처럼 보입니다 — 하지만 "직전 값을 그대로 말하기"만 해도 그렇게 보입니다. 곡선의 그럴듯함은 성능의 증거가 아니며, 반드시 베이스라인과의 정량 비교가 필요합니다. 주가 예측 서비스의 홍보 그래프에 그대로 적용되는 교훈입니다.
- 학습 범위를 벗어나면 (추세): 상승 추세 시계열을 학습시키고 결과를 보세요. 패턴이 분명히 있는데도 나이브에게 지는 경향이 있습니다. 테스트 구간의 값이 학습 구간 범위를 벗어나 모델이 본 적 없는 크기의 입력을 받기 때문입니다(외삽 한계, 비정상성). 실무에서 추세를 차분(differencing) 등으로 제거하고 학습하는 이유입니다 — 무작위 걸음과 "지는 이유"가 전혀 다르다는 점에 주목하세요.
- 미래로 갈수록 어긋난다 (자유 주행): 사인파에서 자유 주행 지평선을 10 → 50 → 100으로 늘려 보세요. 사인파는 대체로 파형을 유지하지만 서서히 위상이 밀립니다. 복합 주기·무작위 걸음에서도 반복해 보세요 — 무작위 걸음은 예측이 거의 수평선으로 굳습니다. 1-스텝 RMSE가 좋았던 모델인데도 그렇습니다. 내 예측의 오차가 다음 입력이 되어 쌓이기 때문이며, 일기예보가 내일은 잘 맞고 3주 뒤는 못 맞히는 것과 같은 구조입니다.
개념 정리
예측 가능성은 데이터의 속성
무작위 걸음은 매 순간 "지난 값 + 예측 불가능한 무작위 증분"으로 만들어집니다. 증분이 평균 0이고 과거와 무관하다면, 수학적으로 최선의 1-스텝 예측은 "마지막 값 그대로"(나이브) 입니다. 아무리 복잡한 AI도 평균적으로 이를 이길 수 없습니다 — 모델이 나빠서가 아니라 배울 패턴이 존재하지 않기 때문입니다. 예측 가능성은 모델의 속성이 아니라 데이터의 속성입니다.
그렇다면 주가는?
실제 주가가 완전한 무작위 걸음인지는 금융경제학에서 수십 년째 논쟁 중입니다(효율적 시장 가설). 다만 주가의 단기 변동은 무작위 걸음에 상당히 가깝다는 데 폭넓은 공감대가 있고, 예측 가능한 신호가 있더라도 매우 약합니다. "과거 가격만 넣은 AI가 주가를 잘 맞춘다"는 주장을 보면 이 실습을 떠올리세요 — 나이브 베이스라인과 비교했는지부터 확인해야 합니다.
베이스라인 비교는 표준 관행
나이브·계절 나이브 같은 단순 베이스라인과의 비교는 시계열 예측의 표준 평가 관행입니다 (Hyndman & Athanasopoulos의 교과서가 기본 벤치마크로 명시). 대규모 예측 대회에서도 2018년 M4에서는 지수평활+LSTM 하이브리드(ES-RNN)가 우승하고 순수 ML 제출작들은 부진했지만, 2020년 M5에서는 ML(그래디언트 부스팅 계열)이 우승했습니다 — "데이터가 적은 단변량 시계열에서는 고전 통계 기법이 대등하거나 낫고, 유사 시계열이 수천 개 있는 대규모 설정에서는 ML이 유리한 경우가 많다"가 균형 잡힌 요약입니다.
오차 누적 ≠ 기울기 소실
자유 주행에서 예측이 어긋나는 주원인은 오차 누적(예측이 다음 입력이 됨) 입니다. 한편 기본 RNN이 먼 과거를 기억하기 어려운 기울기 소실은 별개의 문제이며, LSTM이 게이트로 보완하는 것은 후자입니다. LSTM도 자유 주행의 오차 누적 자체는 해결하지 못합니다 — 두 현상을 혼동하지 않는 것이 중요합니다.
더 깊이 학습하기
- Hyndman & Athanasopoulos: "Forecasting: Principles and Practice" (OTexts, 무료 공개) — 나이브 베이스라인 등 시계열 예측 평가의 표준 교과서
- Elman (1990), Cognitive Science: "Finding Structure in Time" — 이 실습이 쓰는 순환 구조의 원류
- Hochreiter & Schmidhuber (1997), Neural Computation: "Long Short-Term Memory" — 기울기 소실을 게이트로 보완
- Makridakis, Spiliotis & Assimakopoulos (2020), IJF: M4 대회 결과 — 2018년 우승은 지수평활+LSTM 하이브리드(Smyl의 ES-RNN)
- Smyl (2020), IJF: "A hybrid method of exponential smoothing and recurrent neural networks for time series forecasting"