🧮 Convolution = 슬라이딩 + Element-wise 곱·합

합성곱 연산은 작은 커널(filter)이 입력 위를 슬라이딩하며 각 위치에서 element-wise 곱 후 합을 계산합니다. 딥러닝에서는 엄밀히는 cross-correlation을 사용하지만 관례상 convolution이라 부릅니다 (Goodfellow Ch.9.1).

합성곱: 7×7 입력 ⊛ 3×3 Sobel-X 커널 → 5×5 출력

🎨 같은 입력, 다른 커널 → 다른 특징

CNN의 핵심은 "어떤 커널을 사용하느냐"입니다. 학습 전에는 무작위지만, 역전파를 통해 데이터로부터 의미 있는 특징을 추출하는 커널로 자동으로 진화합니다 (Krizhevsky et al. 2012).

같은 얼굴 패턴에 4가지 커널 적용 → 완전히 다른 특징

🔧 Stride · Padding · Dilation — 출력 크기 제어

Stride(슬라이드 간격), Padding(외곽 0-채움), Dilation(커널 간격)이 출력 크기와 받음야(receptive field)를 결정합니다. 표준 출력 공식: O = ⌊(I + 2P − D(K−1) − 1) / S⌋ + 1

Stride / Padding / Dilation의 시각적 비교

🗜️ Pooling — 공간 해상도 축소 + 불변성

Pooling은 인접한 픽셀들의 통계량(최댓값/평균)으로 압축합니다. Max pooling은 강한 특징을 유지하고 약한 평행 이동에 불변성을 제공합니다. CNN에서는 일반적으로 2×2 max pooling이 표준입니다.

Max vs Average Pooling — 같은 입력의 다른 압축

🏗️ CNN 전체 아키텍처 — LeNet-5

CNN은 (Conv → Pool)을 반복해 점진적으로 추상화된 특징을 추출한 뒤, 마지막에 Fully Connected 층으로 분류합니다. LeCun et al. (1998)의 LeNet-5가 이 패턴의 원형이며, 현대 ResNet/EfficientNet도 큰 그림에서는 이 구조의 확장입니다.

LeNet-5 스타일 CNN 아키텍처 — 특징 추출 + 분류

🏆 주요 CNN 아키텍처 마일스톤

🔬 직접 해보기 — 실습 과제

1. Sobel-X vs Sobel-Y: 십자 입력에 두 커널을 번갈아 적용. 수직선과 수평선이 각각 강조됨
2. Edge 검출: 원/사각형 입력에 Edge 커널 → 윤곽선만 추출. 이것이 CNN 첫 층이 자동으로 학습하는 패턴
3. Stride=2: 같은 입력+커널에 stride를 1→2로 변경. 출력 크기가 절반, 정보 손실
4. Padding으로 크기 유지: 3×3 커널 + padding=1 + stride=1 → 출력 = 입력 크기 (ResNet 스타일)
5. Pooling 비교: 합성곱 출력에 Max와 Avg 풀링을 적용해 어떤 정보가 살아남는지 비교