확률밀도함수 (Probability Density Function, PDF)

마일스톤 학습법으로 단계별 완전 정복

확률밀도함수

PDF

probability-density-function

연속분포

CDF

적분

밀도

이 학습을 통해 달성할 수 있는 목표

기초 이해

• PDF의 직관적 의미 이해 (밀도 vs 확률)
• 곡선 아래 면적이 확률임을 이해
• 단일 점 확률이 0인 이유 이해

심화 학습

• PDF와 CDF의 미적분 관계
• 대표 분포의 PDF 형태 (정규·지수·균등) 이해
• PDF의 두 조건 검증
• 변환 공식 활용

실무 적용

• Radon-Nikodym 정의 이해
• 다변량·조건부 PDF
• 커널 밀도 추정과 생성 모델 응용
• Diffusion 모델의 기반 이론

한눈에 보기

확률밀도함수(PDF)는 연속 확률변수의 분포를 나타내는 함수로, 특정 구간의 곡선 아래 넓이가 그 구간에 속할 확률이 된다 (국제표준 ISO 3534-1).

연속분포에서 한 점의 확률은 0이며, 확률은 P(a≤X≤b)=∫ₐᵇ f(x)dx처럼 구간의 넓이로만 정의된다.
전체 넓이는 항상 1이고, 밀도 f(x)는 0 이상이지만 1을 넘을 수도 있다 — 확률이 아니라 밀도이기 때문이다.
누적분포함수 F(x)의 도함수가 PDF다 — F′(x)=f(x).

학습 로드맵

각 단계를 클릭하면 해당 학습 내용을 볼 수 있습니다

기초 이해

개념 정의와 기본 원리

약 25분

클릭

심화 학습

공식 유도와 다양한 예시

약 50분

클릭

실무 적용

실제 케이스와 고급 응용

약 80분

학습 진도 (완료한 단계)

먼저 알아두면 좋은 개념들

확률변수

PDF는 연속형 확률변수의 분포를 표현하는 도구이므로 확률변수 개념이 필수입니다

확률분포

PDF는 확률분포의 한 종류이므로 분포 개념의 일반론을 먼저 이해해야 합니다

확률밀도함수란 무엇인가?

난이도 2/5

약 25분

확률밀도함수(PDF)는 연속형 확률변수의 분포를 표현하는 함수입니다. 곡선 자체가 확률이 아니라 "확률의 밀도"이며, 실제 확률은 곡선 아래 면적으로 구합니다. 정규분포의 종 모양 곡선이 가장 친숙한 PDF의 예입니다.

인구밀도 지도를 떠올려보세요. 어떤 지점의 "밀도" 자체는 "그 점에 사는 사람 수"가 아닙니다. 사람 수를 알려면 일정 면적을 곱해야 합니다. PDF도 마찬가지 — Loading... 값은 "확률"이 아니라 "단위 폭당 확률"이고, 실제 확률을 알려면 구간을 정해서 적분(면적 계산)해야 합니다.

핵심 포인트

•
연속형 확률변수에서만 정의됨 (이산형은 PMF를 사용)
•
곡선 아래 전체 면적은 항상 1: Loading...
•
Loading...이지만 Loading...도 가능 (밀도이므로)
•
단일 값의 확률은 항상 0: Loading...
•
구간 확률은 면적: Loading...

간단한 예시

균등분포 Loading... — 0~2 사이 어디서나 동일한 밀도:

• PDF: Loading... (Loading..., 아니면 0)

• 전체 면적: Loading... ✓

• Loading...

• Loading... (단일 점이므로)

→ 면적이 1을 유지하기 위해 PDF는 1/2이며, 이는 확률이 아니라 밀도입니다.

이해도 확인하기

정답:

네, 가능합니다. PDF는 밀도이므로 좁은 구간에 확률이 집중되면 Loading...일 수 있습니다. 예: Loading...의 PDF는 Loading.... 다만 전체 면적은 항상 1을 유지합니다.

정답:

Loading... (적분 구간이 점이므로). 실수에는 무한히 많은 값이 있어서 한 점에 양의 확률을 배정하면 합이 무한대가 되어 모순됩니다. 의미 있는 확률은 항상 구간에서만 나옵니다.

PDF는 누적분포함수(CDF)와 미분·적분 관계로 연결되어 있으며, 모든 통계 계산의 기반이 됩니다.

PDF와 CDF의 미분·적분 관계:

Loading... (CDF는 PDF의 적분)

Loading... (PDF는 CDF의 도함수)

PDF의 필수 조건 (두 가지):

1. 비음수: Loading... for all Loading...

2. 정규화: Loading...

기댓값과 분산:

확률변수 변환의 PDF (1대 1, 미분 가능한 함수):

Loading...의 PDF: Loading...

대표적인 PDF들:

- 균등분포 Loading...: Loading...

- 정규분포 Loading...: Loading...

- 지수분포 Loading...: Loading... (Loading...)

- 감마분포, 베타분포 등

수학적 공식

PDF가 두 조건(비음수 + 전체 적분 = 1)을 만족해야 유효한 확률분포가 됩니다. 모든 구간 확률은 PDF의 적분으로 구해지며, 이는 곡선 아래 면적과 같습니다.

다양한 예시로 이해하기

예시 1: 정규분포 PDF — 종 모양의 수학적 표현

Loading... (표준정규분포)의 PDF 분석

• Loading...: Loading... (최댓값)

• Loading...: Loading...

68-95-99.7 법칙 검증:

해답:

평균 0 근처에서 가장 높고, 양쪽으로 갈수록 빠르게 감소합니다.

Loading... 범위에 약 68%, Loading... 범위에 95%, Loading...에 99.7%.

정규분포의 PDF는 적분이 해석적으로 풀리지 않아 수치 적분이나 표준정규분포표를 사용합니다. CDF를 Loading...로 표기합니다.

예시 2: 지수분포 PDF — 대기 시간 모델

Loading... — 다음 이벤트까지의 대기 시간

평균 5분에 한 번씩 손님이 오는 가게 (Loading... /분)

Loading... (Loading...)

• Loading...: Loading... (최댓값)

• 평균 대기 시간: Loading...분

• 5분 안에 손님이 올 확률:

해답:

5분 안에 손님이 올 확률 약 63.2%

10분 안에 손님이 올 확률: Loading...

지수분포는 무기억성(memoryless property)을 가짐: 이미 기다린 시간과 무관

지수분포는 PDF가 Loading...에서 최대인 우측 치우침(우향 비대칭) 분포입니다. 콜센터 대기시간, 부품 고장 시간 등 모델링에 사용됩니다.

예시 3: PDF의 변환 — 균등 → 지수

Loading...일 때 Loading...의 분포는?

Loading..., 역함수 Loading...

Loading... (Loading...)

→ Loading...

해답:

균등분포 Loading...에 Loading...을 적용하면 평균 1인 지수분포가 됩니다.

이는 역변환 샘플링(Inverse Transform Sampling)의 기초이며,

컴퓨터 시뮬레이션에서 임의 분포의 표본을 생성하는 표준 방법입니다.

이 변환 공식은 몬테카를로 시뮬레이션의 핵심입니다. 컴퓨터는 Loading... 균등 난수만 잘 생성하지만, 이 변환으로 어떤 분포의 표본이든 만들 수 있습니다.

흔한 실수들

잘못된 방법:
PDF 값을 확률로 해석

왜 틀렸을까?

Loading...를 "X가 2일 확률이 50%"로 잘못 읽음

올바른 방법:

PDF는 밀도입니다. 확률은 구간 적분 Loading...로만 정의됩니다. 단일 값의 확률은 항상 0.

잘못된 방법:
PDF 값이 1을 넘으면 잘못된 분포라고 생각

왜 틀렸을까?

확률은 0~1이라는 일반 규칙과 혼동

올바른 방법:

PDF는 밀도이므로 1보다 클 수 있습니다. 중요한 것은 (1) 비음수 (2) 전체 적분이 1. 좁은 구간에 집중된 분포는 PDF 값이 매우 클 수 있습니다.

잘못된 방법:
연속형에서 Loading...와 Loading...가 다르다고 생각

왜 틀렸을까?

이산형 사고방식의 잔재

올바른 방법:

연속형에서는 Loading...이므로 Loading...로 같습니다. 부등호의 등호 포함 여부는 연속형 분포에서 차이를 만들지 않습니다.

연습 문제

힌트:

Loading...이 되도록 Loading...를 구하세요.

정답:

c = 3/8

해설:

따라서 Loading...

검증: Loading...는 Loading...에서 비음수이고 전체 적분이 1이므로 유효한 PDF.

힌트:

표준화 후 표준정규분포표를 활용하거나, 68-95-99.7 법칙을 적용하세요.

정답:

약 38.3%

해설:

표준화: Loading...

즉, 약 38.3%가 95~105 범위에 들어갑니다. (±0.5σ 범위)

PDF는 통계학·기계학습·신호처리의 핵심 도구이며, 측도론적으로는 Radon-Nikodym 도함수로 일반화됩니다.

Radon-Nikodym 정의:

확률측도 Loading...가 르베그 측도 Loading...에 절대연속일 때,

인 함수 Loading...를 PDF라 합니다.

다변량 PDF (Joint PDF):

Loading...의 joint PDF Loading...:

주변 PDF (Marginal PDF):

조건부 PDF (Conditional PDF):

Loading... (단, Loading...)

확률 밀도 추정 (Density Estimation):

- 모수적 방법: 정규분포 등 특정 분포 가정 후 파라미터 추정

- 비모수적 방법: 커널 밀도 추정 (KDE) — Loading...

Stable Diffusion, DALL-E 3, Midjourney 등 최신 이미지 생성 AI의 핵심 기술. 2020년 DDPM 논문 이후 폭발적으로 발전.

문제 상황

수억 장의 이미지가 어떤 분포 Loading...에서 추출되었다고 본다면, 이 분포를 학습하여 새로운 이미지를 만들 수 있을까?

데이터 설명

• 학습 데이터: LAION-5B 등 수십억 장의 이미지

• 차원: 512×512×3 = 약 78만 차원의 고차원 확률변수

• 목표: Loading...를 직접 모델링하지 않고, score function Loading...를 학습

분석 방법

Forward process로 이미지에 점진적으로 가우시안 노이즈를 추가하여 순수 노이즈로 만들고, Reverse process(신경망)가 이를 거꾸로 학습합니다. 이는 PDF의 score를 추정하는 것과 동등합니다.

해결책 및 결과

1. Forward: Loading... (점진적 노이즈 추가)

2. Score 학습: 신경망 Loading...가 각 단계의 노이즈를 예측

3. Sampling: 순수 노이즈 Loading...에서 시작해 학습된 score로 점진적으로 denoising

4. 결과: 학습된 분포 Loading...에서 추출된 새 이미지

Stable Diffusion 출시 후 1년 만에 1억+ 사용자. 텍스트 한 줄로 사진 같은 이미지 생성. 디자인·예술·미디어 산업 전반에 혁명. 모두 PDF 학습 이론에서 출발.

결론:

고차원 데이터의 PDF를 직접 표현하는 것은 불가능에 가깝지만, score function이나 변분 추론으로 우회하면 강력한 생성 모델이 됩니다. 확률밀도함수는 생성 AI의 수학적 기반입니다.

참고 문헌

ISO 3534-1:2006, Statistics — Vocabulary and symbols — Part 1 — 확률밀도함수(probability density function)의 국제표준 정의

이론 페이지로 돌아가기

확률밀도함수 (Probability Density Function, PDF)

마일스톤 학습법으로 단계별 완전 정복

기초 이해

심화 학습

실무 적용

학습 로드맵

기초 이해

심화 학습

실무 적용

먼저 알아두면 좋은 개념들

확률변수

확률분포

확률밀도함수란 무엇인가?

간단한 예시

이해도 확인하기

Q1: PDF 값이 1보다 클 수 있나요?

Q2: 연속형 확률변수에서 정확히 어떤 값을 가질 확률이 왜 0인가요?

Q2: 연속형 확률변수에서 정확히 어떤 값을 가질 확률이 왜 0인가요?

수학적 공식

다양한 예시로 이해하기

예시 1: 정규분포 PDF — 종 모양의 수학적 표현

예시 2: 지수분포 PDF — 대기 시간 모델

예시 3: PDF의 변환 — 균등 → 지수

흔한 실수들

잘못된 방법: PDF 값을 확률로 해석

잘못된 방법: PDF 값이 1을 넘으면 잘못된 분포라고 생각

잘못된 방법: 연속형에서 Loading...와 Loading...가 다르다고 생각

연습 문제

문제 1: Loading... (Loading...)가 유효한 PDF가 되려면 상수 Loading...는?

문제 1: Loading... (Loading...)가 유효한 PDF가 되려면 상수 Loading...는?

문제 2: Loading...일 때 Loading...는 약 얼마인가요?

문제 2: Loading...일 때 Loading...는 약 얼마인가요?

실무에서의 활용

의료영상

MRI·CT 영상의 잡음 제거

금융 리스크 관리

Value at Risk (VaR) 계산

음성 인식

음성 신호의 확률 모델링

생성 AI

이미지·텍스트 생성 모델

실제 사례 분석: Diffusion 모델 — PDF 학습을 통한 이미지 생성

배경

문제 상황

데이터 설명

분석 방법

해결책 및 결과

참고 문헌

잘못된 방법:
PDF 값을 확률로 해석

잘못된 방법:
PDF 값이 1을 넘으면 잘못된 분포라고 생각

잘못된 방법:
연속형에서 Loading...와 Loading...가 다르다고 생각

문제 1:
Loading... (Loading...)가 유효한 PDF가 되려면 상수 Loading...는?

문제 2:
Loading...일 때 Loading...는 약 얼마인가요?