먼저, 솔직하게 인정하겠습니다

AI는 정말로 많은 것을 대신해 줍니다. 코드를 짜 주고, 데이터를 분석해 주고, 모델을 만들어 주고, 보고서 초안까지 써 줍니다. 그리고 이 범위는 매년 넓어지고 있습니다. “웬만한 건 AI가 다 해주는데 굳이 어려운 기초를 배워야 하나?”라는 의문은 게으름이 아니라, 합리적인 질문입니다.

모든 사람이 수식을 유도할 필요도 없습니다. 역전파를 손으로 계산하지 못해도 AI를 유용하게 쓰는 직업은 얼마든지 있습니다. 여기까지는 회의론이 옳습니다. 우리는 이걸 부정하면서 시작하고 싶지 않습니다.

계산기는 수학자를 없애지 못했습니다

계산기가 등장했을 때도 같은 질문이 있었습니다. “기계가 계산해 주는데 왜 수학을 배우나?” 그런데 계산기는 수학자를 없애기는커녕, 더 어려운 문제를 풀 수 있게 만들었습니다. 지루한 계산에서 해방된 만큼, 사람은 더 높은 곳의 질문을 다루게 되었습니다.

다만 AI는 계산기와 결정적으로 다른 점이 하나 있습니다. 계산기는 거의 언제나 옳습니다. 그래서 우리는 어림셈 감각 정도만 남기고 계산을 통째로 맡길 수 있었습니다. 그런데 AI는 그럴듯하게 틀리는 도구입니다. 틀렸을 때 틀렸다는 신호를 스스로 주지 않습니다. 오답이 오답처럼 보이지 않는 도구를 쓸 때 필요한 것은, 계산기 시대보다 오히려 더 깊은 개념적 이해입니다.

AI는 답을 줍니다. 그런데 하나가 남습니다

AI는 몇 초 만에 답을 만들어 냅니다. 하지만 —

• 그 답이 맞는지
• 왜 그런 답인지
• 언제 틀리는지
• 어떻게 더 좋은 답을 만들 수 있는지

— 이것은 여전히 사람이 판단해야 합니다. 그리고 이 판단은 배운 사람만 할 수 있습니다.

실제로 있었던 일입니다. 2023년 미국의 한 변호사는 ChatGPT가 만들어 준 판례를 검증 없이 법원에 제출했다가 제재를 받았습니다 — AI가 판례를 지어냈기 때문입니다. 아마존은 과거 합격자 데이터로 학습한 채용 AI가 특정 집단을 낮게 평가하는 것을 발견하고 시스템을 폐기했습니다. 이 문제를 찾아낸 것은 “과거 데이터의 편향은 모델에서 재생산된다”는 통계적 직관을 가진 사람들이었습니다.

환각, 편향, 과적합, 분포 이동 — AI가 틀리는 방식에는 전부 이름이 있습니다. 그리고 그 이름은 모두 확률과 통계의 언어로 쓰여 있습니다. 도구를 만들 줄 몰라도 됩니다. 하지만 도구가 어떤 식으로 틀리는지 모르면, 안전하게 쓸 수 없습니다.

가장 조용한 위험: 물어야 할 순간을 모르는 것

“필요할 때 AI에게 물어보면 되지”라는 생각에는 한 가지 빈틈이 있습니다. 지금이 물어야 할 순간이라는 걸 알아차리는 능력은, 물어서 얻을 수 없다는 점입니다.

쉬운 예를 들어 보겠습니다. “우리 반 평균 용돈은 30만원”이라는 말을 들었을 때, 한 명이 200만원을 받아서 평균이 끌려 올라간 건 아닌지 — 즉 “평균 말고 중간값을 봐야 하지 않나?”라는 의문이 드는 사람과 안 드는 사람이 있습니다. “설문 결과 학생 90%가 게임을 좋아한다”는 기사를 봤을 때 “혹시 PC방 앞에서 조사한 건 아닐까?”라고 조사 대상부터 의심하는 사람과, 수치를 그대로 믿는 사람이 있습니다. “학원에 다닌 학생들이 성적이 올랐다”는 말에 “원래 공부를 열심히 하는 학생들이 학원도 다니는 것 아닐까?”라고 되묻는 사람과, “학원 덕분”이라고 결론 내는 사람이 있습니다.

이 질문들은 대단한 수학이 아닙니다. 하지만 평균의 함정, 표본의 편향, 상관관계와 인과관계라는 기초 개념이 머릿속에 있는 사람에게만 저절로 떠오릅니다. AI가 내놓는 분석과 수치에도 똑같은 함정이 숨어 있습니다. 기초가 없으면 틀린 답을 받아든 순간에도 아무 위화감이 없습니다. 그것이 가장 조용하고, 가장 비싼 실패입니다.

도구는 바뀌어도, 개념은 이월됩니다

지난 10년간 도구는 쉼 없이 바뀌었습니다. 프레임워크가 세대교체되고, 모델을 직접 만들던 일이 프롬프트 한 줄로 바뀌었습니다. 특정 도구의 사용법은 2~3년이면 낡습니다. 그런데 LLM의 temperature 파라미터는 확률분포 그 자체이고, RAG 시스템을 평가하는 정밀도와 재현율은 수십 년 된 통계 개념이며, 편향-분산 트레이드오프는 어떤 새 모델이 나와도 사라지지 않습니다.

그래서, 얼마나 배워야 할까요?

정직한 답: 판단 책임의 크기만큼입니다. AI의 출력을 근거로 무언가를 결정하는 위치에 있다면 — 개발자든, 기획자든, 분석가든, 관리자든 — “이 수치가 무엇을 의미하고 어떻게 틀릴 수 있는가”를 판단할 수 있는 개념적 이해가 필요합니다. 수식 유도가 아니라 개념과 직관, 그리고 그것을 직접 만져 본 경험이면 충분합니다.

NumStats가 이론 설명에 그치지 않고 모든 영역에 직접 조작하는 실습을 두는 이유가 그것입니다. 동전을 만 번 던져 보고, 데이터 점을 직접 찍어 회귀선이 움직이는 것을 보고, 신경망의 파라미터를 돌려 보면 — 공식은 잊어도 감각은 남습니다. 그 감각이 AI의 답을 받아들일지 되물을지를 가르는 기준이 됩니다.

AI를 사용할 줄 아는 사람은 이미 많습니다.
AI를 이해하는 사람은 아직 드뭅니다.

그 차이는 재능이 아니라, 기초에 들인 시간에서 갈립니다.
확률에서 시작해 통계, 머신러닝, 딥러닝, 그리고 LLM까지 — 여기에 그 길을 순서대로 준비해 두었습니다.