[{"content":"신뢰할 수 있는 AI와 감염병·환경 예측에 대한 글을 모읍니다.\n","date":"2026년 8월 29일","externalUrl":null,"permalink":"/posts/","section":"글","summary":"신뢰할 수 있는 AI와 감염병·환경 예측에 대한 글을 모읍니다.\n","title":"글","type":"posts"},{"content":"가상의 두 지점을 생각해 보겠습니다.\nA 지점은 오늘 조류경보 \u0026lsquo;관심\u0026rsquo;이지만 7일 예측선은 아래로 향합니다. B 지점은 아직 경보가 없는데 예측선은 위로 향합니다. 어느 쪽을 더 믿어야 할까요?\n정답은 하나를 고르지 않는 것입니다. 조류경보는 관측된 현재를 보여 주고, AI·수치모델 예측은 모델이 계산한 미래를 보여 줍니다. 서로 다른 시간의 질문에 답하므로 두 정보가 다르다고 하나가 틀렸다고 볼 수는 없습니다.\n그림 1. 조류경보와 AI 예측은 서로 다른 시간의 질문에 답합니다.\n30초 핵심 # 조류경보는 관측으로 현재 상태를 알리고, AI·수치모델 예측은 앞으로의 변화를 추정합니다. 2026년 녹조 예측은 13개 상수원 지점에 향후 7일 정보를 제공하지만, 경보와 예측은 대상과 시간이 다를 수 있습니다. 녹조 정보를 읽을 때는 예측 대상·지점·시점·기간·불확실성을 함께 확인해야 합니다. 1. \u0026lsquo;관심·경계\u0026rsquo;는 오늘의 관측을 경보로 바꾸는 기준입니다 # 조류경보는 예측 알고리즘이 직접 붙이는 등급이 아닙니다. 관측지점에서 채취·분석한 값을 법에서 정한 기준과 비교해 발령합니다.\n2026년 3월 시행 중인 「물환경보전법 시행령」의 상수원 구간 기준을 보면, \u0026lsquo;관심\u0026rsquo;은 2회 연속 남조류 세포수가 1,000 cells/mL 이상일 때 해당합니다. \u0026lsquo;경계\u0026rsquo;는 2회 연속 남조류 세포수가 10,000 cells/mL 이상이거나 조류독소가 10 μg/L 이상일 때, \u0026lsquo;조류대발생\u0026rsquo;은 2회 연속 남조류 세포수가 1,000,000 cells/mL 이상일 때입니다.[2]\n이 구조에서 놓치기 쉬운 점이 세 가지 있습니다.\n경보는 예측값이 아니라 관측값에서 출발합니다. 한 번 기준을 넘은 숫자와 공식 경보는 같지 않습니다. 발령·해제 기준은 2회 연속 관측을 봅니다. 같은 \u0026lsquo;녹조\u0026rsquo;라고 불리는 숫자여도 남조류 세포수, 조류독소, chlorophyll-a 농도는 서로 다른 측정 대상입니다. 따라서 \u0026lsquo;관심\u0026rsquo;이라는 표시만 보고 모델이 내일도 관심 수준을 예측했다고 읽으면 안 됩니다. 이 표시가 어느 지점의 무엇을, 언제 측정해 만든 정보인지를 먼저 확인해야 합니다.\n예를 들어 조류독소 기준은 넘지 않은 상황에서, 이번 남조류 세포수가 12,000 cells/mL이어도 직전 관측이 10,000 cells/mL 미만이었다면 \u0026lsquo;경계\u0026rsquo; 기준의 2회 연속 조건은 아직 채워지지 않습니다. 그래서 최근 측정값 한 개와 공식 경보 등급이 다르게 보일 수 있습니다. 색상 표시를 보기 전에 이 시간 규칙을 알아야 숫자를 잘못 읽지 않습니다.\n2. AI와 수치모델은 향후 7일을 묻습니다 # 2026년 5월, 국립환경과학원은 녹조 예측에 AI 기술을 병행 도입했습니다. 기존 3차원 수치모델에 과거 수질·수량·기상 데이터를 학습한 AI 모델을 결합해 향후 7일간의 녹조 발생 정보를 제공한다는 계획입니다. 대상 상수원 지점은 9개에서 13개로 늘었고, 예측 정보는 5월부터 10월까지 매주 월요일과 목요일 물모아플랫폼에 공개됩니다.[1]\n수치모델과 AI를 함께 쓰는 구조는 자연스럽습니다. 수치모델은 물의 흐름과 물리적 역학 구조를 계산하고, AI는 과거 데이터에서 반복된 패턴을 학습합니다. 둘을 결합한다고 미래가 확정되는 것은 아닙니다. 입력으로 사용한 관측과 기상 예보, 모델의 구조, 학습에 포함된 기간과 지점의 범위가 결과에 남습니다.\n두 모델이 다른 방향을 내놓는다면 평균을 내 숫자 하나로 덮기보다, 어떤 입력과 가정 차이가 결과를 갈랐는지 확인할 신호로 읽어야 합니다. 모델 간 차이는 불편한 정보이지만, 감춰야 할 잡음은 아닙니다. 다음 관측이 들어왔을 때 어느 조건에서 각 모델이 어긋났는지 남기면, 예보는 한 번의 정답 맞히기가 아니라 검증 기록이 됩니다.\n그림 2. 경보는 관측된 현재를, 예측은 모델이 계산한 앞으로의 변화를 보여줍니다.\n여기서 예측 대상을 구분하는 일이 중요합니다. 저와 전형서가 2025년 Journal of Cleaner Production에 발표한 연구는 2016년부터 2022년까지 여러 담수 관측지점의 주간 시계열을 사용해 1차원 합성곱 신경망으로 chlorophyll-a 농도를 예측했습니다. 또한 서로 다른 초기화에서 CAM을 1,000회 반복해 한 번의 설명이 우연에 지나치게 의존하지 않도록 했습니다.[3]\n그러나 이 모델이 예측한 chlorophyll-a 농도는 현행 조류경보의 남조류 세포수·조류독소와 같은 표적이 아닙니다. 이 연구 결과를 바로 경보 단계 예측이라고 읽는다면 모델이 답한 질문을 바꿔 버리는 셈입니다.\n3. 경보와 예측이 다를 때는 조합으로 읽습니다 # 조류경보와 7일 예측을 현재 상태와 향후 방향으로 나누면 네 가지 조합이 나옵니다. 아래 표는 판단 연습을 위한 단순화이며, 실제 경보 조치를 대체하지 않습니다.\n현재 관측·경보 7일 예측 방향 읽는 법 낮음 상승 지금 경보가 없다는 사실과 앞으로 상승 가능성은 충돌하지 않습니다. 조기 신호로 읽되, 다음 관측으로 확인합니다. 높음 하락 예측된 하락은 현재 경보를 취소하지 않습니다. 관측된 현재와 예상되는 개선 방향을 같이 적습니다. 높음 상승 현재 관측과 예측 방향이 같은 신호를 냅니다. 다만 어떤 지점과 표적의 정보인지는 여전히 확인해야 합니다. 낮음 하락 해당 지점·예측 기간의 정보가 비교적 일치합니다. 다른 지점과 예측 기간 밖까지 안전하다는 뜻은 아닙니다. 예측선이 상승하는지 하락하는지만으로는 부족합니다. 경보 기준과 얼마나 멀리 있는지, 예측 기간의 어느 시점에서 방향이 바뀌는지, 최신 관측이 반영된 시점이 언제인지를 같이 보아야 합니다. 임계값에 가까운 숫자는 \u0026lsquo;관심 아님\u0026rsquo;과 \u0026lsquo;관심\u0026rsquo;으로 색이 갈릴 수 있지만, 두 상태가 단절된 세계라는 뜻은 아닙니다.\n4. \u0026lsquo;녹조 예측\u0026rsquo;을 믿기 전에 네 가지를 확인합니다 # 첫째, 무엇을 예측했는지 봅니다. 남조류 세포수인지, 조류독소인지, chlorophyll-a 농도인지, 경보 단계인지는 교체할 수 없는 정보입니다. \u0026lsquo;녹조 예측\u0026rsquo;이라는 표제만으로는 이 차이가 보이지 않습니다.\n둘째, 어디의 언제 정보인지 확인합니다. 같은 하천과 호소에서도 관측지점이 다르면 숫자가 다를 수 있습니다. 관측일·공개일·예측 기준시각을 구분하면 \u0026lsquo;최신\u0026rsquo;이라는 말이 구체적으로 바뀝니다.\n셋째, 며칠 뒤까지 보는지 읽습니다. 당일 관측, 내일 예측, 7일째 예측은 같은 무게로 놓을 수 없습니다. 예측 기간 끝의 한 점만 보기보다 날짜별 방향과 갱신 주기를 함께 보는 편이 낫습니다.\n넷째, 불확실성이 보이는지 묻습니다. 숫자 하나만 제공되면 예측 구간, 과거 오차, AI와 수치모델의 차이, 임계값까지의 거리 중 제공된 정보를 찾아야 합니다. 다 보이지 않으면 없는 부분을 추정해 채우지 말고, 확인할 수 없는 한계로 남겨 둡니다.\n그림 3. \u0026lsquo;녹조 예측\u0026rsquo;이라는 이름보다 무엇·어디·언제·얼마나 확실한지를 먼저 봐야 합니다.\n이 기준은 공공기관의 녹조 예측에만 적용되지 않습니다. 제가 연구했거나 관련 서비스로 제공하는 모델도 학습 기간·관측지점·예측 표적이 정한 범위 안에서만 검증됩니다. 새로운 지점과 기후 조건, 다른 관측 방식으로 넘어가면 재검증이 필요합니다. 제 모델이라고 예외가 되지는 않습니다.\n마무리 # 녹조 경보와 AI 예측이 다르게 보이는 날이 있어도 이상하지 않습니다. 하나는 지금 관측된 상태를, 다른 하나는 앞으로의 가능성을 말하기 때문입니다.\n다음에 \u0026lsquo;녹조 예측\u0026rsquo;이라는 표현을 보면 숫자보다 앞서 네 가지를 확인해 보십시오. 무엇을, 어디의 언제를, 며칠 뒤까지, 얼마나 확실하게 예측했는가. 이 질문이 경보와 AI 예측을 같이 읽는 출발점입니다.\n관련 글 # AI 예측은 왜 \u0026lsquo;하나의 숫자\u0026rsquo;로 답하면 안 될까 — 점추정에서 신뢰구간의 시대로 AI는 낯선 데이터를 만나면 정말 \u0026lsquo;모른다\u0026rsquo;고 말할까 — 데이터 분포 변화와 OOD 출처 # [1] 기후에너지환경부·국립환경과학원. (2026.05.04). 여름철 녹조, 인공지능(AI)으로 정밀 예측. https://www.mcee.go.kr/home/web/board/read.do?boardId=1861480\u0026boardMasterId=939\u0026menuId=10598\n[2] 국가법령정보센터. 물환경보전법 시행령 제28조 및 별표 3(시행 2026.03.24). https://www.law.go.kr/LSW/lsInfoP.do?lsiSeq=284747\n[3] Lee, D., \u0026amp; Jeon, H. (2025). Reinforced explainable AI for algal bloom forecasting under climate change: A multi-run class activation mapping (CAM) approach. Journal of Cleaner Production, 529, 146805. https://doi.org/10.1016/j.jclepro.2025.146805\n저자는 이 분야에서 AI Korea를 통해 관련 서비스를 제공하고 있습니다. 이 글은 특정 제품·서비스의 홍보가 아닙니다.\n예측 결과는 언제나 불확실성을 포함합니다. 방역·환경 정책 의사결정의 단독 근거가 될 수 없습니다.\n이해관계 및 책임 고지\n이동현은 한국외국어대학교 Social Science \u0026amp; AI융합학부 교수이자 한국인공지능 주식회사(AI Korea Inc.)의 대표입니다. 이 글의 견해는 저자 개인의 것이며, 소속 기관이나 연구과제 발주처의 공식 입장이 아닙니다.\n이 글은 일반적인 정보 제공과 교육을 목적으로 합니다. 특정 사안에 대한 자문이나 정책 권고가 아니며, 실제 의사결정의 단독 근거로 사용될 수 없습니다.\n사실에 오류가 있다면 알려주십시오.\n","date":"2026년 8월 29일","externalUrl":null,"permalink":"/posts/2026-08-29-ai-algal-bloom-forecast-literacy/","section":"글","summary":"조류경보는 관측된 현재를, AI·수치모델은 향후 7일의 변화를 보여 줍니다. 녹조 예보의 대상·지점·시점·기간·불확실성을 함께 읽는 법을 정리합니다.","title":"녹조 예보에 AI가 들어왔습니다 — ‘관심·경계’와 7일 예측은 어떻게 읽어야 할까","type":"posts"},{"content":"한국외국어대학교 교수 · KAIST 공학박사 · 한국인공지능 주식회사 대표이사\n최근 글 읽기 소개 보기 ","date":"2026년 8월 29일","externalUrl":null,"permalink":"/","section":"이동현의 신뢰할 수 있는 AI 노트","summary":"한국외국어대학교 교수 · KAIST 공학박사 · 한국인공지능 주식회사 대표이사\n최근 글 읽기 소개 보기 ","title":"이동현의 신뢰할 수 있는 AI 노트","type":"page"},{"content":"AI 시대의 파이썬 기본기 #1\n먼저 코드 하나를 보여드리겠습니다. AI에게 \u0026ldquo;파일에서 숫자를 읽어 평균을 구해 줘\u0026quot;라고 부탁하면 흔히 받게 되는, 아주 정갈해 보이는 코드입니다.\nvalues = [] for line in open(\u0026#34;data.csv\u0026#34;): try: values.append(float(line)) except: pass print(sum(values) / len(values)) 실행하면 에러 없이 끝나고, 평균이라며 그럴듯한 숫자를 출력합니다.\n이 코드의 어디가 위험할까요? 답은 글 뒤에서 공개하겠습니다. 힌트를 하나만 드리면 — 이 코드는 틀려도 절대 멈추지 않습니다.\n30초 핵심 # 에러 없이 끝난 코드는 검증된 코드가 아니라, 아직 안 틀린 것처럼 보이는 코드입니다. AI 코드의 조용한 오류는 자료형 가정·범위의 경계·예외 삼킴, 즉 AI가 내 데이터와 내 의도를 볼 수 없는 세 자리에서 반복됩니다. 실행 결과를 믿기 전 30초 — 작은 입력 손계산, 계산에 들어간 개수, 첫 값과 끝 값의 포함 여부를 확인합니다. 그림 1. 돌아가는 코드와 맞는 코드는 다릅니다.\n1. 에러가 나는 코드보다 조용한 코드가 위험합니다 # 지난 글에서 오류에는 두 종류가 있다고 했습니다. 실행하다 멈추는 시끄러운 오류는 스스로 정체를 밝히니, 에러 메시지를 AI에게 되돌려주면 대부분 해결됩니다. 문제는 에러 없이 끝까지 실행되고 그럴듯한 값까지 내놓는 조용한 오류입니다.\n지난 글이 \u0026ldquo;그래서 검증하는 능력이 필요하다\u0026quot;까지였다면, 이번 글은 그 다음 질문을 다룹니다. 그래서 어디를 봐야 하는가.\n다행히 조용한 오류는 아무 데서나 나오지 않습니다. AI는 코드를 문법적으로 정확하게 씁니다. 대신 AI에게는 보이지 않는 것이 세 가지 있습니다. 내 파일 안의 실제 데이터, 내 머릿속의 정확한 의도, 그리고 실제로 벌어질 실패 상황. 조용한 오류는 이 세 자리에서 규칙적으로 태어납니다. 자리가 정해져 있으니, 검증 포인트도 미리 정할 수 있습니다.\n강의실에서 채점을 하다 보면 이 차이를 매번 봅니다. 에러가 난 학생은 적어도 자기 코드가 틀렸다는 사실만큼은 확실히 압니다. 반대로 코드가 돌아간 학생은 대부분 맞았다고 확신합니다. 그래서 동작하는데 잘못된 코드가 훨씬 발견하기 어렵습니다. 틀렸다는 신호도 없고, 의심하는 사람도 없기 때문입니다.\n그림 2. AI가 볼 수 없는 세 가지가 조용한 오류의 주소지입니다.\n2. 첫 번째 자리 — 가장 큰 값이 \u0026lsquo;950\u0026rsquo;이 되는 이유 # CSV 파일에서 가격을 읽어 왔습니다. 가장 비싼 값을 찾아 달라고 하니 AI가 이렇게 짰다고 해 보겠습니다.\nprices = [\u0026#34;1200\u0026#34;, \u0026#34;950\u0026#34;, \u0026#34;15000\u0026#34;, \u0026#34;800\u0026#34;] print(max(prices)) 출력은 950입니다. 15000이 버젓이 있는데도 그렇습니다.\n파일에서 읽은 값은 따옴표가 붙은 문자열이고, 문자열의 크기 비교는 숫자가 아니라 사전 순서로 이루어집니다. 사전에서 \u0026lsquo;9\u0026rsquo;로 시작하는 단어가 \u0026lsquo;1\u0026rsquo;로 시작하는 단어보다 뒤에 오듯, \u0026quot;950\u0026quot;이 \u0026quot;15000\u0026quot;보다 큰 값으로 판정됩니다. 계산은 성공했고, 결과만 틀렸습니다.\nAI가 이런 코드를 짜는 이유는 단순합니다. AI는 내 파일을 열어 보지 못합니다. 값이 숫자인지 문자열인지는 가정할 수밖에 없고, 그 가정이 어긋나도 파이썬은 친절하게 계산을 계속해 줍니다. 데이터가 네 개면 눈으로 잡아내지만, 네 시간짜리 데이터가 4만 행이면 아무도 눈치채지 못합니다.\n잡는 법은 한 줄입니다. 계산 전에 type()으로 값 하나의 정체를 찍어 보거나, float() 변환이 들어 있는지 확인합니다.\n3. 두 번째 자리 — 7일 평균인데 6일만 계산됩니다 # 최근 7일 기온의 평균을 구하는 코드입니다.\ntemps = [27, 29, 31, 30, 28, 26, 25] week = temps[0:6] print(sum(week) / 7) 출력은 24.42... — 그럴듯합니다. 정답은 28.0입니다.\n파이썬의 범위 자르기 [0:6]은 여섯 개를 가져옵니다. 끝 번호는 포함되지 않기 때문입니다. 마지막 날 25도는 조용히 빠졌는데, 나누기는 7로 했으니 평균이 이중으로 어긋났습니다. 그래도 코드는 멈출 이유가 없습니다.\n이런 경계 어긋남은 AI가 처음 짠 코드보다, AI 코드를 사람이 고치는 순간에 더 자주 생깁니다. \u0026ldquo;어제까지만\u0026rdquo;, \u0026ldquo;첫 주 빼고\u0026quot;처럼 요구를 바꾸다 보면 경계 하나가 밀리기 쉽고, 밀린 경계는 에러를 내지 않습니다. 머릿속 의도는 AI도 파이썬도 확인해 주지 않습니다.\n잡는 법도 한 줄입니다. len(week)를 찍어 개수를 세고, 첫 값과 끝 값이 내가 생각한 그 값인지 봅니다.\n4. 세 번째 자리 — 오류를 삼키는 try (도입 코드의 정답) # 이제 도입의 코드로 돌아가겠습니다. 위험한 곳은 이 두 줄입니다.\nexcept: pass \u0026ldquo;문제가 생기면 그냥 넘어가라\u0026quot;는 뜻입니다. 파일에 제목 줄이 있어도, 빈 줄이 있어도, 누가 \u0026ldquo;N/A\u0026quot;라고 적어 놓았어도 — 이 코드는 그 줄들을 소리 없이 버리고 남은 값으로만 평균을 냅니다. 천 줄 중 사백 줄이 버려져도 출력되는 것은 멀쩡한 숫자 하나입니다. 몇 줄이 버려졌는지는 아무도, 코드 자신조차 모릅니다.\n제 경험상 이 패턴은 특히 AI다운 오류입니다. AI는 \u0026ldquo;에러가 나지 않는 코드\u0026quot;를 요청받는다고 학습돼 있어서, 실패 상황을 마주하면 멈추고 알리는 쪽보다 감싸고 지나가는 쪽을 고르는 경향이 있습니다. 겉보기에는 더 안정적인 코드가 됐지만, 실제로는 틀렸다는 신호를 낼 통로를 코드 스스로 막아 버린 것입니다.\n그리고 버리는 것 못지않게 위험한 쪽이 잘못 채우는 것입니다. 많은 데이터 분석 실무에서 겪은 가장 뼈아픈 무음 오류도 여기서 나옵니다. 데이터 전처리에서 결측 구간을 보간으로 채웠는데, 그 보간에 양측 보간을 통해 미래 시점의 데이터가 섞여 든 것입니다. 이런 미래 정보 유입을 룩어헤드 바이어스(look-ahead bias)라고 부르는데, 역시 에러는 나지 않습니다. 대신 데이터가 그 지점부터 오염되고, 그 위에서 이어진 분석은 통째로 의미를 잃습니다. 실제로 예측 성능을 과대 평가 하게 됩니다. 저희는 보간이 들어간 분석에서 \u0026lsquo;채운 값이 어느 시점의 정보로 만들어졌는지\u0026rsquo;부터 확인합니다.\n잡는 법은 버리는 개수를 세는 것입니다. except에서 pass 대신 버린 줄 수를 하나씩 세어 마지막에 \u0026ldquo;몇 줄을 건너뛰었습니다\u0026quot;라고 출력하게만 해도, 이 오류는 조용할 수 없게 됩니다.\n5. 돌아간 코드 앞에서 묻는 30초 세 가지 # 세 자리를 한 번에 훑는 검증 루틴입니다. 코드를 읽을 줄 몰라도 시작할 수 있고, 파이썬 문법보다 먼저 익힐 가치가 있습니다.\n작은 입력으로 손계산과 맞춘다. 값 다섯 개짜리 데이터를 넣고, 암산한 답과 출력을 비교합니다. 4만 행에서는 숨는 오류가 다섯 행에서는 숨지 못합니다. 계산에 들어간 개수를 센다. len() 한 번이면 됩니다. 넣은 개수와 계산된 개수가 다르다면, 그 차이가 곧 조용한 오류의 자백입니다. 첫 값과 끝 값이 포함됐는지 본다. 경계 오류는 늘 양 끝에서 납니다. 처음과 끝만 확인해도 절반은 잡힙니다. 제가 결과를 받았을 때 실제로 가장 먼저 하는 확인도 이 중 하나입니다.\n그림 3. 돌아간 코드를 믿기 전에 묻는 세 가지입니다.\n\u0026ldquo;AI가 짠 코드를 어떻게 검증하죠?\u0026ldquo;라는 질문은 크게 들리지만, 시작은 이렇게 작습니다. 에러가 없다는 사실에 안심하지 않고, 30초를 들여 세 자리를 들여다보는 것. 이 습관이 지난 글에서 말한 \u0026lsquo;검증하는 능력\u0026rsquo;의 첫 근육입니다.\n그런데 코드가 시끄럽게 멈춰 버린 날은 어떻게 해야 할까요. 빨간 에러 메시지를 읽지 않고 통째로 AI에 붙여넣고 계셨다면 — 다음 글에서는 그 빨간 글자를 AI에게 묻기 전에 30초만 먼저 읽는 법을 다룹니다.\nAI 시대의 파이썬 기본기\n이전 글: AI가 코드를 다 짜주는데, 파이썬을 배워야 할까요 이 시리즈는 9월 출간 예정인 책 『AI 시대의 파이썬 기본기』와 같은 문제의식에서 출발했습니다.\n─────────────────────────────── 이해관계 및 책임 고지\n저자는 이 주제를 다룬 책 『AI 시대의 파이썬 기본기』(2026)의 저자입니다.\n이동현은 한국외국어대학교 Social Science \u0026amp; AI융합학부 교수이자 한국인공지능 주식회사(AI Korea Inc.)의 대표입니다. 이 글의 견해는 저자 개인의 것이며, 소속 기관이나 연구과제 발주처의 공식 입장이 아닙니다.\n이 글은 일반적인 정보 제공과 교육을 목적으로 합니다. 특정 사안에 대한 자문이나 정책 권고가 아니며, 실제 의사결정의 단독 근거로 사용될 수 없습니다.\n사실에 오류가 있다면 알려주십시오. ───────────────────────────────\n","date":"2026년 8월 21일","externalUrl":null,"permalink":"/posts/2026-08-25-ai-code-quiet-errors/","section":"글","summary":"에러 없이 끝난 코드는 검증된 코드가 아닙니다. AI가 짠 파이썬 코드에서 조용한 오류가 반복되는 세 자리(자료형 가정·범위의 경계·예외 삼킴)와 30초 검증 루틴을 정리합니다.","title":"AI가 짠 파이썬 코드, 돌아가는데 틀렸습니다 — 조용한 오류가 숨는 세 자리","type":"posts"},{"content":"지난 글에서는 MC Dropout과 딥 앙상블로 예측 불확실성의 일부를 추정하는 방법을 살펴봤습니다. 같은 입력을 여러 번 예측해 답들이 얼마나 벌어지는지 보는 방식이었습니다.\n그렇다면 AI가 학습 때 보지 못한 데이터를 만나면, 예측들이 알아서 더 벌어질까요?\n그러면 좋겠지만 보장은 없습니다. 열과 단위가 모두 맞고 결측값도 없는데 계절·지역·관측 방식의 조합만 학습 데이터에 거의 없는 입력에도, 모델은 오류 메시지 없이 답을 내고 불확실성도 평소와 비슷하게 보일 수 있습니다.\n그림 1. 입력이 낯설다는 사실과 모델이 스스로 조심한다는 사실은 같지 않습니다.\n이 질문은 제가 사용한 방법도 피하지 못합니다. 2024년 Journal of Cleaner Production에 발표한 연구에서 저는 ICNN에 MC Dropout을 결합해 PM10·PM2.5 예측값과 95% 불확실성 범위를 함께 산출했습니다.[1] 다만 불확실성 범위를 만들었다는 사실만으로 모든 계절·지역·관측 방식의 변화를 자동으로 알아챈다고 말할 수는 없어서, 제 방법에도 낯선 조건을 따로 재현하고 다시 검증하는 기준이 필요합니다.\n30초 핵심 # 이 글에서는 OOD를 개별 입력의 낯섦을 경고하는 관점으로, 데이터 분포 변화를 학습 환경과 운영 환경의 분포가 달라진 상태를 보는 관점으로 구분합니다. 입력·결과 비율·입력과 결과의 관계가 달라지는 변화는 서로 다른 문제이며, 불확실성이 자동으로 커진다는 보장은 없습니다. 배포 전 예상 변화를 재현하고, 성능과 불확실성을 함께 점검하며, 사람 검토와 재검증 기준을 정해야 합니다. 1. OOD와 데이터 분포 변화 # 데이터의 분포는 값의 평균만이 아니라, 어떤 값이 얼마나 자주, 어느 범위에서, 어떤 조합으로 나타나는지까지 포함합니다.\n데이터 분포 변화(dataset shift 또는 distribution shift)는 학습 데이터를 만든 패턴과 운영 데이터를 만든 패턴이 달라진 상태입니다. 분포 밖 데이터(Out-of-Distribution, OOD)는 보통 운영 입력이 기준으로 정한 in-distribution과 다른 분포에서 왔는지를 묻는 문제이고, 판정에는 기준 분포와 탐지 점수, 임계값이 함께 필요합니다.[5] 두 용어의 경계는 연구마다 조금씩 달라, 이 글은 다음 작업상 구분을 따릅니다.\n관점 주로 묻는 질문 단위 데이터 분포 변화 학습 환경과 지금의 데이터 생성 패턴이 달라졌는가 두 시기·두 데이터셋의 비교 OOD 탐지 지금 들어온 이 입력은 익숙한 범위 안에 있는가 개별 입력 또는 입력 묶음 둘은 겹치지만 같지 않습니다. 각 입력은 익숙해 보이는데 특정 조건의 비율만 서서히 바뀌어, 어느 한 건도 선명한 OOD 경보로 걸리지 않는 분포 변화도 있습니다.\nOOD 경보는 오답 판정이 아니라 낯섦의 신호입니다. 경보가 없다는 사실 역시 정답 보증서가 아닙니다.\n2. 무엇이 달라졌는가 — 입력·비율·관계 # 분포 변화는 무엇이 달라졌는가를 기준으로 나누면 이해하기 쉽습니다. 아래 표에서 입력은 X, 예측하려는 결과는 Y입니다.\n변화 무엇이 달라졌나 확인할 질문 단순화한 예 공변량 변화\n(covariate shift) X의 분포가 변함. X와 Y의 관계는 같다고 가정 예전보다 어떤 입력 조건이 더 자주 들어오는가 학습 때 드물던 온도·습도 조합이 운영 중 자주 나타남 결과 비율 변화\n(label-prior shift) 분류 결과 Y의 비율이 변함. 각 결과 안에서 X의 패턴은 같다고 가정 정상·주의 같은 결과 범주의 비율이 달라졌는가 주의 사례의 비율은 늘었지만, 주의 사례 안의 특징 패턴은 유지됨 관계 변화\n(이 글에서의 concept drift) 같은 X에서 Y의 조건부분포가 변함 같은 입력이 이제 다른 결과를 뜻하는가 결과 정의나 생성 메커니즘이 바뀌어 같은 관측값의 의미가 달라짐 공변량 변화는 학습 표본과 실제 대상의 입력 분포가 다른 문제로 오래 연구돼 왔고,[2] label shift는 분류 문제에서 결과 범주의 비율이 달라지되 각 범주 안의 입력 패턴은 유지된다는 가정을 둡니다.[3] Concept drift의 범위는 문헌마다 다른데, 이 글의 관계 변화는 그중 같은 X에 대한 Y의 조건부분포가 바뀌는 경우를 가리킵니다.[4]\n실제 변화는 이 세 칸에 깔끔하게 나뉘지 않고 겹칠 수 있습니다. 그래서 “드리프트가 감지됐다”는 한 문장만으로 원인을 확정하지 말고, 표의 질문을 차례로 확인해 무엇이 달라졌는지 좁혀야 합니다.\n특히 입력 데이터만 보고 이 글에서 말한 관계 변화가 없다고 확인할 수는 없습니다. 입력의 모양은 그대로인데 정답과의 관계만 바뀔 수 있고, 이런 변화는 실제 결과가 들어와야 드러나는 경우가 많습니다.\n그림 2. 분포 변화라는 한 이름 아래에서도 입력, 결과의 비율, 입력과 결과의 관계가 서로 다르게 바뀔 수 있습니다.\n3. 불확실성은 자동으로 커지지 않는다 # AI 모델은 “이 장면은 내 경험 밖이다”라고 성찰하지 않고 학습된 계산 규칙에 따라 숫자를 출력합니다. 일반적인 분류 신경망은 학습한 범주의 경계를 잘 나누도록 훈련될 뿐, 낯선 것을 찾아내는 능력이 자동으로 따라오지는 않습니다. Hendrycks와 Gimpel의 실험에서는 신경망이 틀린 사례나 OOD 사례에도 높은 softmax 점수를 낼 수 있었고, 그 점수 하나를 확신으로 곧바로 읽기 어렵다는 점을 보였습니다.[5] Hein과 동료들은 ReLU 계열 분류기의 특정 설정에서 학습 데이터에서 멀리 떨어진 영역에도 높은 확신의 예측이 나올 수 있음을 이론과 이미지 실험으로 분석했습니다.[6]\n그렇다면 MC Dropout이나 딥 앙상블은 어떨까요. 두 방법이 보여 주는 것은 계산 경로나 따로 학습된 모델들의 의견 차이인데, 모두 같은 학습 데이터와 비슷한 구조, 같은 예측 목표를 공유할 수 있습니다. 공유된 맹점이 있다면 여러 예측이 틀린 방향으로 모일 수도 있습니다. 실제로 Ovadia와 동료들이 이미지·문서·광고 클릭·유전체 분류 설정에서 여러 추정법을 분포 변화 아래 비교한 실험에서는 변화가 커질수록 정확도와 불확실성의 품질이 함께 나빠졌고, 딥 앙상블이 대부분 지표에서 비교적 강했지만 연구진은 개선할 여지가 크다고 결론 내렸습니다.[7]\n여러 번 예측해 불확실성을 계산하는 것과, 낯선 데이터에서 그 불확실성이 제대로 반응하는 것은 별도의 검증 문제입니다.\n제가 2024년 미세먼지 연구에서 사용한 MC Dropout도 이 원칙의 예외가 아닙니다. 그 논문이 보여 준 것은 해당 연구 설정에서의 결과이며,[1] 그 사실을 모든 지역·기간·관측 방식의 변화에 대한 자동 경보로 넓혀 말해서는 안 됩니다.\n그래서 운영에서는 다음 세 신호를 분리해 봐야 합니다.\n신호 답하는 질문 이것만으로 알 수 없는 것 입력 변화·OOD 점수 탐지기가 이 입력을 기준 데이터와 비교해 얼마나 비전형적으로 평가하는가 실제 예측이 틀렸는가 예측 불확실성 모델·경로의 답이 얼마나 흔들리는가 입력이 OOD인가, 범위가 현실의 오차와 맞는가 최근 정답 성적표 실제 성능·보정·구간 품질이 유지되는가 아직 정답이 들어오지 않은 현재 입력의 결과 OOD 점수는 보편적인 확률이나 공통 거리척도가 아니어서 사용한 탐지 방법·기준 데이터·임계값과 함께 해석해야 합니다. 세 신호가 어긋날 때가 더 중요합니다. 입력은 낯선데 불확실성은 낮거나 입력은 익숙한데 최근 오차가 커진다면, 사람이 검토하고 재검증하라는 신호입니다.\n4. 배포 전 스트레스 테스트 # 세상의 모든 낯선 데이터를 미리 모을 수는 없으니, 예상 가능한 변화부터 일부러 만들어 모델의 반응을 시험합니다. 배포 전 점검표는 다음과 같습니다.\n학습 범위를 한 장에 적습니다.\n기간, 지역·기관, 장비, 단위, 전처리, 결측 처리, 주요 변수 범위, 결과 정의를 기록해 “학습 데이터와 비슷함”을 실제 비교 항목으로 바꿉니다.\n예상 변화를 데이터 분할로 재현합니다.\n무작위 분할만 보지 않고 더 늦은 기간, 보지 않은 지역·기관, 다른 장비·수집 조건을 통째로 남겨 시험합니다.\n변화 유형별 강도를 여러 단계로 시험합니다.\n다만 이 강도는 변화 유형끼리 비교하는 공통 척도가 아니고, OOD 데이터셋 하나만 통과했다고 모든 낯선 입력에 대비한 것도 아닙니다.\n두 장의 성적표를 함께 봅니다.\n정확도·오차 같은 예측 성능이 첫 장, 확률의 보정과 예측구간의 포함률·폭이 둘째 장입니다. “틀렸는가”와 “모른다고 제대로 말했는가”는 다른 질문이기 때문입니다.\n경보 뒤의 행동을 미리 정합니다.\n어느 수준에서 추가 관측을 요청하고, 사람이 다시 보고, 자동 예측을 보류할지 정합니다. 임계값은 오경보·미탐지의 비용과 검토 인력에 따라 달라져 하나의 보편적 숫자는 없습니다.\n재검증 조건을 운영 기록에 넣습니다.\n새 계절·지역·장비 추가, 전처리·결과 정의 변경, 입력 변화 지속, 최근 성능·보정·구간 품질 이탈이 그 조건입니다. 재학습한 모델은 새 모델이므로 같은 절차를 반복합니다.\n그림 3. OOD 대응은 탐지 점수 하나가 아니라 변화 시나리오·두 성적표·행동 기준·재검증 조건을 묶는 일입니다.\n정답이 늦게 들어오는 과제라면 입력 변화·OOD 점수는 이른 경보, 정답이 쌓인 뒤의 실제 성능·불확실성 품질은 지연 성적표입니다. 이른 경보만으로 재학습을 결정하기보다 무엇이 바뀌었는지 살피고 최근 정답으로 성능 저하를 확인하며, 입력 경보가 조용해도 정답 성적표가 무너지면 재검증해야 합니다.\n마무리 # AI가 낯선 데이터를 만나면 정말 “모른다”고 말할까요. 답은 방법 이름만으로는 알 수 없다입니다. MC Dropout·딥 앙상블도 OOD 탐지도 유용하지만, 어느 것도 계절·지역·관측 방식이 바뀐 현장에서 자동으로 작동한다는 보증서는 아닙니다.\n그래서 저는 “우리 모델은 모를 때 안다”는 소개 문구보다 “어떤 변화를 낯설다고 볼지 정했고, 그 변화에서 성능과 불확실성을 함께 시험했으며, 기준을 벗어나면 사람이 검토하고 다시 검증한다”는 운영 기록을 더 신뢰합니다.\n관련 글 # AI는 ‘모른다’를 어떻게 계산할까 — MC Dropout과 딥 앙상블의 차이 AI 예측은 왜 ‘하나의 숫자’로 답하면 안 될까 — 점추정에서 신뢰구간의 시대로 출처 # [1] Lee, D., \u0026amp; Lee, B. (2024). Building reliable AI for quantifying uncertainty in particulate matter predictions with deep learning. Journal of Cleaner Production, 473, 143457. https://doi.org/10.1016/j.jclepro.2024.143457\n[2] Shimodaira, H. (2000). Improving predictive inference under covariate shift by weighting the log-likelihood function. Journal of Statistical Planning and Inference, 90(2), 227–244. https://doi.org/10.1016/S0378-3758(00)00115-4\n[3] Lipton, Z. C., Wang, Y.-X., \u0026amp; Smola, A. J. (2018). Detecting and Correcting for Label Shift with Black Box Predictors. Proceedings of the 35th International Conference on Machine Learning, PMLR 80, 3122–3130. https://proceedings.mlr.press/v80/lipton18a.html\n[4] Widmer, G., \u0026amp; Kubat, M. (1996). Learning in the Presence of Concept Drift and Hidden Contexts. Machine Learning, 23, 69–101. https://doi.org/10.1023/A:1018046501280\n[5] Hendrycks, D., \u0026amp; Gimpel, K. (2017). A Baseline for Detecting Misclassified and Out-of-Distribution Examples in Neural Networks. International Conference on Learning Representations. https://openreview.net/forum?id=Hkg4TI9xl\n[6] Hein, M., Andriushchenko, M., \u0026amp; Bitterwolf, J. (2019). Why ReLU Networks Yield High-Confidence Predictions Far Away From the Training Data and How to Mitigate the Problem. Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition, 41–50. https://openaccess.thecvf.com/content_CVPR_2019/html/Hein_Why_ReLU_Networks_Yield_High-Confidence_Predictions_Far_Away_From_the_CVPR_2019_paper.html\n[7] Ovadia, Y. et al. (2019). Can You Trust Your Model\u0026rsquo;s Uncertainty? Evaluating Predictive Uncertainty Under Dataset Shift. Advances in Neural Information Processing Systems 32. https://proceedings.neurips.cc/paper_files/paper/2019/hash/8558cb408c1d76621371888657d2eb1d-Abstract.html\n저자는 이 분야에서 AI Korea를 통해 관련 서비스를 제공하고 있습니다. 이 글은 특정 제품·서비스의 홍보가 아닙니다.\n예측 결과는 언제나 불확실성을 포함합니다. 방역·환경 정책 의사결정의 단독 근거가 될 수 없습니다.\n─────────────────────────────── 이해관계 및 책임 고지\n이동현은 한국외국어대학교 Social Science \u0026amp; AI융합학부 교수이자 한국인공지능 주식회사(AI Korea Inc.)의 대표입니다. 이 글의 견해는 저자 개인의 것이며, 소속 기관이나 연구과제 발주처의 공식 입장이 아닙니다.\n이 글은 일반적인 정보 제공과 교육을 목적으로 합니다. 특정 사안에 대한 자문이나 정책 권고가 아니며, 실제 의사결정의 단독 근거로 사용될 수 없습니다.\n사실에 오류가 있다면 알려주십시오. ───────────────────────────────\n","date":"2026년 8월 16일","externalUrl":null,"permalink":"/posts/2026-08-16-dataset-shift-ood/","section":"글","summary":"학습 때와 다른 데이터를 만나도 AI의 불확실성이 자동으로 커지는 것은 아닙니다. OOD와 세 가지 분포 변화를 구분하고, 스트레스 테스트와 재검증 기준을 정리합니다.","title":"AI는 낯선 데이터를 만나면 정말 ‘모른다’고 말할까 — 데이터 분포 변화와 OOD","type":"posts"},{"content":"AI가 코드를 짜 주는 시대에 사람은 무엇을 공부해야 할까요.\n그 답을 AI ERA SERIES라는 이름의 책으로 정리하고 있습니다.\nAI ERA SERIES 01\nAI 시대의 파이썬 기본기 경험 제로에서 시작하는 첫 파이썬 수업\nAI가 코드를 다 짜 주는 시대, 그 코드를 그대로 믿어도 될까요? 따라 치기 전에 출력부터 예측하는 훈련으로, AI가 낸 코드를 읽고 검증할 수 있는 기본기를 만듭니다.\n2026년 9월 1일 2026년 9월 18일 출간 예정 — 마지막 퇴고 중 · 장별 예제 코드는 출간과 함께 GitHub에 공개됩니다.\nAI ERA SERIES 02\nAI 시대의 파이썬 데이터 시각화 차트 한 장에서 대시보드 배포까지\nAI가 차트를 다 그려 주는 시대, 무엇을 보여줄지는 누가 정할까요? 그리기 전에 보여줄 하나를 정하는 원칙으로, matplotlib부터 대시보드 배포까지 다룹니다.\n2026년 9월 1일 2026년 9월 18일 출간 예정 — 마지막 퇴고 중 · 예제 코드·대시보드는 출간과 함께 GitHub에 공개됩니다.\n출간 소식과 예제 코드 링크는 출간일에 이 페이지에서 안내합니다. 각 책의 정오표도 여기에서 관리할 예정입니다.\n","date":"2026년 8월 16일","externalUrl":null,"permalink":"/books/","section":"이동현의 신뢰할 수 있는 AI 노트","summary":"AI ERA SERIES — AI 시대에 무엇을 어떻게 공부해야 하는지를 다루는 책 시리즈.","title":"도서","type":"page"},{"content":"새로운 감염병이 막 퍼지기 시작한 시점을 상상해 보겠습니다. 앞으로의 발생 추이를 내다보는 AI 예측 모델이 필요합니다. 그런데 정작 학습에 쓸 자국 데이터는 몇 주치밖에 없습니다.\n이럴 때 쓰는 방법이 전이학습(transfer learning)입니다. 다른 나라에서 이미 쌓인 데이터로 모델을 미리 학습시킨 뒤, 우리 데이터에 맞게 다듬는 방식입니다.\n그러면 다음 질문이 생깁니다. 어느 나라의 데이터에서 배워야 할까요?\n우리와 비슷한 나라를 고르는 것이 당연해 보입니다. 유행 곡선이 닮은 나라의 경험이라야 우리에게도 잘 옮겨질 것 같습니다.\n30개국을 놓고 확인해 보니, 반대였습니다.\n그림 1. 자국 데이터가 없는 시점의 감염병 예측은 \u0026lsquo;누구에게서 배울 것인가\u0026rsquo;를 고르는 문제에서 시작합니다.\n이 글은 제가 단독저자로 Expert Systems with Applications(IF 9.4)에 발표한 논문[1]을 일반 독자용으로 풀어 쓴 것입니다. 가을에 시작할 \u0026lsquo;감염병을 예측한다는 것\u0026rsquo; 시리즈의 예고편이기도 합니다.\n30초 핵심 # 다른 나라 데이터로 감염병 예측 모델을 학습할 때, 가장 \u0026lsquo;다른\u0026rsquo; 나라에서 배운 모델이 가장 \u0026lsquo;비슷한\u0026rsquo; 나라에서 배운 모델보다 일관되게 나았습니다. 이득은 유사도에 비례하지 않았습니다. 가장 이질적인 구간에서만 통계적으로 유의한 개선이 나왔습니다. 자국 데이터가 없는 신종 감염병 초기에 쓸 수 있는 선택지입니다. 단, 검증 조건이 제한적이라는 한계도 그대로 읽어야 합니다. 1. 왜 남의 나라 데이터가 필요할까 — 신종 감염병 초기의 데이터 공백 # 딥러닝 모델은 데이터를 먹고 자랍니다. 데이터가 충분하면 강력하지만, 데이터가 없으면 아무리 좋은 구조라도 배울 것이 없습니다.\n신종 감염병의 초기가 정확히 그런 상황입니다. 예측이 가장 절실한 시점과, 데이터가 가장 부족한 시점이 겹칩니다. 감염병 예측 모델을 만들다 보면 가장 아쉬운 것이 바로 이 초기 데이터입니다. 새로운 감염병이 나타난 시점에는 그 감염병의 자국 데이터가 아직 쌓여 있지 않습니다.\n전이학습은 이 공백을 메우는 방법 가운데 하나입니다. 외국어를 하나 익힌 사람이 두 번째 외국어를 더 빨리 배우는 것과 비슷합니다. 문장을 처음부터 배우는 대신, \u0026lsquo;언어란 대체로 이렇게 움직인다\u0026rsquo;는 감각을 이미 갖고 시작하는 것입니다. 모델도 마찬가지로, 다른 나라의 유행 데이터로 미리 배운 뒤 우리 데이터로 마무리 학습을 합니다.\n문제는 그 \u0026lsquo;다른 나라\u0026rsquo;를 고르는 기준입니다. 여기서 대부분의 직관은 한 방향을 가리킵니다. 우리와 비슷한 나라. 저 역시 이 질문을 자주 받았습니다. \u0026ldquo;전이학습은 당연히 우리와 비슷한 데이터에서 해야 하는 것 아닌가요?\u0026rdquo;\n그 \u0026lsquo;당연히\u0026rsquo;를 데이터로 확인해 본 것이 이번 연구입니다.\n2. \u0026lsquo;비슷한 나라\u0026rsquo;가 당연해 보입니다 — 30개국에서 나온 반대 결과 # 실험 설계는 이렇습니다. COVID-19 30개국의 1,143일치(2020년 1월 22일 ~ 2023년 3월 9일) 공개 데이터를 사용했습니다. 존스홉킨스대학의 집계(JHU CSSE)와 Our World in Data(OWID)가 출처입니다.[2][3]\n각 목표 국가마다 소스 국가 4개를 골라 모델을 사전학습시킨 뒤, 목표 국가 데이터로 마무리 학습을 했습니다. 나라 사이의 유사도는 DTW(dynamic time warping)라는 거리로 쟀습니다. 두 시계열 곡선의 모양이 얼마나 닮았는지를 재는 방법입니다.\n그리고 소스를 고르는 전략을 비교했습니다. 목표 국가와 가장 비슷한 나라 4개, 가장 다른 나라 4개, 무작위 4개, 그리고 전이학습 없이 자국 데이터만 쓰는 개별 모델. 모델 자체는 TCN이라는 가벼운 시계열 신경망 하나로 통일했습니다.\n결과부터 말씀드리면 이렇습니다.\n가장 다른 나라들에서 배운 모델(이질적 전이학습)이, 자국 데이터만 학습한 개별 모델 대비 예측 오차(RMSE)를 약 40% 줄였습니다(52.5 → 31.5). RMSE는 예측이 실제에서 평균적으로 얼마나 벗어났는지를 나타내는 오차 지표로, 낮을수록 좋습니다.\n상대 지표로 봐도 마찬가지입니다. 오차를 실제 데이터의 출렁임(표준편차)에 견준 값(RMSE/SD)이 0.37로, 개별 모델들의 0.62~0.75보다 낮았습니다. 실제 변동을 얼마나 설명하는지 나타내는 R²는 0.82였습니다.\n이 차이가 우연인지도 확인했습니다. 30개 나라 각각에서 두 방법의 오차를 짝지어 비교하는 Wilcoxon 부호순위검정을 쓰면, 개별 모델들과의 차이는 모두 p\u0026lt;.001, 무작위로 소스를 고른 전이학습과의 차이는 p=.009, 그리고 비슷한 나라를 고른 전이학습과의 차이도 p\u0026lt;.001이었습니다. p값은 \u0026lsquo;이 정도 차이가 우연히 나올 법한 정도\u0026rsquo;를 나타내는 눈금으로, 관례적으로 0.05보다 작으면 우연으로 보기 어렵다고 판단합니다.\n정리하면, 비슷한 나라에서 배우는 것이 나쁜 선택은 아니었지만, 가장 다른 나라에서 배우는 쪽이 일관되게 더 나았습니다. 통념과 반대 방향입니다.\n3. 더 이상한 발견 — 이득이 \u0026lsquo;가장 다른\u0026rsquo; 구간에만 몰렸습니다 # 여기까지라면 \u0026ldquo;다를수록 좋다\u0026quot;는 새 직관으로 갈아타면 될 것 같습니다. 그런데 데이터는 그것도 허락하지 않았습니다.\n소스 국가들을 목표 국가와의 이질성 기준으로 네 구간(사분위)으로 나눠 봤습니다. Q1이 가장 유사한 구간, Q4가 가장 이질적인 구간입니다. 30개국 평균 예측 오차(RMSE)는 이렇게 나왔습니다.\n구간 Q1 (가장 유사) Q2 Q3 Q4 (가장 이질적) 평균 RMSE 35.29 34.26 34.21 31.00 Q1, Q2, Q3는 통계적으로 서로 구분되지 않았습니다. 오직 Q4만 Q1 대비 오차가 12.1% 낮았고, 이 차이만 유의했습니다(p=.008).\n그림 2. 소스 국가를 이질성 기준 네 구간으로 나누면, 유의한 오차 감소는 가장 이질적인 Q4에서만 나타났습니다. 세로축은 0에서 시작합니다.\n그림의 세로축은 0에서 시작합니다. 그래서 낙폭이 극적으로 보이지 않는데, 그것이 정확한 인상입니다. 축을 잘라 차이를 부풀리는 것은 이 블로그가 반대하는 바로 그 습관입니다. 완만하지만 통계적으로는 분명한 차이, 그것이 이 결과의 크기입니다.\n이득이 유사도 눈금을 따라 서서히 늘어난 것이 아니라 극단에만 몰렸다는 점이 이 연구에서 제일 이상하고, 제일 흥미로운 부분입니다. 조금 다른 것은 도움이 되지 않았습니다. 아주 다를 때에만 도움이 됐습니다.\n직관과 반대인 결과일수록, 직관이 아니라 데이터로 확인하는 일이 중요해집니다.\n4. 제 해석 — 비슷한 나라끼리는 \u0026lsquo;사투리\u0026rsquo;까지 함께 배웁니다 # 여기서 사실과 해석을 구분하겠습니다. 논문이 데이터로 확인한 사실은 3절까지입니다. 왜 하필 가장 이질적인 구간에서만 이득이 몰리는지, 그 메커니즘은 논문도 아직 설명하지 못했습니다.\n그 위에서, 제 해석은 이렇습니다.\n표준어를 배우고 싶은 사람이 한 지방 사람들에게만 말을 배우면, 그 지방의 사투리까지 표준어인 줄 알고 함께 익히게 됩니다. 비슷한 나라만 모아 학습한 모델도 마찬가지 아닐까 합니다. 그 나라들이 우연히 공유하는 국지적 습관 — 집계 방식, 보고 주기, 유행이 지나간 시점 같은 것들 — 까지 전파의 일반 법칙인 것처럼 함께 외우는 것입니다. 반대로 충분히 이질적인 데이터가 섞이면, 그 모든 차이를 뚫고 살아남는 전파의 공통 문법만 남습니다.\n이 설명은 결과와 잘 들어맞지만, 어디까지나 결과에 들어맞는 가설이지 논문이 입증한 메커니즘이 아닙니다. 여기서부터가 다음 연구입니다.\n실무 관점에서 덧붙일 점이 두 가지 있습니다. 첫째, 이 방법은 자국 데이터가 아직 쌓이지 않은 신종 감염병 초기에 실제로 집어 들 수 있는 선택지입니다. 둘째, 이 결과는 무거운 파운데이션 모델이 아니라 가벼운 TCN 하나로 얻었습니다. 계산 자원이 제한된 현장에서는 이 차이가 작지 않습니다.\n5. 한계를 그대로 읽기 — 이 잣대는 제가 만드는 모델에도 적용됩니다 # 이제 이 결과를 어디까지 믿어야 하는지 말씀드릴 차례입니다. 한계는 분명합니다.\n첫째, 평가 구간이 팬데믹 후기의 저발생 시기 한 구간입니다. 발생이 폭증하던 시기에도 같은 결론이 나올지는 검증되지 않았습니다.\n둘째, 하루 앞 예측만 검증했습니다. 일주일 앞, 한 달 앞을 내다볼 때도 이질적 전이의 이득이 유지되는지는 이 논문이 답하지 못합니다.\n셋째, 방금 말씀드린 대로 왜 이득이 극단에 몰리는지 설명하지 못했습니다. 작동하는 이유를 모르는 방법은, 조건이 바뀌었을 때 언제 작동을 멈출지도 예측하기 어렵습니다.\n그림 3. 이 연구의 평가는 팬데믹 후기 저발생 시기 한 구간, 하루 앞 예측에서 이뤄졌습니다. 결과에는 이 조건이 함께 붙습니다.\n그리고 이 세 가지 질문은 저 자신에게 그대로 돌아옵니다. 저는 논문 속에서만이 아니라 현장에서도 감염병 예측 모델을 만들고 있습니다. 어느 구간의 데이터로 검증했는가. 몇 걸음 앞 예측까지 검증했는가. 왜 잘 되는지 설명할 수 있는가. 이 글이 논문 한 편에 들이댄 잣대를, 제가 현장에서 만드는 다른 예측 모델들이 자동으로 통과하는 것은 아닙니다. 같은 질문 앞에 같은 방식으로 세워야 합니다.\n그래서 이 글에서 저장해 가실 것은 숫자 하나가 아니라 판단 기준 하나입니다.\n\u0026lsquo;당연한\u0026rsquo; 데이터 선택일수록 검증하십시오. 직관은 가설이지, 근거가 아닙니다.\n그림 4. 직관은 가설이지, 근거가 아닙니다. 당연해 보이는 선택일수록 검증이 필요합니다.\n마무리 # 가장 비슷한 나라가 아니라 가장 다른 나라에서 배운 모델이 나았고, 그 이득은 극단에만 몰렸으며, 이 결과는 저발생기·하루 앞 예측이라는 조건 안에서 확인됐습니다. 결과와 조건을 한 문장으로 같이 기억해 주시면 좋겠습니다.\n가을부터는 \u0026lsquo;감염병을 예측한다는 것\u0026rsquo; 시리즈에서 이 질문을 본격적으로 다루려 합니다. 데이터가 부족한 상황에서 무엇을 근거로 예측하는지, 그리고 그 예측을 언제 믿고 언제 의심해야 하는지를 조류독감 시즌에 맞춰 이어가겠습니다.\n여러분의 분야에도 \u0026lsquo;너무 당연해서 한 번도 검증해 본 적 없는 선택\u0026rsquo;이 있지 않으신가요?\n관련 글 # AI는 \u0026lsquo;모른다\u0026rsquo;를 어떻게 계산할까 — MC Dropout과 딥 앙상블의 차이 AI 예측은 왜 \u0026lsquo;하나의 숫자\u0026rsquo;로 답하면 안 될까 — 점추정에서 신뢰구간의 시대로 출처 # [1] Lee, D. (2027). Heterogeneous transfer learning for robust infectious disease forecasting: A data-centric approach. Expert Systems with Applications, 332, 133728. https://doi.org/10.1016/j.eswa.2026.133728\n[2] Johns Hopkins University CSSE. COVID-19 Data Repository. https://github.com/CSSEGISandData/COVID-19\n[3] Our World in Data. Coronavirus Pandemic (COVID-19) Data. https://ourworldindata.org/coronavirus\n본문 속 모든 수치(RMSE 52.5→31.5, RMSE/SD 0.37, R² 0.82, 사분위 35.29/34.26/34.21/31.00, 12.1%, p값)는 [1]의 출판본에서 가져왔습니다.\n저자는 이 분야에서 AI Korea를 통해 관련 서비스를 제공하고 있습니다. 이 글은 특정 제품·서비스의 홍보가 아닙니다.\n예측 결과는 언제나 불확실성을 포함합니다. 방역·환경 정책 의사결정의 단독 근거가 될 수 없습니다.\n─────────────────────────────── 이해관계 및 책임 고지\n이동현은 한국외국어대학교 Social Science \u0026amp; AI융합학부 교수이자 한국인공지능 주식회사(AI Korea Inc.)의 대표입니다. 이 글의 견해는 저자 개인의 것이며, 소속 기관이나 연구과제 발주처의 공식 입장이 아닙니다.\n이 글은 일반적인 정보 제공과 교육을 목적으로 합니다. 특정 사안에 대한 자문이나 정책 권고가 아니며, 실제 의사결정의 단독 근거로 사용될 수 없습니다.\n사실에 오류가 있다면 알려주십시오. ───────────────────────────────\n","date":"2026년 8월 11일","externalUrl":null,"permalink":"/posts/2026-08-11-heterogeneous-transfer-learning/","section":"글","summary":"감염병 예측 전이학습에서 ‘비슷한 나라’가 아니라 ‘가장 다른 나라’의 데이터로 학습한 모델이 일관되게 나았습니다. 30개국 실험의 결과와, 그 결과에 붙는 한계를 함께 풀어 씁니다.","title":"데이터 없는 신종 감염병, AI는 어느 나라에서 배워야 할까 — 감염병 예측과 이질적 전이학습","type":"posts"},{"content":"이동현(이하 “운영자”)은 donghyunlee.kr 이용자의 개인정보를 중요하게 생각하며, 개인정보 보호법 등 관련 법령에 따라 다음과 같이 개인정보 처리방침을 공개합니다.\n이 방침은 donghyunlee.kr에 적용됩니다. 이 사이트는 회원가입, 댓글, 결제 또는 문의 양식을 운영하지 않습니다.\n1. 처리하는 개인정보와 목적 # 사이트 이용 분석 # 운영자는 사이트 이용 현황을 이해하고 콘텐츠와 이용 경험을 개선하기 위해 Google Analytics 4를 사용합니다. 관련 정보는 사이트 접속 시 자동으로 수집되며, 수집을 원하지 않는 경우 아래 5항의 방법으로 거부할 수 있습니다.\n처리 항목: 무작위로 생성된 클라이언트 식별자, 방문 페이지와 페이지 제목, 방문·상호작용 시각, 유입 경로, 브라우저·운영체제·기기·화면 정보, 대략적인 지역 처리 목적: 방문 통계 작성, 콘텐츠 이용 현황 분석, 사이트 개선 처리 방법: 사이트 접속 시 Google 태그와 퍼스트 파티 쿠키(_ga, _ga_\u0026lt;측정 ID\u0026gt;)를 통해 자동 수집 Google Analytics는 네트워크 통신과 대략적인 지역 산출 과정에서 IP 주소를 사용할 수 있으나, 개별 IP 주소를 기록하거나 저장하지 않는다고 안내합니다. 운영자는 Google Analytics에 이름, 이메일 주소, 전화번호 등 개인을 직접 식별할 수 있는 정보를 전송하지 않습니다.\n이메일 문의 # 이용자가 사이트에 표시된 이메일 주소로 직접 문의하는 경우, 이용자가 작성한 이메일 주소, 이름, 소속과 문의 내용이 처리될 수 있습니다. 해당 정보는 문의 확인과 답변을 위해서만 사용합니다. 민감정보나 불필요한 개인정보는 이메일에 포함하지 말아 주세요.\n문의가 연구실 또는 회사 업무에 해당하는 경우 운영자는 적절한 공식 연락 경로를 안내하며, 이용자의 별도 의사 없이 문의 내용을 다른 주체에게 전달하지 않습니다.\n2. 처리 및 보유 기간 # Google Analytics 사용자·이벤트 수준 데이터: 수집 시점부터 14개월 Google Analytics 쿠키: 쿠키가 생성된 시점부터 최대 14개월이며, 만료 기간을 방문 때마다 연장하지 않음 이메일 문의 정보: 문의 목적이 달성되면 지체 없이 삭제. 다만 계약, 분쟁 또는 관계 법령에 따라 보관할 필요가 있는 경우에는 해당 기간 동안 보관 Google Analytics의 표준 집계 보고서처럼 개인 식별자와 직접 연결되지 않는 통계는 Google 정책에 따라 더 오래 유지될 수 있습니다.\n3. Google Analytics와 국외 처리 # 사이트를 이용하면 다음과 같이 정보가 국외에서 처리될 수 있습니다.\n이전받는 자: Google LLC (1600 Amphitheatre Parkway, Mountain View, CA 94043, USA) 이전 국가: 미국 이전 항목: 위 “사이트 이용 분석” 항목 이전 시기와 방법: 사이트 이용 시 암호화된 네트워크를 통해 전송 이용 목적: Google Analytics 제공, 방문 통계 처리와 보고서 생성 보유·이용 기간: 사용자·이벤트 수준 데이터 14개월 거부 방법과 효과: 아래 5항의 방법으로 수집을 거부할 수 있습니다. 거부해도 사이트 이용에는 제한이 없습니다. Google의 데이터 처리 방식은 Google 서비스 사용 사이트의 정보 처리 안내에서 확인할 수 있습니다.\n4. 제3자 제공 및 처리 위탁 # 운영자는 이용자의 개인정보를 본래 목적을 넘어 제3자에게 제공하지 않습니다. 다만 이용자가 동의하거나 법령에 특별한 규정이 있는 경우는 예외입니다.\n사이트 이용 분석은 Google LLC가 제공하는 Google Analytics를 통해 처리됩니다. Google은 운영자의 설정과 Google Analytics 관련 계약 및 정책에 따라 분석 데이터를 처리합니다.\n5. 수집 거부 방법 # 다음 방법으로 Google Analytics의 정보 수집을 거부할 수 있습니다. 어느 방법을 사용해도 사이트 이용에는 제한이 없습니다.\n브라우저 설정에서 이 사이트의 쿠키를 차단하거나 삭제 브라우저의 추적 방지 기능 또는 사생활 보호(시크릿) 모드 사용 Google Analytics 차단 브라우저 부가기능 설치 6. 이용자의 권리와 행사 방법 # 이용자는 자신의 개인정보에 대해 열람, 정정, 삭제, 처리정지 또는 동의 철회를 요청할 수 있습니다. 요청은 아래 이메일로 보내 주세요. 운영자는 본인 확인이 필요한 경우 필요한 최소한의 정보를 요청할 수 있으며, 관련 법령에 따라 처리 결과를 안내합니다.\n7. 개인정보 보호와 문의 # 개인정보 처리자 및 담당자: 이동현 이메일: donghyunlee.ai@gmail.com 운영자는 개인정보에 대한 접근을 필요한 범위로 제한하고, 사이트와 이메일 계정에 적용 가능한 보안 조치를 유지합니다.\n8. 처리방침 변경 # 이 방침의 내용이 변경되면 변경 사항과 시행일을 이 페이지에 공개합니다.\n시행일: 2026년 7월 27일 개정일: 2026년 8월 24일 (Google Analytics 보유 기간을 2개월에서 14개월로, 쿠키 수명을 60일에서 최대 14개월로 변경. 동의 배너 방식에서 고지 및 거부 안내 방식으로 변경) ","date":"2026년 7월 27일","externalUrl":null,"permalink":"/privacy/","section":"이동현의 신뢰할 수 있는 AI 노트","summary":"donghyunlee.kr의 개인정보 처리와 Google Analytics 이용 안내.","title":"개인정보 처리방침","type":"page"},{"content":"같은 미세먼지 자료를 같은 AI 모델에 넣었습니다. 그런데 예측할 때마다 결과가 조금씩 달라집니다.\n모델이 고장 난 것일까요.\nMC Dropout에서는 이 차이를 일부러 만듭니다. 한 번은 41, 다음에는 44, 또 다음에는 39가 나왔다면, 그 값들이 얼마나 퍼져 있는지를 보고 모델의 불확실성을 가늠합니다.\n저는 이 방법을 실제 미세먼지 예측 연구에 사용했습니다. 2024년 Journal of Cleaner Production에 발표한 논문에서 ICNN이라는 딥러닝 모델에 MC Dropout을 결합해 PM10·PM2.5 예측값과 불확실성 범위를 함께 산출했습니다.[5]\n그렇다고 MC Dropout이 언제나 가장 좋은 방법이라는 뜻은 아닙니다. 비슷한 목적으로 널리 쓰이는 딥 앙상블(Deep Ensembles)도 있습니다. 둘 다 여러 예측을 모으지만, 여러 예측을 만드는 방식은 전혀 다릅니다.\n그림 1. 같은 ‘여러 번의 예측’이라도 무엇을 바꾸며 반복하는지가 다릅니다.\n30초 핵심 # 베이지안 딥러닝은 큰 틀이고, MC Dropout은 그 틀을 근사하는 한 방법입니다. MC Dropout은 한 모델의 경로를 바꾸고, 딥 앙상블은 여러 모델을 따로 학습해 예측 차이를 만듭니다. 예측이 흔들린다는 사실과 그 흔들림이 현실의 오류를 정직하게 반영한다는 사실은 다릅니다. [1] 먼저 비교의 지도를 바로잡습니다 # 같은 입력에서 다른 답을 일부러 만들 수 있습니다.\n보통은 같은 모델에 같은 입력을 넣으면 같은 답이 나올 것이라 기대합니다. 불확실성을 추정할 때는 이 규칙을 의도적으로 흔듭니다. 가능한 모델이나 경로를 여러 번 살펴보고 답들이 얼마나 모이거나 흩어지는지 확인합니다.\n보통의 딥러닝은 가장 그럴듯한 가중치 한 묶음을 배웁니다.\n신경망은 학습을 거치며 수많은 가중치를 조정합니다. 일반적인 예측에서는 학습이 끝난 가중치 한 묶음을 사용해 답 하나를 냅니다. 그 답을 만든 모델 외에 다른 가능한 모델들이 어떤 답을 냈을지는 화면에 나타나지 않습니다.\nAI가 모르는 이유는 하나가 아닙니다.\n측정 오차나 우연한 변동처럼 데이터 자체에서 오는 불확실성을 데이터 불확실성(aleatoric uncertainty)이라고 합니다. 학습 자료가 부족하거나 낯선 조건을 만나 모델이 잘 모르는 경우는 모델 불확실성(epistemic uncertainty)에 가깝습니다.[1] 두 종류를 현실에서 완벽히 분리하기는 어렵지만, MC Dropout과 딥 앙상블의 예측 차이는 주로 모델 쪽의 모름을 살피는 단서로 쓰입니다.\n베이지안 딥러닝과 MC Dropout은 경쟁 관계가 아닙니다.\n베이지안 딥러닝은 가중치나 함수 하나를 확정하기보다, 데이터에 비추어 가능한 여러 가중치나 함수를 분포로 다루는 큰 접근법입니다. MC Dropout은 dropout 신경망을 이용해 이 베이지안 추론을 계산 가능한 방식으로 근사하는 방법으로 제안됐습니다.[2] 따라서 둘을 A 대 B의 선택지로 놓으면 큰 범주와 그 안의 한 방법을 비교하게 됩니다.\nMC Dropout과 비교하려면 딥 앙상블이 더 자연스럽습니다.\n딥 앙상블도 예측을 여러 개 만든 뒤 그 차이로 불확실성을 살핍니다. 다만 명시적인 사후분포를 근사하는 대신, 여러 신경망을 처음부터 따로 학습시킵니다. 원 논문은 이를 근사 베이지안 신경망의 실용적 대안으로 제시했습니다.[3]\n[2] MC Dropout은 한 모델에서 여러 의견을 만듭니다 # 원래 dropout은 과적합을 줄이기 위한 학습 방법입니다.\n학습할 때 신경망의 일부 유닛을 무작위로 쉬게 합니다. 늘 같은 유닛 조합에만 기대지 못하게 만드는 것입니다. 여러 팀이 한 문제를 번갈아 풀게 해 특정 사람 한 명에게 모든 일이 몰리는 것을 막는 모습과 비슷합니다.[4]\n보통은 예측할 때 dropout을 끕니다.\n학습 중에는 일부 유닛을 무작위로 쉬게 하지만, 일반적인 추론에서는 dropout을 끄고 하나의 안정된 계산 경로를 사용합니다. 그래서 같은 입력에 같은 답이 나옵니다.\nMC Dropout은 예측할 때도 dropout을 켜 둡니다.\n여기서 MC는 Monte Carlo의 약자입니다. 무작위 표본을 여러 번 뽑아 알고 싶은 값을 근사하는 방식입니다. 예측할 때마다 쉬는 유닛의 조합이 달라지므로, 한 모델 안에서 조금씩 다른 가상 모델을 꺼내 보는 효과가 생깁니다.\n여러 예측의 평균은 답이 되고, 퍼짐은 모름의 단서가 됩니다.\n같은 입력을 여러 번 통과시키면 예측값들이 모입니다. 그 평균이나 중앙값을 대표 예측으로 쓰고, 값들이 퍼진 정도를 불확실성의 지표로 사용할 수 있습니다. 반복 횟수를 늘리면 이 표본 계산의 흔들림은 줄어들지만, 원래 모델의 편향이나 잘못된 가정까지 사라지는 것은 아닙니다.\n저는 미세먼지 예측에서 이 구조를 사용했습니다.\n2024년 논문에서는 대기질과 기상 자료를 다차원 격자로 구성하고, ICNN에 MC Dropout을 결합해 PM10·PM2.5 농도와 95% 불확실성 범위를 함께 산출했습니다.[5] 목표는 예측값 하나만 내놓지 않고 그 예측이 얼마나 흔들릴 수 있는지도 보여 주는 것이었습니다. 다만 이 연구에서 MC Dropout을 사용했다는 사실은 이 방법이 모든 지역·기간·환경 모델에서 최선이라는 뜻이 아닙니다. 제가 사용한 방법에도 이 글에서 설명하는 검증 기준이 똑같이 적용됩니다.\n[3] 딥 앙상블은 여러 모델의 의견을 모읍니다 # 딥 앙상블은 모델을 여러 개 따로 학습합니다.\n전형적인 딥 앙상블은 같은 구조의 신경망 여러 개를 서로 다른 초기값으로 시작해 각각 최적화합니다. 같은 학습 자료를 사용하더라도 출발점과 미니배치 순서 등이 달라지면 최종 가중치는 조금씩 달라질 수 있습니다.\n여러 모델은 같은 문제를 푼 서로 다른 팀과 비슷합니다.\nMC Dropout이 한 팀의 구성원을 조금씩 바꾸며 여러 번 묻는 방식이라면, 딥 앙상블은 여러 팀을 처음부터 따로 훈련한 뒤 같은 질문을 던지는 방식에 가깝습니다. 여러 팀의 답이 비슷하면 한 방향으로 모이고, 크게 다르면 모델 선택에 따른 불확실성이 크다는 신호가 됩니다.\n평균만 보지 말고 모델 사이의 의견 차이도 봅니다.\n여러 모델의 예측을 평균하면 하나의 최종 예측을 만들 수 있습니다. 동시에 모델들의 답이 얼마나 벌어지는지도 계산할 수 있습니다. 다만 모두가 비슷한 데이터와 구조를 공유하므로, 여러 모델이 같은 답을 냈다고 그 답이 반드시 맞는 것은 아닙니다.\n그림 2. MC Dropout은 학습된 모델 안에서 경로를 바꾸고, 딥 앙상블은 학습 자체를 여러 번 반복합니다.\n딥 앙상블은 학습·저장 비용이 더 큽니다.\n모델이 다섯 개라면 전형적으로 학습도 다섯 번, 저장도 다섯 개가 필요합니다. 반면 MC Dropout은 학습하고 저장할 모델이 하나라는 장점이 있습니다. 그러나 예측 단계에서는 MC Dropout도 여러 번 순전파해야 하므로, 모델 하나니까 추론도 한 번은 아닙니다. 두 방법 모두 병렬 처리 여부와 응답 시간 조건을 함께 봐야 합니다.\n딥 앙상블은 강한 기준선이지만 만능 정답은 아닙니다.\n딥 앙상블 원 논문의 분류·회귀 실험에서는 불확실성 품질이 근사 베이지안 신경망과 비슷하거나 더 좋은 결과를 보였고, 분포 밖 입력에서 더 큰 불확실성을 표현하는 실험도 제시됐습니다.[3] 이것은 딥 앙상블이 언제나 MC Dropout보다 낫다는 증명이 아닙니다. 데이터, 구조, 학습 예산과 평가 방법이 바뀌면 순위도 달라질 수 있습니다.\n[4] 방법을 고른 뒤에는 불확실성을 다시 검증해야 합니다 # 두 방법의 차이는 이 표로 줄일 수 있습니다.\n비교 MC Dropout 딥 앙상블 전형적인 학습 모델 1개 모델 여러 개 저장 가중치 1묶음 가중치 여러 묶음 반복 예측 dropout mask를 바꾸며 여러 번 각 모델로 한 번 이상 다양성의 출처 한 모델 안의 다른 경로 따로 학습된 여러 모델 대표 장점 기존 dropout 구조에 적용하기 비교적 쉬움 강한 경험적 기준선 대표 부담 반복 추론·dropout 설계 의존 학습·저장 비용 여기서 반복 횟수나 모델 수에 하나의 정답은 없습니다. 과제의 정확도, 지연 시간과 불확실성 품질을 함께 보며 정해야 합니다.\n예측이 흔들린다는 것과 그 흔들림이 정직하다는 것은 다릅니다.\n어떤 모델이 넓은 범위를 냈다고 해서 그 범위가 자동으로 현실의 오차를 잘 담는 것은 아닙니다. 반대로 좁은 범위가 나왔다고 정말 확실한 것도 아닙니다. 불확실성을 만들어 내는 일과, 그 불확실성이 실제 빈도와 맞는지 확인하는 보정(calibration)은 별도의 작업입니다.\n낯선 데이터에서 정말 더 조심하는지 확인해야 합니다.\n계절, 지역, 관측 장비가 바뀌면 학습 때와 다른 데이터가 들어올 수 있습니다. 대규모 비교 연구에서는 이런 분포 변화가 커질수록 정확도뿐 아니라 불확실성 추정과 보정도 나빠질 수 있었습니다.[6] 최근 한 연구도 해당 실험 설정에서 MC Dropout이 보간·외삽 영역의 커진 불확실성을 충분히 반영하지 못한 사례를 보고했습니다.[7] 한 연구로 모든 MC Dropout을 부정할 수는 없지만, 낯선 입력이면 알아서 불안해할 것이라고 가정해서도 안 됩니다.\n모델에는 두 장의 성적표가 필요합니다.\n첫 번째는 예측값이 얼마나 맞았는지를 보여 주는 성적표입니다. 두 번째는 불확실성 범위가 실제값을 얼마나 자주 포함했는지, 그 범위가 지나치게 넓지는 않았는지 보여 주는 성적표입니다. 예측 오차가 작아도 불확실성을 지나치게 작게 말할 수 있고, 포함률을 높이기 위해 쓸모없이 넓은 범위만 낼 수도 있습니다.\n방법 이름보다 선택 조건을 먼저 적어야 합니다.\n기존 모델에 dropout이 있고 빠르게 기준선을 만들려면 MC Dropout이 실용적일 수 있습니다. 여러 모델을 학습·저장할 여력이 있고 강한 비교 기준이 필요하다면 딥 앙상블을 함께 시험해 볼 수 있습니다. 중요한 결정에 쓰인다면 둘 중 하나를 이름만 보고 고르지 말고, 같은 데이터와 계산 예산에서 예측 오차·구간의 포함률과 폭·분포 변화·응답 시간을 함께 비교해야 합니다.\n그림 3. 방법 선택은 끝이 아닙니다. 계산비용과 함께 불확실성의 품질을 현실 데이터에서 확인해야 합니다.\n마무리 # MC Dropout과 딥 앙상블은 모두 여러 예측의 차이에서 AI의 모름을 찾습니다.\nMC Dropout은 한 모델을 여러 모습으로 실행합니다. 딥 앙상블은 여러 모델을 따로 학습합니다. 전자는 학습·저장 부담이 작고, 후자는 더 큰 비용으로 서로 다른 학습 결과를 모읍니다.\n하지만 가장 중요한 차이는 방법 이름에 있지 않습니다.\nAI의 ‘모른다’는 여러 예측의 불일치로 계산할 수 있습니다. 하지만 그 불일치를 믿을 자격은 현실 데이터에서 검증해야 얻습니다.\n관련 글 # AI 예측은 왜 ‘하나의 숫자’로 답하면 안 될까 — 점추정에서 신뢰구간의 시대로 우리는 왜 숫자가 붙은 말을 더 쉽게 믿을까 — 숫자를 읽는 20개의 짧은 생각 출처 # [1] Kendall, A., \u0026amp; Gal, Y. (2017). What Uncertainties Do We Need in Bayesian Deep Learning for Computer Vision? Advances in Neural Information Processing Systems 30. https://papers.nips.cc/paper_files/paper/2017/hash/2650d6089a6d640c5e85b2b88265dc2b-Abstract.html\n[2] Gal, Y., \u0026amp; Ghahramani, Z. (2016). Dropout as a Bayesian Approximation: Representing Model Uncertainty in Deep Learning. Proceedings of the 33rd International Conference on Machine Learning, PMLR 48, 1050–1059. https://proceedings.mlr.press/v48/gal16.html\n[3] Lakshminarayanan, B., Pritzel, A., \u0026amp; Blundell, C. (2017). Simple and Scalable Predictive Uncertainty Estimation using Deep Ensembles. Advances in Neural Information Processing Systems 30. https://papers.nips.cc/paper_files/paper/2017/hash/9ef2ed4b7fd2c810847ffa5fa85bce38-Abstract.html\n[4] Srivastava, N., Hinton, G., Krizhevsky, A., Sutskever, I., \u0026amp; Salakhutdinov, R. (2014). Dropout: A Simple Way to Prevent Neural Networks from Overfitting. Journal of Machine Learning Research, 15, 1929–1958. https://jmlr.org/papers/v15/srivastava14a.html\n[5] Lee, D., \u0026amp; Lee, B. (2024). Building reliable AI for quantifying uncertainty in particulate matter predictions with deep learning. Journal of Cleaner Production, 473, 143457. https://doi.org/10.1016/j.jclepro.2024.143457\n[6] Ovadia, Y. et al. (2019). Can You Trust Your Model\u0026rsquo;s Uncertainty? Evaluating Predictive Uncertainty Under Dataset Shift. Advances in Neural Information Processing Systems 32. https://proceedings.neurips.cc/paper_files/paper/2019/hash/8558cb408c1d76621371888657d2eb1d-Abstract.html\n[7] Djupskås, A., Riemer-Sørensen, S., \u0026amp; Stasik, A. J. (2026). Unreliable Monte Carlo Dropout Uncertainty Estimation. Proceedings of the 7th Northern Lights Deep Learning Conference, PMLR 307, 106–114. https://proceedings.mlr.press/v307/djupskas26a.html\n저자는 이 분야에서 AI Korea를 통해 관련 서비스를 제공하고 있습니다. 이 글은 특정 제품·서비스의 홍보가 아닙니다.\n예측 결과는 언제나 불확실성을 포함합니다. 방역·환경 정책 의사결정의 단독 근거가 될 수 없습니다.\n─────────────────────────────── 이해관계 및 책임 고지\n이동현은 한국외국어대학교 Social Science \u0026amp; AI융합학부 교수이자 한국인공지능 주식회사(AI Korea Inc.)의 대표입니다. 이 글의 견해는 저자 개인의 것이며, 소속 기관이나 연구과제 발주처의 공식 입장이 아닙니다.\n이 글은 일반적인 정보 제공과 교육을 목적으로 합니다. 특정 사안에 대한 자문이나 정책 권고가 아니며, 실제 의사결정의 단독 근거로 사용될 수 없습니다.\n사실에 오류가 있다면 알려주십시오. ───────────────────────────────\n","date":"2026년 7월 26일","externalUrl":null,"permalink":"/posts/2026-07-26-mc-dropout-vs-deep-ensembles/","section":"글","summary":"한 모델을 여러 모습으로 실행하는 MC Dropout과 여러 모델을 따로 학습하는 딥 앙상블. AI가 자신의 ‘모름’을 계산하는 두 방법의 원리·비용·한계를 20개 항목으로 쉽게 설명합니다.","title":"AI는 ‘모른다’를 어떻게 계산할까 — MC Dropout과 딥 앙상블의 차이","type":"posts"},{"content":"다음 두 문장은 설명을 위해 만든 가상의 예입니다.\n새 방식을 도입한 뒤 이용자 만족도가 높아졌습니다.\n새 방식을 도입한 뒤 이용자 만족도가 73.6%로 나타났습니다.\n두 번째 문장에는 한 번 더 눈이 갈 수 있습니다. 어딘가에 설문지가 있고, 계산표가 있고, 결과를 확인한 사람이 있을 것 같습니다. 첫 번째 문장은 의견처럼 들리지만 두 번째 문장은 증거처럼 들립니다.\n그런데 우리는 아직 아무것도 확인하지 않았습니다. 몇 명에게 물었는지, 누구에게 물었는지, 질문은 무엇이었는지, 언제 조사했는지 모릅니다. 새로 얻은 정보는 소수점이 붙었다는 사실뿐입니다.\n숫자는 현실을 비교하고 결정하게 만드는 강력한 언어입니다. 문제는 숫자가 틀릴 때만 생기지 않습니다. 숫자가 너무 그럴듯해서 질문을 멈출 때도 생깁니다.\n그림 1. 소수점이 붙는 순간 문장은 의견보다 측정 결과처럼 보일 수 있습니다.\n30초 핵심 # 숫자는 모호함을 줄이지만, 소수점의 길이가 근거의 질까지 보증하지는 않습니다. 숫자 안에는 정의·분모·기간·평균·비교 기준이라는 사람의 선택이 들어 있습니다. 숫자를 잘 믿으려면 값만 보지 말고 만들어진 경로·불확실성·바꿀 행동을 함께 봐야 합니다. [1] 숫자는 사실보다 먼저 신뢰를 얻습니다 # ‘많이 좋아졌다’보다 ‘37.2% 좋아졌다’가 더 믿음직하게 느껴질 수 있습니다.\n37.2%는 가상의 숫자입니다. 그런데도 ‘많이’보다 단단한 측정 결과처럼 보일 수 있습니다. 애매한 형용사가 비교 가능한 값으로 바뀌었기 때문입니다.\n하지만 우리는 아직 원자료도 계산식도 보지 않았습니다.\n숫자가 있다는 사실과 그 숫자에 좋은 근거가 있다는 사실은 다릅니다. 계산됐다는 것과 제대로 계산됐다는 것도 다릅니다.\n구체적인 숫자는 ‘누군가 자세히 알고 있다’는 신호처럼 읽힙니다.\n실험 연구에서도 둥근 숫자보다 세밀한 숫자가 이후 추정에 더 큰 영향을 주는 조건이 관찰됐습니다. 다만 언제나 그런 것은 아니었습니다. 숫자를 말한 사람에게 관련 지식과 전달 의도가 있다고 여겨지고, 그 세밀함이 과제에 필요할 때 효과가 나타났습니다.[1]\n소수점 자릿수만으로 정확성을 판단할 수는 없습니다.\n측정학에서 ‘정밀도’는 같은 대상을 반복 측정한 값들이 서로 얼마나 가까운지를, ‘정확도’는 측정값이 참값에 얼마나 가까운지를 가리킵니다. 반복 측정값들이 서로 가깝더라도 참값에 가까운지는 별개의 문제입니다.[2] 체온계가 같은 조건에서 늘 실제보다 0.5도 높게 표시된다면 측정은 일관될 수 있지만 정확하지는 않습니다.\n의견에는 말한 사람이 보이지만, 숫자는 스스로 말하는 것처럼 보입니다.\n“제 생각에는”이라는 말에는 해석한 사람이 드러납니다. 반면 표와 그래프에서는 질문을 정하고 자료를 고른 사람이 뒤로 숨기 쉽습니다. 숫자가 객관적으로 보이는 이유 중 하나입니다.\n[2] 숫자는 판단을 없애지 않고 앞단으로 옮깁니다 # 모든 숫자 앞에는 ‘무엇을 셀 것인가’라는 정의가 있습니다.\n‘만족한 사람’은 5점 척도에서 4점과 5점을 고른 사람일까요. 5점만 고른 사람일까요. 정의가 바뀌면 같은 응답에서도 만족도는 달라집니다.\n모든 비율 뒤에는 ‘무엇 중에서’라는 분모가 있습니다.\n“열 명 중 여덟 명”과 “응답한 사람의 80%”는 같은 말일 수도, 전혀 다른 말일 수도 있습니다. 응답하지 않은 사람을 빼도 되는지는 숫자가 아니라 조사 설계가 답해야 합니다.\n표본이 크다는 것만으로 충분하지 않습니다.\n만 명을 조사해도 알고 싶은 사람들과 다른 집단만 조사했다면 답은 빗나갈 수 있습니다. 숫자의 크기보다 먼저 볼 것은 그 숫자가 누구를 대표하는가입니다.\n평균은 차이를 지우는 데 탁월합니다.\n두 집단의 평균이 같아도 한 집단은 값이 가운데 모여 있고, 다른 집단은 양끝으로 갈라져 있을 수 있습니다. 평균은 유용한 요약이지만 원래 모습을 그대로 보존하지는 않습니다.\n분석 방법도 숫자의 일부입니다.\n한 연구에서는 29개 분석팀이 같은 데이터와 같은 질문을 분석했는데, 변수와 모형을 다루는 선택에 따라 효과 추정치와 결론이 상당히 달라졌습니다.[3] 이는 통계가 마음대로라는 뜻이 아닙니다. 어떤 선택을 거쳐 그 숫자가 나왔는지 공개해야 의미를 판단할 수 있다는 뜻입니다.\n그림 2. 숫자에서 사라진 판단은 없어진 것이 아니라 숫자가 만들어지는 앞단으로 이동합니다.\n[3] 같은 숫자도 놓이는 자리에 따라 의미가 달라집니다 # 증감률에는 반드시 출발점이 있습니다.\n방문자가 한 명에서 두 명으로 늘면 100% 증가입니다. ‘두 배’라는 말도 맞고 ‘한 명 증가’라는 말도 맞습니다. 무엇을 함께 보여 주느냐에 따라 독자가 느끼는 크기는 달라집니다.\n비교 기준은 숫자 밖에 있지만 의미의 절반을 차지합니다.\n20점이라는 값만으로는 좋은지 나쁜지 알 수 없습니다. 어제는 10점이었는지, 목표가 100점인지, 비슷한 집단의 평균이 18점인지가 있어야 판단이 시작됩니다.\n기간을 바꾸면 같은 현상도 다른 이야기처럼 보입니다.\n하루의 급등만 보면 위기로 보이고, 1년의 흐름만 보면 작은 흔들림으로 보일 수 있습니다. 짧은 기간과 긴 기간 중 어느 하나가 항상 정답인 것은 아닙니다. 결정하려는 문제에 맞는 기간인지가 중요합니다.\n수학적으로 같은 결과도 표현 방식에 따라 선택을 다르게 만들 수 있습니다.\n고전적인 의사결정 연구에서는 결과를 얻는 것으로 표현했을 때와 잃는 것으로 표현했을 때 사람들의 선택이 달라지는 현상이 관찰됐습니다.[4] 숫자도 문장과 맥락 밖에서 홀로 작동하지 않습니다.\n처음 본 숫자는 다음 판단의 출발점이 되기 쉽습니다.\n불확실한 값을 추정할 때 앞서 제시된 숫자가 이후 추정에 영향을 미치는 ‘기준점 효과’는 오래 연구돼 왔습니다.[5] 다만 아무 숫자나 언제나 같은 힘을 갖는 것은 아닙니다. 한 가지 실천법은 첫 숫자를 보기 전에 내가 사용할 기준을 먼저 적어 두는 것입니다.\n[4] 좋은 숫자는 자기 한계까지 함께 말합니다 # 과거 평균 성능은 오늘 이 한 건의 확실성이 아닙니다.\n제가 감염병·환경 예측 모델을 연구하고 현장 적용을 고민하며 반복해서 마주한 간극입니다. 과거 자료에서 모델이 전반적으로 잘 맞았다는 설명만으로는 부족합니다. 현장이 알고 싶은 것은 지금 받은 이 예측을 얼마나 믿을 수 있고, 무엇에 활용할 수 있느냐입니다.\n숫자의 가치는 그 숫자가 바꿀 행동에서 드러납니다.\n보고만 하고 지나갈 숫자와 사람·예산·시간을 움직일 숫자에는 다른 수준의 근거가 필요합니다. 중요한 결정일수록 값 하나보다 틀렸을 때의 비용과 되돌릴 조건을 함께 봐야 합니다.\n불확실성을 밝힌다고 신뢰가 반드시 크게 무너지지는 않습니다.\n네 개의 온라인 실험과 BBC 뉴스 웹사이트 현장실험에는 모두 5,780명이 참여했습니다. 연구들을 종합하면, 불확실성을 알렸을 때 숫자 자체에 대한 신뢰는 낮아졌지만 수치 범위로 제시한 경우 감소폭은 작았습니다. 출처에 대한 신뢰는 수치 범위에서는 거의 낮아지지 않았고, 더 큰 감소는 모호한 언어 표현에서 나타났습니다.[6] 연구 하나로 모든 상황을 일반화할 수는 없지만, 범위를 정직하게 밝힌다고 신뢰가 반드시 무너지는 것은 아닙니다.\n숫자를 볼 때 다섯 가지만 복원해도 이야기가 달라집니다.\n무엇을 센 숫자인가 — 정의 무엇 중에서 나온 값인가 — 분모 무엇과 견준 값인가 — 비교 어느 정도 흔들릴 수 있는가 — 불확실성 이 숫자로 무엇을 결정할 것인가 — 쓰임 숫자는 결론이 아니라 질문의 시작입니다.\n숫자가 붙은 말을 믿지 말자는 이야기가 아닙니다. 숫자가 붙었다는 이유만으로 판단을 끝내지 말자는 이야기입니다. 좋은 숫자는 아는 것을 선명하게 보여 주면서, 모르는 부분도 함께 드러냅니다.\n그림 3. 숫자를 의심하는 가장 좋은 방법은 거부하는 것이 아니라, 숫자가 만들어진 경로를 복원하는 것입니다.\n마무리 # 숫자는 복잡한 현실을 한눈에 보이게 해 줍니다. 그래서 필요합니다. 동시에 한눈에 보이게 만드는 과정에서 많은 맥락을 접어 둡니다. 그래서 질문이 필요합니다.\n다음에 73.6%처럼 단단해 보이는 숫자를 만나면, 소수점부터 보지 말고 다섯 가지를 먼저 확인해 보십시오.\n정의, 분모, 비교, 불확실성, 쓰임.\n숫자가 정확해 보이는 순간, 우리의 판단은 끝나는 것이 아니라 시작되어야 합니다.\n관련 글 # AI 예측은 왜 ‘하나의 숫자’로 답하면 안 될까 — 점추정에서 신뢰구간의 시대로 AI가 코드를 다 짜주는데, 파이썬을 배워야 할까요 — ‘쓰는 능력’에서 ‘검증하는 능력’으로 출처 # [1] Zhang, Y. C., \u0026amp; Schwarz, N. (2013). The power of precise numbers: A conversational logic analysis. Journal of Experimental Social Psychology, 49(5), 944–946. https://doi.org/10.1016/j.jesp.2013.04.002\n[2] Joint Committee for Guides in Metrology. International Vocabulary of Metrology — Measurement accuracy (2.13); Measurement precision (2.15). https://jcgm.bipm.org/vim/en/2.13.html · https://jcgm.bipm.org/vim/en/2.15.html\n[3] Silberzahn, R. et al. (2018). Many Analysts, One Data Set: Making Transparent How Variations in Analytic Choices Affect Results. Advances in Methods and Practices in Psychological Science, 1(3), 337–356. https://doi.org/10.1177/2515245917747646\n[4] Tversky, A., \u0026amp; Kahneman, D. (1981). The Framing of Decisions and the Psychology of Choice. Science, 211(4481), 453–458. https://doi.org/10.1126/science.7455683\n[5] Tversky, A., \u0026amp; Kahneman, D. (1974). Judgment under Uncertainty: Heuristics and Biases. Science, 185(4157), 1124–1131. https://doi.org/10.1126/science.185.4157.1124\n[6] van der Bles, A. M. et al. (2020). The effects of communicating uncertainty on public trust in facts and numbers. Proceedings of the National Academy of Sciences, 117(14), 7672–7683. https://doi.org/10.1073/pnas.1913678117\n─────────────────────────────── 이해관계 및 책임 고지\n이동현은 한국외국어대학교 Social Science \u0026amp; AI융합학부 교수이자 한국인공지능 주식회사(AI Korea Inc.)의 대표입니다. 이 글의 견해는 저자 개인의 것이며, 소속 기관이나 연구과제 발주처의 공식 입장이 아닙니다.\n이 글은 일반적인 정보 제공과 교육을 목적으로 합니다. 특정 사안에 대한 자문이나 정책 권고가 아니며, 실제 의사결정의 단독 근거로 사용될 수 없습니다.\n사실에 오류가 있다면 알려주십시오. ───────────────────────────────\n","date":"2026년 7월 25일","externalUrl":null,"permalink":"/posts/2026-07-25-why-we-trust-numbers/","section":"글","summary":"소수점이 붙은 말은 왜 더 객관적으로 느껴질까요. 숫자 뒤의 정의·분모·비교·불확실성·쓰임을 복원하는 20개의 짧은 생각입니다.","title":"우리는 왜 숫자가 붙은 말을 더 쉽게 믿을까 — 숫자를 읽는 20개의 짧은 생각","type":"posts"},{"content":"2027년에는 우리의 일이 얼마나 달라질까요. AI 강연에서 빠지지 않는 질문이지만, 저는 이 질문만 붙들고 있으면 더 중요한 변화를 놓칠 수 있다고 생각합니다.\n요즘 평가에서 자주 겪는 장면이 있습니다. 분석 코드는 에러 없이 잘 돌아가는데, “왜 이렇게 처리했어요?”라고 물으면 대답이 막힙니다. AI가 짜 준 코드라서 본인도 그 코드가 무엇을 하는지 모르는, 상당히 위험한 상황입니다.\n2027년에는 같은 장면이 보고서, 데이터 분석, 연구 설계, 사업 계획으로 넓어질 수 있습니다. 결과는 넘치는데, 그 결과를 이해하고 책임질 사람은 없는 상태. 제가 가장 먼저 떠올리는 위험은 일자리의 소멸보다 이 장면이고, 기회도 같은 곳에 있다고 봅니다. AI에게 답을 받아내는 사람을 넘어, AI가 더 깊게 생각하도록 작업 구조와 평가 기준을 설계하는 사람에게 기회가 갈 가능성이 큽니다.\nChatGPT나 Gemini, Claude를 웹과 앱에서 열고, 프롬프트를 입력하고, 답을 받는 것 — 지금까지 우리가 AI를 써 온 기본 방식입니다. 이 질문-답 방식만으로 AI 시대를 충분히 대비하고 있다고 생각한다면, 한 번 멈춰 볼 필요가 있습니다.\n지금 등장하고 있는 것은 AI가 스스로 사고의 사슬과 작업 과정을 발전시켜 나가는 구조입니다. 저는 이 구조를 이해하는 사람과 그렇지 않은 사람의 차이가 앞으로 선형이 아니라 제곱으로 벌어질 것이라고 확신합니다. 이 글은 바로 그 구조를 이해하고 학습하는 이야기입니다.\n그림 1. 2027년의 격차는 AI 사용 여부보다, AI가 일하는 구조를 누가 설계하느냐에서 벌어질 수 있습니다.\n30초 핵심 # 2027년의 AI는 답하는 도구보다 여러 단계의 일을 수행하는 작업 환경에 가까워질 것입니다. 직업보다 과업 묶음과 입문 경로가 먼저 바뀌고, 희소성은 생성에서 목표 설정·검증·책임으로 이동합니다. 준비할 것은 특정 모델 사용법이 아니라 도메인 지식·질문·하네스·검증·신뢰라는 다섯 자산입니다. 1. 미래는 하나의 숫자가 아니라 확률이 다른 전망으로 읽어야 합니다 # 먼저 선을 긋겠습니다. 2027년의 AI를 정확히 맞히는 사람은 없습니다. 그래서 저는 미래를 세 층으로 나눠 봅니다. 비교적 확실한 것 — AI가 문서·코드·검색·분석 도구 안으로 더 깊이 들어가고 대부분의 지식노동자가 AI와 함께 일하게 되는 것. 가능성은 높지만 속도가 불확실한 것 — AI가 여러 도구를 쓰며 긴 과정을 수행하는 에이전트로 확장되는 것. 단정하기 어려운 것 — 특정 직업의 소멸 시점이나 범용지능 완성 연도.\n스탠퍼드대 「2026 AI Index」에 따르면 조사 대상 조직의 AI 도입률은 88%까지 올라갔지만, 대부분의 업무 기능에서 AI 에이전트의 실제 배치는 아직 한 자릿수 비율이었습니다.[1] AI 사용은 빠르게 넓어졌지만 조직의 일을 통째로 바꾸는 단계는 이제 시작이라는 뜻입니다. 따라서 이 글의 예측도 선언이 아니라, 지금 신호가 이어질 때 무엇이 먼저 바뀔지, 틀렸다면 어떤 신호로 알 수 있을지 적어 두는 작업입니다.\n2. AI는 프롬프트 도구에서 \u0026lsquo;생각의 하네스\u0026rsquo;로 이동합니다 # 지금 많은 사람은 AI를 질문 상자로 씁니다. 질문 하나, 답 하나. 2027년에는 이 방식만으로는 부족할 가능성이 큽니다. 더 중요해지는 것은 모델 주위의 구조 — 목표, 맥락과 기억, 도구, 사람의 검증 지점, 평가 루브릭, 기록과 개선을 연결한 틀입니다. 저는 이것을 생각의 하네스(harness)라고 부르겠습니다.\n“보고서를 써 줘”라고 한 번 요청하는 것은 프롬프트 사용입니다. 질문을 쪼개고, 신뢰할 출처를 먼저 모으고, 주장마다 반대 근거를 찾고, 계산을 독립적으로 다시 확인하게 하는 것이 하네스입니다. 여기에 좋은 결과의 조건을 항목으로 적은 루브릭(rubric)이 들어가면, 결과에서 발견한 맹점을 평가 기준에 추가해 다음 오류를 더 일찍 잡는 학습 구조가 됩니다.\n그림 2. 모델이 같아도 하네스를 어떻게 연결하느냐에 따라 결과의 질은 달라집니다.\nMETR의 연구는 소프트웨어·머신러닝·사이버보안의 잘 정의된 과제에서, AI가 50%의 성공률로 수행할 수 있는 과제 길이가 약 7개월마다 두 배가 된 추세를 보고했습니다.[2] 다만 METR도 현재 과제 묶음으로 16시간을 넘는 측정은 신뢰하기 어렵다고 밝히고 있습니다. 측정 과제 역시 정답 기준이 분명한 기술 업무라서, 이 추세를 직업 자동화율로 곧바로 바꿔서는 안 됩니다. 그럼에도 방향은 중요합니다. AI가 더 긴 일을 맡을수록 사람의 역할은 목표와 경계를 정하고, 중간 점검점을 설계하고, 실패를 되돌리는 것으로 이동합니다. 2027년 말까지 조직의 AI 사용이 단발성 문답에 머문다면 이 전환은 예상보다 느린 것입니다.\n3. 직업보다 과업 묶음과 초급자의 성장 경로가 먼저 바뀝니다 # 직업은 한 가지 일로 이루어져 있지 않고, AI가 모든 과업을 같은 속도로 가져가지도 않습니다. 국제노동기구(ILO)와 폴란드 NASK의 2025년 분석은 전 세계 노동자 네 명 중 한 명이 생성형 AI에 노출된 직업에 있다고 추정하면서도, 완전한 대체보다 직업 안의 과업이 변형될 가능성이 더 크다고 평가했습니다.[3]\n제가 특히 주목하는 것은 입문 경로입니다. 지금까지 초급자는 자료 정리, 첫 초안, 기본 코딩을 하면서 숙련자의 판단을 배웠습니다. 바로 그 과업부터 AI가 맡기 시작하면, 초급자는 결과를 더 빨리 만드는 대신 판단이 자라는 과정을 건너뛸 수 있습니다. 2027년 교육과 조직의 과제는 “AI 금지 여부”가 아니라 AI를 쓰면서도 기본기와 판단 근육을 어떻게 키우게 할 것인가일 가능성이 큽니다. 이것은 관찰된 사실이 아니라 제 전망이며, 초급자의 업무와 평가 방식이 2027년에도 거의 바뀌지 않는다면 수정해야 합니다.\n4. 희소성은 답을 만드는 능력에서 목표·검증·책임으로 이동합니다 # 답을 만드는 비용이 낮아질수록 희소해지는 것은 네 가지입니다. 무엇을 풀지 정하는 능력, 현장의 맥락을 읽는 능력, 그럴듯한 결과를 의심하고 검증하는 능력, 최종 결정에 이름을 걸고 책임지는 능력. AI는 이것도 도울 수 있지만, 돕는 것과 맡기는 것은 다릅니다.\nMicrosoft Research 공동 연구진이 지식노동자 319명의 AI 사용 사례 936개를 조사한 연구에서는, AI에 대한 신뢰가 높을수록 비판적 사고 노력이 낮게 보고됐고, 사고의 중심은 생성에서 검증, 통합, 과업 관리로 이동했습니다.[4] 자기보고 설문이라 인과를 증명하지는 않지만, AI를 신뢰할수록 검토가 느슨해질 수 있다는 설계 위험을 보여 줍니다.\nAI가 생각을 약하게 만드는가, 깊게 만드는가는 AI 자체보다 우리가 만든 하네스에 달려 있습니다. 첫 답을 그대로 제출하게 만들면 사고를 외주화하고, 반대 가설과 근거 추적을 요구하면 사고를 확장합니다.\n5. 우리는 도메인 지식·질문·하네스·검증·신뢰를 준비해야 합니다 # 특정 모델의 메뉴를 외우는 것은 오래가는 준비가 아닙니다. 도구가 바뀌어도 남는 다섯 자산을 만들어야 합니다.\n도메인 지식 — AI의 답이 상식적인 범위에 있는지 판단할 내부 지도. 핵심 개념, 데이터가 만들어지는 과정, 자주 생기는 오류를 설명할 수 있어야 합니다. 질문과 성공 기준 — 맡기기 전에 적습니다. 무엇을 결정하기 위한 일인가, 틀렸을 때 비용은, 어떤 증거가 있어야 완료인가. 기준이 없으면 가장 유창한 답이 가장 좋은 답처럼 보입니다. 개인 하네스와 루브릭 — 매주 반복하는 업무 하나에 목표·자료·순서·점검 지점·기록을 붙이고, 사실 정확성·원 출처 연결·반대 근거·재현 가능성 항목으로 첫 루브릭을 만듭니다. 실패가 발견되면 프롬프트만 고치지 말고 루브릭도 고칩니다. 검증 루틴 — 숫자는 작은 표본으로 손계산, 중요한 사실은 원 출처 확인, 결정 전에 반대 가설과 실패 조건 먼저 기록. 같은 모델의 두 번째 답은 독립 검증이 아닙니다. 신뢰와 책임 — 누가 승인했고 무엇을 모르는지 남깁니다. 설명할 수 없는 결과는 중요한 결정에 쓰지 않습니다. 그림 3. 특정 AI 도구보다 오래 남는 준비는 도메인 지식·질문·하네스·검증·신뢰입니다.\n이번 달에는 반복 업무 하나만 골라 보십시오. AI 없이 한 번 수행해 시간과 오류를 기록하고, 첫 루브릭을 만들고, AI와 함께 실행하되 검증 지점 두 개를 두고, 놓친 실패 조건을 루브릭에 추가해 다시 실행합니다. 속도만이 아니라 오류와 내 이해도가 함께 좋아졌는지 비교하는 것이 핵심입니다.\n이 글의 전망도 같은 방식으로 평가되어야 합니다. 2027년 말까지 에이전트가 비정형 과제에서 신뢰성을 높이지 못하고 초급자의 학습 경로가 거의 바뀌지 않는다면 저는 이 전망을 수정해야 합니다.\n마무리 — AI에게 생각을 맡기지 말고, 생각이 깊어지는 구조를 만드십시오 # AI보다 더 빨리 답을 만드는 사람이 되려고 하지 마십시오. AI와 함께 더 좋은 질문을 만들고, 더 엄격하게 검증하고, 결과에 책임지는 사람이 되십시오.\n2027년에는 AI를 쓰는 것 자체가 특별하지 않을 것입니다. 차이는 무엇을 맡기지 않았고, 어디에서 사람이 개입하며, 어떤 근거와 평가 기준을 남겼는지에서 생길 것입니다.\n여러분의 일에서 가장 먼저 작은 하네스로 만들어 볼 반복 업무는 무엇인가요?\n관련 글 # AI가 코드를 다 짜주는데, 파이썬을 배워야 할까요 — \u0026lsquo;쓰는 능력\u0026rsquo;에서 \u0026lsquo;검증하는 능력\u0026rsquo;으로 AI 예측은 왜 \u0026lsquo;하나의 숫자\u0026rsquo;로 답하면 안 될까 — 점추정에서 신뢰구간의 시대로 출처 # [1] Stanford Institute for Human-Centered Artificial Intelligence. The 2026 AI Index Report. https://hai.stanford.edu/ai-index/2026-ai-index-report\n[2] METR. Task-Completion Time Horizons of Frontier AI Models (updated May 8, 2026); Kwa, T. et al. Measuring AI Ability to Complete Long Tasks. https://metr.org/time-horizons/ · https://arxiv.org/abs/2503.14499\n[3] International Labour Organization \u0026amp; NASK. Generative AI and Jobs: A Refined Global Index of Occupational Exposure (2025). https://www.ilo.org/publications/generative-ai-and-jobs-refined-global-index-occupational-exposure\n[4] Lee, H.-P. H. et al. (2025). The Impact of Generative AI on Critical Thinking: Self-Reported Reductions in Cognitive Effort and Confidence Effects From a Survey of Knowledge Workers. CHI \u0026lsquo;25. https://doi.org/10.1145/3706598.3713778\n─────────────────────────────── 이해관계 및 책임 고지\n이동현은 한국외국어대학교 Social Science \u0026amp; AI융합학부 교수이자 한국인공지능 주식회사(AI Korea Inc.)의 대표입니다. 이 글의 견해는 저자 개인의 것이며, 소속 기관이나 연구과제 발주처의 공식 입장이 아닙니다.\n이 글은 일반적인 정보 제공과 교육을 목적으로 합니다. 특정 사안에 대한 자문이나 정책 권고가 아니며, 실제 의사결정의 단독 근거로 사용될 수 없습니다.\n사실에 오류가 있다면 알려주십시오. ───────────────────────────────\n","date":"2026년 7월 17일","externalUrl":null,"permalink":"/posts/2026-07-17-ai-era-2027/","section":"글","summary":"2027년에는 AI 사용 여부보다 목표·맥락·도구·검증을 하나의 구조로 설계하고, 결과를 평가하는 루브릭까지 개선하는 능력이 중요해질 가능성이 큽니다.","title":"다가올 2027년의 AI 시대, 무엇이 먼저 달라질까 — 직업보다 빠르게 바뀌는 일의 방식","type":"posts"},{"content":" 코드는 있는데, 아는 사람이 없습니다 # 요즘 학교 텀 프로젝트 평가나 연구 프로젝트를 하면서 자주 겪는 장면이 있습니다.\n학생이 분석 코드를 가져옵니다. 에러 없이 잘 돌아가고, 결과 그래프도 그럴듯합니다. 그런데 \u0026ldquo;이 부분은 왜 이렇게 처리했어요?\u0026ldquo;라고 물으면 대답이 막힙니다. AI가 짜 준 코드라서, 가져온 본인도 그 코드가 정확히 무엇을 하는지 모르는 경우가 많습니다.\n코드는 있는데, 그 코드를 아는 사람이 없습니다. 그러니 검증도 일어나지 않습니다.\n이 장면을 겪을 때마다 떠오르는 질문이 있습니다. 코딩을 배울지 고민하는 학생과 직장인들이 요즘 가장 많이 하는 질문이기도 합니다.\n\u0026ldquo;어차피 AI가 코드를 다 짜주는데, 파이썬을 배워야 하나요?\u0026rdquo;\n오늘은 이 질문에 정면으로 답해 보겠습니다.\n절반은 맞는 말입니다 # 먼저 인정할 것은 인정하겠습니다. 코드 생성 AI는 잘합니다. 문법을 몰라도 원하는 것을 말로 설명하면 돌아가는 코드가 나옵니다. 예전에 반나절 걸리던 작업이 몇 분으로 줄어드는 경우도 실제로 있습니다.\n저부터 그렇습니다. 저는 코드 생성 AI를 개발에 매일같이 씁니다. \u0026ldquo;써도 되나\u0026quot;를 고민하는 단계는 이미 지났습니다. 제게 AI 코딩은 선택이 아니라 필수재가 됐습니다.\n그러니 \u0026ldquo;그래도 기초는 중요합니다\u0026rdquo; 같은 말로 이 질문을 막을 생각은 없습니다. 그 말은 틀리지는 않지만, 아무것도 설명하지 않습니다. 대신 질문을 바꿔 보겠습니다.\n\u0026ldquo;코드를 짤 수 있는가\u0026quot;가 아니라, \u0026ldquo;그 코드가 내놓은 결과를 언제 믿고, 언제 의심할 것인가.\u0026rdquo;\n이 블로그에서 계속 다루는 질문과 같은 질문입니다. AI가 코드를 짜주는 시대에도 파이썬이 필요한 이유는, 정확히 이 지점에 있습니다.\n문제는 \u0026lsquo;짜는 것\u0026rsquo;이 아니라 \u0026lsquo;믿는 것\u0026rsquo;입니다 # AI가 짠 코드의 오류에는 두 종류가 있습니다.\n첫째, 시끄럽게 틀리는 오류. 실행하면 에러가 나고 프로그램이 멈춥니다. 이것은 사실 좋은 오류입니다. 틀렸다는 사실을 코드가 스스로 알려주기 때문입니다. 에러 메시지를 AI에게 다시 넣어주면 대부분 고쳐 줍니다. 파이썬을 잘 몰라도 어떻게든 넘어갈 수 있는 구간입니다.\n둘째, 조용히 틀리는 오류. 에러 없이 끝까지 실행되고, 그럴듯한 숫자와 그래프까지 나옵니다. 다만 그 숫자가 틀렸을 뿐입니다. 멈추지 않으니 아무도 눈치채지 못합니다.\n진짜 문제는 두 번째입니다. 그리고 AI 코드 생성이 늘어날수록 위험해지는 쪽도 두 번째입니다. 도입부의 장면을 떠올려 보십시오. 코드를 \u0026lsquo;쓴\u0026rsquo; 사람이 없으면, 코드를 \u0026lsquo;의심할\u0026rsquo; 사람도 없어집니다.\n그림 1. 시끄러운 오류는 스스로 드러나지만, 조용한 오류는 발견조차 되지 않습니다.\n실행되는 코드와 맞는 코드는 다릅니다 # \u0026ldquo;조용히 틀린다\u0026quot;는 것이 어떤 것인지, 데이터 분석에서 흔한 예를 들겠습니다. 전부 에러 없이 멀쩡하게 실행되는 코드들입니다.\n결측치가 소리 없이 빠집니다. 파이썬의 판다스(pandas)로 평균을 구하면, 비어 있는 값(NaN)은 기본적으로 계산에서 제외됩니다. 관측이 절반 빠진 날의 평균도, 다 채워진 날의 평균과 똑같이 멀쩡한 숫자로 나옵니다. 단위가 어긋나도 계산은 됩니다. 한쪽 파일은 밀리미터, 다른 쪽은 센티미터여도 파이썬은 불평하지 않습니다. 곱하고 더한 값이 나올 뿐입니다. 데이터를 합치다 행이 불어납니다. 두 표를 잘못된 기준으로 병합하면 같은 데이터가 몇 배로 복제되는데, 코드는 성공적으로 끝납니다. 표본이 늘었으니 통계는 오히려 더 \u0026lsquo;자신 있게\u0026rsquo; 틀립니다. 시간이 하루씩 밀립니다. 시간대(timezone) 처리 하나로 모든 날짜가 조용히 밀리는 일은, 데이터를 다루는 사람이라면 한 번쯤 겪습니다. 이런 오류는 AI가 특별히 못해서 생기는 것이 아닙니다. 사람이 짜도 생깁니다. 차이는, 사람이 직접 짤 때는 최소한 그 선택을 한 사람이 존재한다는 점입니다. AI가 짜면 그 선택은 아무도 모르는 사이에 내려집니다. 결측치를 뺄지, 채울지, 그날을 통째로 버릴지 — 이것은 코딩 문제가 아니라 분석의 판단 문제인데, 그 판단이 기본값 속에 숨어 버립니다.\n그림 2. 조용히 틀리는 오류는 멈추지 않기 때문에 발견되지 않습니다. 그래프가 그럴듯할수록 더 그렇습니다.\n없는 데이터를 만들어서라도, 답을 냅니다 # 조용한 오류 중에서도 제가 가장 위험하다고 보는 형태가 있습니다.\n지금의 AI는 어떻게든 답을 내는 쪽으로 기울도록 학습된 도구에 가깝습니다. 최근 모델은 되묻거나 멈추기도 하지만, 막히면 그럴듯한 것을 지어내는 경향이 여전히 남아 있습니다. 흔히 할루시네이션(환각)이라고 부르는 현상인데, 이것이 글에서만 일어나는 일이 아닙니다. 코드에서도 일어납니다.\n제가 실제 프로젝트에서 여러 번 목격한 패턴은 이렇습니다. AI에게 데이터 분석 코드를 맡겼는데, 있어야 할 데이터가 없거나 형식이 맞지 않으면 — 거기서 멈추고 물어보는 것이 아니라 — 그럴듯한 값으로 빈자리를 채우거나, 아예 존재하지 않는 데이터를 만들어서라도 결과를 완성해 버립니다. 겉보기에는 분석이 성공한 것처럼 보입니다. 검증하지 않으면, 세상에 없는 데이터가 결과 속에 그대로 들어갑니다.\n저는 감염병과 환경을 예측하는 AI를 만드는 일을 합니다. 이 분야에서 \u0026lsquo;조용히 만들어진 데이터\u0026rsquo;는 그래프가 조금 이상해지는 정도로 끝나지 않습니다. 예측 결과가 현장의 판단 재료로 쓰이기 때문입니다.\n그리고 이 위험은 저희에게도 똑같이 적용됩니다. 앞서 말했듯 저와 저희 팀도 코드 생성 AI를 필수재처럼 씁니다. AI가 짠 코드라서 위험한 것이 아니라 검증되지 않은 코드라서 위험한 것이고, 그 기준에서는 저희가 만든 코드도 예외가 아닙니다. 그래서 저는 결과가 그럴듯하게 나올수록 오히려 한 번 더 의심하려고 합니다.\n그림 3. AI는 막히면 그럴듯한 것을 지어내는 경향이 있습니다. 채워진 자리는 겉으로 구분되지 않습니다.\n그래서, 어디까지 배워야 할까요 # 여기까지 읽고 \u0026ldquo;결국 코딩을 열심히 배우라는 이야기군요\u0026quot;라고 하시면, 절반만 맞습니다. 제 답은 조금 다릅니다. AI 이전과 이후에, \u0026lsquo;배워야 할 파이썬\u0026rsquo;의 무게중심이 달라졌다는 것입니다.\n예전에는 빈 화면에 코드를 채워 넣는 능력, 즉 쓰는 능력이 중심이었습니다. 지금 그 부분은 AI가 가장 잘 대체하는 영역이 됐습니다. 대신 대체되지 않은 것이 있습니다.\n데이터가 어떻게 생겼는지 아는 감각. 표, 리스트, 딕셔너리 — 지금 내 데이터가 어떤 모양인지 머릿속에 그릴 수 있어야, 어디서 무엇이 빠졌는지 의심할 수 있습니다. 남이 쓴 코드를 읽는 능력. AI가 짠 코드도 \u0026lsquo;남이 쓴 코드\u0026rsquo;입니다. 한 줄씩 전부 이해할 필요는 없습니다. \u0026ldquo;여기서 결측치는 어떻게 되지?\u0026rdquo;, \u0026ldquo;이 병합 기준이 맞나?\u0026rdquo; — 의심할 지점을 짚어낼 만큼 읽으면 됩니다. 작게 검증하는 습관. 전체 데이터를 돌리기 전에 열 줄짜리 데이터로 돌려 보고, 손으로 계산한 값과 맞춰 보는 것. 이것은 문법 지식이 아니라 태도에 가깝지만, 최소한의 파이썬 없이는 실행할 수 없는 태도입니다. 같은 결과를 다시 만들 수 있는가. 재현되지 않는 결과는 검증할 수도 없습니다. 이 네 가지의 공통점은 \u0026lsquo;쓰기\u0026rsquo;가 아니라 \u0026lsquo;읽기와 의심하기\u0026rsquo;라는 점입니다. 배워야 할 양은 오히려 줄었을 수 있습니다. 다만 방향이 달라졌습니다.\n그림 4. AI 코딩 시대의 파이썬은 \u0026lsquo;쓰기\u0026rsquo;보다 \u0026lsquo;읽기와 의심하기\u0026rsquo;의 도구에 가까워지고 있습니다.\nAI가 짠 코드, 이럴 때는 의심하십시오 # 정리 삼아, 제가 생각하는 \u0026lsquo;의심 신호\u0026rsquo; 다섯 가지를 적어 둡니다. AI가 만들어 준 분석 코드의 결과 앞에서 스스로 물어볼 질문들입니다.\n결과가 너무 좋다. 정확도가 갑자기 확 뛰었다면, 실력이 는 것이 아니라 데이터가 샌 것(정답 정보가 입력에 섞인 것)일 가능성부터 확인해야 합니다. 행 개수를 확인하지 않았다. 병합·필터 전후로 데이터가 몇 행인지 세어 보지 않았다면, 그 결과는 아직 믿을 단계가 아닙니다. 결측치의 행방을 모른다. 빠진 값이 몇 개였고 어떻게 처리됐는지 답할 수 없다면, 평균과 추세는 조용히 왜곡돼 있을 수 있습니다. 특히 AI가 빈자리를 \u0026lsquo;채워 준\u0026rsquo; 것은 아닌지 확인해야 합니다. 손으로 검산한 값이 하나도 없다. 아주 작은 부분집합 하나라도 수작업 계산과 맞춰 보지 않은 결과는, 실행된 것이지 검증된 것이 아닙니다. 왜 그렇게 처리했는지 설명할 수 없다. 코드의 어떤 선택 하나를 골라 \u0026ldquo;왜?\u0026ldquo;라고 물었을 때 답할 수 없다면, 그 분석의 주인은 아직 내가 아닙니다. 마무리 — 다시, 처음의 질문으로 # \u0026ldquo;AI가 다 짜주는데, 파이썬을 배워야 하나요?\u0026rdquo;\n제 답은 이렇습니다. 코드를 쓰는 일은 AI에게 점점 더 많이 맡기게 될 것입니다. 그럴수록 그 코드를 의심하고 검증하는 일은 점점 더 사람의 몫이 됩니다. 파이썬을 배운다는 것의 의미가, 쓰는 기술에서 믿을지 말지를 판단하는 능력으로 옮겨 가고 있는 것입니다.\n지난 글에서 AI의 예측은 왜 \u0026lsquo;하나의 숫자\u0026rsquo;로 답하면 안 되는지 이야기했습니다. AI의 답을 언제 믿고 언제 의심할 것인가 — 이 질문은 예측 모델만의 이야기가 아닙니다. AI가 짜 준 코드 한 줄에서부터 시작되는 이야기입니다.\n여러분은 어떠신가요. AI가 짜 준 코드나 분석 결과를, 어디까지 확인하고 쓰고 계신가요? 댓글로 들려주시면 다음 글에 반영하겠습니다.\n─────────────────────────────── 이해관계 및 책임 고지\n이동현은 한국외국어대학교 Social Science \u0026amp; AI융합학부 교수이자 한국인공지능 주식회사(AI Korea Inc.)의 대표입니다. 이 글의 견해는 저자 개인의 것이며, 소속 기관이나 연구과제 발주처의 공식 입장이 아닙니다.\n이 글은 일반적인 정보 제공과 교육을 목적으로 합니다. 특정 사안에 대한 자문이나 정책 권고가 아니며, 실제 의사결정의 단독 근거로 사용될 수 없습니다.\n사실에 오류가 있다면 알려주십시오. ───────────────────────────────\n","date":"2026년 7월 14일","externalUrl":null,"permalink":"/posts/2026-07-14-python-still-needed/","section":"글","summary":"AI가 코드를 다 짜주는 시대에 파이썬을 배워야 할 이유는 ‘쓰는 능력’이 아니라 ‘검증하는 능력’에 있습니다. 에러 없이 조용히 틀리는 코드, 없는 데이터를 만들어서라도 답을 내는 AI를 언제 믿고 언제 의심해야 할까요.","title":"AI가 코드를 다 짜주는데, 파이썬을 배워야 할까요 — '쓰는 능력'에서 '검증하는 능력'으로","type":"posts"},{"content":" 무엇을 모르는지 모를 때 # 공부하면서 가장 난감한 순간이 언제인지 아십니까.\n틀렸을 때가 아닙니다. 내가 무엇을 모르는지조차 모를 때입니다.\n틀린 문제는 차라리 낫습니다. 어디를 다시 봐야 하는지가 분명하니까요. 정말 답답한 건 다 아는 것 같은데 답을 못 쓰는 때, 뭘 모르냐고 물으면 그것도 대답이 안 되는 때입니다.\n저는 공부가 느는 시점이 따로 있다고 느낍니다. 모르는 것을 모른다고 말할 수 있게 되는 순간부터입니다. 그때부터 무엇을 찾아봐야 할지, 누구에게 물어야 할지가 정해집니다.\n지금의 AI 대부분은 그 이전 단계에 있습니다. 자기가 무엇을 모르는지 모른 채, 답을 하나 내놓습니다.\n저는 감염병(조류독감)과 환경(녹조·미세먼지) 예측 모델을 연구하고, 실제 현장에 적용해 왔습니다. 그 과정에서 배운 것이 하나 있습니다. 현장이 정말 궁금해하는 것은 예측값 자체가 아니라, 그 값을 얼마나 믿어도 되는가였습니다.\n예측 결과를 들고 현장에 가면, 숫자 자체보다 먼저 확인받는 것이 있습니다. 이 값을 무엇으로 뒷받침하느냐입니다. 그리고 그 자리에서 제가 내밀 수 있는 것은, 대개 과거 성능 지표뿐이었습니다.\n이 글은 \u0026ldquo;신뢰할 수 있는 AI\u0026rdquo; 시리즈의 첫 글입니다. 시리즈 전체를 관통하는 약속은 하나입니다. AI가 \u0026ldquo;모른다\u0026quot;고 말하게 하기. 오늘은 그 출발점으로, 점추정과 구간추정의 차이부터 이야기하겠습니다.\n\u0026ldquo;몇 시에 도착해?\u0026ldquo;라는 질문의 두 가지 대답 # 먼저 용어부터 쉽게 풀겠습니다.\n친구가 묻습니다. \u0026ldquo;몇 시에 도착해?\u0026rdquo;\n대답이 두 가지 있을 수 있습니다. 하나는 \u0026ldquo;3시 정각\u0026rdquo;. 다른 하나는 \u0026ldquo;3시에서 3시 반 사이, 거의 확실히\u0026rdquo;.\n첫 번째가 통계학에서 말하는 점추정(point estimate)입니다. 가장 그럴듯한 값 하나를 딱 찍어 주는 것이지요. 두 번째가 구간추정(interval estimate)입니다. 답을 범위로 주되, 그 범위를 얼마나 믿어도 되는지까지 함께 주는 방식입니다.\n우리는 일상에서 이미 구간으로 말합니다. 길이 막힐지 모르니까요. 그런데 이상하게도, 지금의 AI 대부분은 여전히 점으로만 답합니다. \u0026ldquo;내일 이 지점의 녹조 농도는 42입니다.\u0026rdquo; 끝. 이 값을 얼마나 믿어야 하는지는 말해 주지 않습니다.\n하나의 숫자가 주는 착시 — 점추정 # 점추정은 매력적입니다. 명료하니까요. 회의 자료에 \u0026ldquo;내일 농도 42\u0026quot;라고 적으면 깔끔합니다.\n하지만 여기에 함정이 있습니다. 연속적인 값을 예측하는 문제에서, 예측값이 정확히 들어맞을 확률은 사실상 0에 가깝습니다. 실제 값은 41.3일 수도, 48.9일 수도 있습니다. 그러니 진짜 질문은 이것입니다.\n실제 값은 42 주변 어디쯤에 있는가? 그 \u0026ldquo;주변\u0026quot;은 얼마나 넓은가? 같은 42라도 \u0026ldquo;4044 사이일 가능성이 높다\u0026quot;와 \u0026ldquo;2070 사이 어디일지 모르겠다\u0026quot;는 전혀 다른 이야기입니다. 앞의 42는 행동의 근거가 되지만, 뒤의 42는 참고 사항일 뿐입니다. 점 하나만 보여 주면 이 둘이 구분되지 않습니다. 숫자가 명료해 보일수록, 확신의 착시는 커집니다.\n\u0026ldquo;작년에 92% 맞혔습니다\u0026quot;로는 설득되지 않습니다 # 현장에서 이 모델이 쓸 만하다고 주장할 때, 사실 우리가 꺼낼 수 있는 카드는 하나뿐입니다. 과거 성능 지표. 지난 몇 년 데이터로 검증해 보니 이만큼 맞혔다는 것.\n그런데 마주 앉은 담당자가 정말 묻는 것은 다른 이야기입니다.\n\u0026ldquo;그래서 오늘, 이 지점, 이 숫자는 얼마나 믿어요?\u0026rdquo;\n과거 성능은 전체를 평균한 진술입니다. 모델이 수천 번 예측했을 때 평균적으로 어땠는가. 반면 담당자 앞에 놓인 것은 오늘 여기 한 건입니다.\n그리고 모델에게도 쉬운 날과 어려운 날이 있습니다. 관측이 촘촘한 지점이 있고 드문 지점이 있습니다. 익숙한 조건이 있고 처음 보는 조건이 있습니다. 평균 92%가, 오늘 이 예측이 92%라는 뜻은 아닙니다.\n점추정은 이 간극을 메우지 못합니다. 숫자 하나를 내놓고 \u0026ldquo;저희 모델은 평균적으로 잘 맞습니다\u0026quot;라고 덧붙일 뿐입니다. 담당자는 이 말을 믿고 움직여도 되는지 판단할 근거를 갖지 못합니다.\n예측구간이 바로 그 근거입니다. 과거 전체에 대한 진술이 아니라, 지금 이 입력에 대한 진술이기 때문입니다. 오늘 데이터가 부실하면 구간이 넓어지고, 조건이 익숙하면 좁아집니다. 모델이 \u0026ldquo;오늘은 저도 자신이 없습니다\u0026quot;라고 말하는 셈입니다.\n그럼 그 구간 자체는 믿을 수 있는가. 좋은 질문이고, 다음 글의 주제입니다.\n통계학은 이 전환을 이미 한 번 겪었습니다 # 사실 통계학은 이 문제를 100년 전에 이미 통과했습니다.\n20세기 초의 통계학은 \u0026ldquo;가장 좋은 값 하나를 어떻게 찾을 것인가\u0026rdquo;, 즉 점추정의 이론을 다듬는 데 집중했습니다. 흐름을 바꾼 사람은 폴란드 태생의 통계학자 예르지 네이만(Jerzy Neyman)입니다. 그는 1934년 논문에서 신뢰구간(confidence interval) 이라는 개념을 처음 내놓았고, 1937년 논문에서 그것을 하나의 이론으로 체계화했습니다.[1][2]\n\u0026ldquo;답 하나\u0026quot;가 아니라 \u0026ldquo;답이 들어 있을 범위 + 그 절차를 믿을 수 있는 정도\u0026quot;를 함께 보고하는 틀이 이때 생겼습니다.\n이후 신뢰구간은 과학의 표준 언어가 되었습니다. 오늘날 논문도, 신약 임상시험 결과도 값 하나만 보고하지 않고 구간을 함께 보고합니다. 가장 익숙한 예는 여론조사입니다. \u0026ldquo;후보 지지율 45%\u0026ldquo;라는 숫자 옆에는 반드시 \u0026ldquo;오차범위 ±3%포인트, 95% 신뢰수준\u0026rdquo; 같은 문구가 붙습니다. 이 문구가 빠진 여론조사 보도는 반쪽짜리 정보라는 것을, 우리 사회는 이미 합의한 셈입니다.\n하나의 숫자에서, 숫자와 그 숫자에 대한 믿음의 정도를 함께 말하는 방식으로. 통계학이 지나온 이 전환을 잠시 붙들어 두십시오. 지금 AI에서 같은 일이 벌어지고 있습니다.\nAI도 같은 전환의 한가운데에 있습니다 # 지금의 AI, 특히 딥러닝 모델의 기본 출력은 점추정입니다. 내일의 농도, 다음 주의 발생 위험, 이 영상의 판독 결과 — 대부분 값 하나 또는 라벨 하나로 나옵니다.\n그래서 최근 연구 흐름 중 하나가 불확실성 정량화(uncertainty quantification)입니다. 모델이 답과 함께 \u0026ldquo;이 답을 이 정도로 확신한다/못 한다\u0026quot;를 산출하게 만드는 것이지요. 이 주제를 정리한 종합 리뷰 논문들이 나와 있고, 그중 두 편은 각각 2천 회, 1천 회 이상 인용됐습니다(2026년 7월 기준).[3][4] 활발히 다뤄지는 분야라고 말할 수 있는 근거입니다.\n제 표현으로 정리하면 이렇습니다. 통계학이 점추정에서 신뢰구간으로 넘어갔듯이, AI도 점추정의 시대에서 신뢰구간의 시대로 넘어가고 있습니다. \u0026ldquo;내일 녹조 농도는 42\u0026quot;가 아니라, \u0026ldquo;42 ± 얼마, 이 정도 신뢰수준으로\u0026quot;가 예측의 본질이 되어 가는 전환입니다.\n이 전환은 되돌아가지 않습니다 — 적용 영역이 바뀌었기 때문에 # 왜 이 흐름이 일시적 유행이 아니라고 보는가. 이유는 AI가 적용되는 영역 자체가 바뀌고 있기 때문입니다.\n지금까지 AI가 주로 쓰인 곳은 추천, 광고, 검색 같은 편의 영역이었습니다. 이런 곳에서는 예측이 틀려도 대가가 작습니다. 영화 추천이 취향에 안 맞으면 그냥 안 보면 됩니다. 굳이 \u0026ldquo;이 추천을 87% 확신합니다\u0026quot;라고 말할 필요가 없었지요.\n그런데 지금 AI는 의료, 감염병, 환경, 인프라처럼 틀렸을 때의 대가가 큰 영역으로 들어가고 있습니다. 정수장 운영, 방역 자원 배치, 진단 보조 — 이런 결정에 쓰이는 예측이라면 \u0026ldquo;얼마나 확신하는가\u0026quot;는 부가 정보가 아니라 산출물의 필수 요소가 됩니다. 틀렸을 때의 비용이 커질수록, 불확실성 정보 없는 예측은 쓸 수 없는 예측이 됩니다.\n규제도 같은 방향을 가리킵니다.\n유럽연합의 AI 법(Regulation (EU) 2024/1689)은 부속서 III에서 물·가스·난방·전기의 공급을 관리·운영하는 안전 부품으로 쓰이는 AI를 \u0026lsquo;고위험(high-risk)\u0026lsquo;으로 분류합니다.[5] 편의 영역의 AI와 안전이 걸린 영역의 AI를, 법이 다르게 취급하기 시작한 것입니다.\n법이 요구하는 것을 한 줄로 줄이면 이렇습니다. 중요한 곳에 쓰는 AI일수록, 그 판단을 얼마나 믿을 수 있는지 설명하라.\n\u0026ldquo;그래서 그걸로 뭘 할 수 있는데요?\u0026rdquo; # 모델을 만들어 무언가를 예측한다고 하면, 현장에서 거의 반드시 돌아오는 질문이 있습니다. 저도 자주 듣습니다.\n\u0026ldquo;그래서 그 예측으로 뭘 할 수 있는데요?\u0026rdquo;\n예측 자체는 행동이 아닙니다. 예측을 받아 무엇을 바꿀 것인가 — 흔히 개입(intervention)이라고 부르는 그 결정이 이어져야 비로소 값이 생깁니다. 그리고 그 결정을 가르는 것이 바로 불확실성의 폭입니다.\n구간이 좁으면: 예측을 근거로 바로 움직일 수 있습니다. 구간이 넓으면: 추가 관측을 하거나, 최악의 경우에 대비한 보수적 대응을 택하게 됩니다. 같은 예측값 42라도, 구간이 4044냐 2070이냐에 따라 다음에 할 일이 달라집니다. 앞의 경우엔 계획대로 가고, 뒤의 경우엔 한 번 더 재 보거나 여유를 둡니다.\n그러니 구간은 모델의 겸손 표시가 아니라, 사용자의 행동 지침입니다. 점추정만 주는 모델은 이 판단을 전부 사용자의 감에 떠넘기는 셈입니다. 예측은 했는데 무엇을 해야 할지는 알려주지 않는, 반쪽짜리 산출물이 됩니다.\n그림 1. 같은 42라도 구간의 폭에 따라 다음 행동이 갈립니다. 점추정만으로는 이 판단을 할 수 없습니다.\n불확실성이 크면 나쁜 모델일까요 # 여기서 이런 반문이 나올 법합니다. 불확실성이 크다는 건 결국 그 모델이 별로라는 뜻 아니냐고.\n저는 그렇게 보지 않습니다.\n다시 공부 이야기입니다. 자기가 무엇을 모르는지 정확히 아는 학생과, 다 안다고 생각하는데 시험만 보면 틀리는 학생. 둘 중 누가 더 나은 학생입니까.\n불확실성을 크게 내놓는 모델은 나쁜 모델이 아니라, 자기 한계를 아는 모델입니다. 정말 위험한 모델은 틀리면서 확신하는 모델입니다. 앞의 모델은 우리가 대비할 수 있게 해 주고, 뒤의 모델은 우리를 무방비로 만듭니다.\n물론 구간이 지나치게 넓으면 그 예측의 실용성은 떨어집니다. 그건 사실입니다. 다만 그때조차 우리는 \u0026ldquo;이 예측으로는 결정할 수 없다\u0026quot;는 것을 알고 있습니다. 모르면서 아는 줄 아는 것과는 처지가 다릅니다.\n마무리 — 이 시리즈의 약속 # 한 문장으로 요약하겠습니다. 좋은 AI는 답을 잘 맞히는 AI가 아니라, 자신이 얼마나 맞힐 수 있는지까지 말해 주는 AI입니다.\n공부가 그렇듯이 말입니다. 모르는 것을 모른다고 말할 수 있을 때부터 배움이 시작됩니다. AI도 지금 그 문턱을 넘고 있습니다.\n통계학이 점추정에서 신뢰구간으로 넘어가는 데 한 세대가 걸렸습니다. AI는 지금 그 전환의 한가운데에 있고, 안전이 걸린 영역으로 적용이 확대될수록 이 전환은 빨라질 것입니다. 이 시리즈에서는 \u0026ldquo;AI가 \u0026lsquo;모른다\u0026rsquo;고 말하게 하는 법\u0026quot;을 하나씩 풀어 가려 합니다.\n다음 글은 보정(calibration) 이야기입니다. 모델이 \u0026ldquo;90% 확신한다\u0026quot;고 말할 때, 그 90%는 진짜 90%일까요? 이 질문에서 시작하겠습니다.\n여러분의 현장에서는 어떤가요 — AI의 예측값을 받았을 때, \u0026ldquo;얼마나 믿어야 하나\u0026quot;가 궁금했던 적이 있으신가요? 댓글로 들려주시면 다음 글에 반영하겠습니다.\n출처 # [1] Neyman, J. (1934). On the Two Different Aspects of the Representative Method: The Method of Stratified Sampling and the Method of Purposive Selection. Journal of the Royal Statistical Society, 97(4), 558–625. doi:10.2307/2342192 — 신뢰구간 개념이 처음 제시된 논문.\n[2] Neyman, J. (1937). Outline of a Theory of Statistical Estimation Based on the Classical Theory of Probability. Philosophical Transactions of the Royal Society A, 236(767), 333–380. doi:10.1098/rsta.1937.0005 — 신뢰구간을 이론으로 체계화한 논문.\n[3] Abdar, M. et al. (2021). A review of uncertainty quantification in deep learning: Techniques, applications and challenges. Information Fusion, 76, 243–297. doi:10.1016/j.inffus.2021.05.008\n[4] Gawlikowski, J. et al. (2023). A survey of uncertainty in deep neural networks. Artificial Intelligence Review, 56, 1513–1589. doi:10.1007/s10462-023-10562-9\n[5] Regulation (EU) 2024/1689 (EU AI Act), Article 6 및 Annex III. 부속서 III 제2항: 핵심 인프라 — 물·가스·난방·전기 공급의 관리·운영에 쓰이는 안전 부품. https://eur-lex.europa.eu/eli/reg/2024/1689/oj/eng\n이해관계 및 책임 고지 # 예측 결과는 언제나 불확실성을 포함합니다. 방역·환경 정책 의사결정의 단독 근거가 될 수 없습니다.\n이해관계 및 책임 고지\n이동현은 한국외국어대학교 Social Science \u0026amp; AI융합학부 교수이자 한국인공지능 주식회사(AI Korea Inc.)의 대표입니다. 이 글의 견해는 저자 개인의 것이며, 소속 기관이나 연구과제 발주처의 공식 입장이 아닙니다.\n이 글은 일반적인 정보 제공과 교육을 목적으로 합니다. 특정 사안에 대한 자문이나 정책 권고가 아니며, 실제 의사결정의 단독 근거로 사용될 수 없습니다.\n사실에 오류가 있다면 알려주십시오. 원문을 고치고, 고친 사실을 함께 밝히겠습니다.\n","date":"2026년 7월 12일","externalUrl":null,"permalink":"/posts/2026-07-07-ai-uncertainty-interval/","section":"글","summary":"통계학이 점추정에서 신뢰구간으로 넘어갔듯, AI도 ‘답 하나’가 아니라 ‘답을 얼마나 믿을 수 있는가’를 말해야 하는 시대로 넘어가고 있습니다. 신뢰할 수 있는 AI 시리즈 1편.","title":"AI 예측은 왜 '하나의 숫자'로 답하면 안 될까 — 점추정에서 신뢰구간의 시대로","type":"posts"},{"content":"AI가 \"다음 주에 조류독감이 확산됩니다\"라고 답할 때,\n그 답을 어디까지 믿어야 할까요?\n저는 그 \u0026ldquo;어디까지\u0026quot;를 연구하는 사람입니다. 연구의 중심은 신뢰할 수 있는 AI입니다. 고위험 물리·사회 시스템에서 AI의 예측과 시뮬레이션을 언제 믿을 수 있고, 언제 거부해야 하는지를 연구합니다. 녹조·감염병처럼 틀리면 대가가 큰 문제를 딥러닝으로 예측해 왔고, 최근에는 사람처럼 응답하는 LLM 합성 행위자를 사회·행동 연구에 쓸 수 있는지 그 타당성을 검증하고 있습니다.\n정확도 숫자 하나로 AI를 믿을 수는 없습니다. 모델이 무엇을 근거로 답했는지, 어떤 조건에서 무너지는지를 함께 볼 수 있어야 현장에서 쓸 수 있는 AI가 됩니다. 이 사이트의 글도, 강의도, 연구도 결국 그 하나의 질문을 향해 있습니다.\n이 관점을 지금 두 권의 책으로 정리하고 있습니다 — AI ERA SERIES 『AI 시대의 파이썬 기본기』와 『AI 시대의 파이썬 데이터 시각화』, 2026년 9월 출간 예정입니다. 도서 소개 →\n지금 하는 일 # 교육·연구\n한국외국어대학교 교수 Social Science \u0026amp; AI융합학부에서 AI와 사회의 접점을 연구하고 가르칩니다. KAIST에서 공학사·공학석사·공학박사 학위를 받았습니다.\n현장 적용\n한국인공지능 주식회사 대표이사 AI 스타트업을 창업해 감염병·환경 분야의 실무 AI 서비스를 직접 개발·운영합니다.\n연구 초점 # 설명가능한 AI(XAI) 불확실성 정량화 감염병 예측 환경 예측 딥러닝 LLM 합성 행위자 타당성 국책과제 디지털 콜럼버스 등 현장의 예측 문제를 푸는 프로젝트에 참여해 왔고, 다수의 연구 프로젝트를 연구책임자로 이끌었습니다.\n걸어온 길 # 한국공학대학교 부교수와 한국환경연구원 빅데이터연구팀 부연구위원을 지냈고, 환경부 중앙환경정책위원회 환경경제분과위원으로 활동했습니다. 10년째 대학에서 프로그래밍과 데이터 분석을 강의하고 있으며, 강의실과 창업 현장에서 다듬은 경험을 바탕으로 AI ERA SERIES를 쓰고 있습니다.\n논문과 수상 # Journal of Cleaner Production, Technological Forecasting and Social Change, Expert Systems with Applications 등 국제 학술지에 연구 논문 20여 편을 발표했습니다. 환경 연구에 특화된 멀티모달 LLM 대화형 AI를 개발해 한국환경연구원 원장상을 받았고, 2008년에는 대한민국 인재상(대통령상)을 수상했습니다. Journal of Innovation \u0026amp; Knowledge 편집위원으로 활동하고 있습니다.\n연락 강연·자문·연구 협력 제안은 donghyunlee.ai@gmail.com으로 보내주세요.\n","date":"2026년 7월 11일","externalUrl":null,"permalink":"/about/","section":"이동현의 신뢰할 수 있는 AI 노트","summary":"이동현 — 한국외국어대학교 교수, 한국인공지능 주식회사 창업자. 신뢰할 수 있는 AI를 고위험 예측 현장에 적용하는 연구자.","title":"소개","type":"page"}]