Deep Learning Guide · 01
AI는 어떻게 학습하는가
AI의 ‘학습’은 사람이 공부하며 의미를 깨닫는 과정과 다릅니다. 모델이 많은 예시를 처리하고, 틀린 정도를 숫자로 측정하며, 다음 예측의 오차가 조금 줄어들도록 내부의 가중치를 반복해서 바꾸는 계산 과정입니다.
먼저 세 문장으로 이해하기
- 데이터는 모델이 볼 수 있는 세계이고, 학습 목표는 그 세계에서 무엇을 중요하게 볼지 정합니다.
- 모델은 정답 문장을 저장하는 대신 수많은 가중치에 패턴을 분산해 담지만, 일부 자료를 그대로 암기할 수도 있습니다.
- 학습 데이터에서 오차가 작다는 사실만으로 처음 보는 현실에서도 정확하고 안전하다고 말할 수 없습니다.
01 · What Learning Means
사람이 규칙을 쓰는 대신, 예시에서 규칙의 모양을 찾습니다.
전통적인 프로그램과 학습 모델은 모두 사람이 목적을 정하고 컴퓨터가 계산한다는 점은 같습니다. 차이는 입력을 출력으로 바꾸는 세부 규칙을 어디에서 얻는가입니다.
규칙이 코드에 보입니다.
개발자가 ‘이 조건이면 저 행동’이라는 절차를 작성합니다. 같은 입력에는 대체로 같은 규칙이 적용되고, 잘못되면 어느 규칙을 고칠지 추적하기 쉽습니다.
예: 소득세율 표에 따라 세금을 계산규칙이 가중치에 분산됩니다.
개발자는 모델 구조, 데이터와 오차 측정법을 정하고 학습 알고리즘이 수많은 가중치를 조정합니다. 결과는 유연하지만 어떤 예시가 특정 판단을 만들었는지 설명하기 어렵습니다.
예: 사진의 픽셀 패턴으로 동물을 분류02 · Five Ingredients
학습 결과는 모델 크기 하나가 아니라 다섯 요소의 조합입니다.
같은 구조라도 무엇을 보여주고, 무엇을 정답으로 간주하고, 어떻게 수정하는지에 따라 전혀 다른 모델이 됩니다.
- 01
데이터
입력 예시와 필요하면 정답표를 제공합니다. 양보다 대표성·정확성·출처·중복·동의 여부가 중요합니다.
- 02
모델
입력에서 출력을 계산할 수 있는 함수의 틀입니다. 신경망의 층, 연결 방식과 크기가 표현할 수 있는 패턴의 범위를 바꿉니다.
- 03
손실 함수
예측이 얼마나 틀렸는지를 하나의 수치로 만듭니다. 측정하지 않은 가치는 학습 과정에서 자연스럽게 보호되지 않습니다.
- 04
최적화 방법
손실을 줄이는 방향으로 가중치를 얼마나 바꿀지 정합니다. 경사하강법과 그 변형이 널리 쓰입니다.
- 05
연산과 시간
GPU·가속기, 메모리와 전력이 더 많은 예시와 큰 모델을 반복 처리하게 합니다. 그러나 연산량이 품질과 안전을 자동 보장하지는 않습니다.
03 · Training Loop
예측하고, 틀린 정도를 재고, 조금 고치는 일을 반복합니다.
현실의 학습은 수많은 장치에 나뉘어 동시에 진행되지만 핵심 논리는 아래 순환으로 압축할 수 있습니다.
- 01학습 데이터예시 묶음을 입력
- 02순전파현재 가중치로 예측
- 03손실정답과 차이를 수치화
- 04역전파각 가중치의 영향 계산
- 05갱신손실이 줄 방향으로 이동
- 06반복다음 예시 묶음으로 계속
아주 작은 가상 예: 배달 시간 예측
거리만 사용하는 단순한 모델이 10km 배달을 25분으로 예측했지만 실제 기록은 35분이었다고 해봅시다.
현재 가중치가 만든 결과
학습 자료에 기록된 값
손실 함수가 틀린 정도를 계산
다음 예측이 길어지도록 가중치를 조정
실제 모델은 거리뿐 아니라 교통·날씨·시간 등 많은 특징을 함께 사용합니다. 한 사례에 정확히 맞추는 것이 아니라 여러 사례의 평균적인 오차를 줄이는 방향을 찾습니다.
- 배치
- 한 번의 갱신에 함께 사용하는 예시 묶음
- 스텝
- 한 배치로 예측·손실·가중치 갱신까지 마친 횟수
- 에폭
- 준비된 학습 데이터를 한 바퀴 처리한 단위
- 수렴
- 반복해도 손실이 더는 크게 줄지 않는 상태
04 · Backpropagation
역전파는 결과의 오차를 연결망의 뒤쪽에서 앞쪽으로 나눠 전달합니다.
신경망은 입력층에서 여러 중간층을 거쳐 출력을 만듭니다. 순전파가 예측을 만드는 계산이라면, 역전파는 그 계산 경로를 거꾸로 따라가며 각 가중치를 바꿀 때 손실이 어떻게 변하는지 구하는 절차입니다.
입력
픽셀, 단어 조각, 소리 같은 숫자 표현
중간 표현
단순 특징을 조합해 더 추상적인 패턴 생성
출력
분류 확률, 다음 토큰 또는 생성할 값
오차 신호
결과에서 시작해 앞선 연결의 기여도를 계산
새 가중치 = 기존 가중치 − 학습률 × 기울기기울기는 어느 방향으로 가중치를 움직일 때 손실이 커지거나 작아지는지를 나타냅니다. 학습률은 한 번에 움직이는 폭입니다.
느리게 배웁니다.
안정적일 수 있지만 필요한 지점까지 가는 데 너무 많은 시간이 걸립니다.
손실이 점차 줄어듭니다.
학습 곡선을 확인하며 속도와 안정성의 균형을 찾습니다.
정답 주변을 뛰어넘습니다.
손실이 출렁이거나 커지고 학습이 실패할 수 있습니다.
05 · Ways to Learn
모든 AI가 같은 방식으로 배우는 것은 아닙니다.
무엇을 예측하고 어디에서 피드백을 얻는지에 따라 학습 방법이 달라집니다. 실제 제품은 여러 방법을 이어서 사용합니다.
지도학습
입력과 사람이 정한 정답을 함께 보여줍니다. 스팸 분류, 결함 탐지와 수치 예측에 널리 사용됩니다.
누가 어떤 기준으로 정답을 붙였는가?자기지도학습
문장의 다음 토큰이나 가려진 부분처럼 데이터 자체에서 예측 문제를 만듭니다. 대규모 언어 모델의 사전학습에 핵심적입니다.
공개 데이터의 편향과 오류가 어떻게 반복되는가?강화학습
환경에서 행동하고 얻은 보상을 크게 만드는 정책을 배웁니다. 게임·로봇·일부 후속 학습에 쓰입니다.
보상 수치가 놓친 가치와 우회로는 무엇인가?후속 학습
지시 예시, 사람의 선호 비교와 안전 규칙으로 이미 사전학습한 모델의 응답 방식을 조정합니다.
누구의 선호가 모델의 기본 행동이 되는가?06 · Language Models
언어 모델은 방대한 문장에서 다음 토큰을 예측하며 표현을 배웁니다.
대화형 AI가 처음부터 질문에 친절히 답하도록 학습되는 것은 아닙니다. 넓은 텍스트에서 언어 패턴을 익히는 사전학습과, 지시를 따르는 행동을 만드는 후속 학습을 구분해야 합니다.
- 01
수집·정제
문서와 코드를 모아 중복, 품질, 개인 정보와 위험 자료를 처리합니다. 무엇이 포함·제외되는지가 모델의 지식과 편향을 정합니다.
- 02
토큰화
문장을 모델이 처리할 수 있는 토큰 번호의 열로 바꿉니다. 토큰은 단어 전체일 수도, 단어의 일부나 문장부호일 수도 있습니다.
- 03
다음 토큰 예측
앞선 토큰을 보고 실제 다음 토큰에 높은 확률을 주도록 훈련합니다. 같은 문서의 거의 모든 위치가 학습 예시가 될 수 있습니다.
- 04
대규모 반복
많은 장치가 배치를 나눠 처리하고 기울기를 합칩니다. 수많은 스텝을 거치며 문법, 사실의 연관, 코드와 문제 해결 패턴이 가중치에 형성됩니다.
- 05
지시·선호 학습
좋은 답의 예시와 여러 응답의 선호 비교를 이용해 대화, 도움, 거절과 안전 행동을 다듬습니다. 선호는 진실의 완전한 판정표가 아닙니다.
- 06
평가와 배포
학습에 쓰지 않은 문제, 안전 시험과 실제 사용 관찰로 능력과 실패를 확인합니다. 배포 뒤에도 새로운 오용과 환경 변화에 대한 점검이 필요합니다.
07 · Generalization & Failure
진짜 목표는 학습 자료를 맞히는 것이 아니라 처음 보는 사례에서도 작동하는 것입니다.
학습 성적만 보면 답을 외운 모델과 규칙을 넓게 익힌 모델을 구분하기 어렵습니다. 그래서 자료와 역할을 분리합니다.
- 01
학습 세트
가중치를 실제로 조정하는 데 사용
- 02
검증 세트
구조·학습률·중단 시점 같은 선택을 비교
- 03
테스트 세트
마지막에만 사용해 처음 보는 문제에 대한 성능 추정
오차가 줄어도 남는 여섯 가지 문제
과적합
학습 예시의 우연한 특징과 잡음까지 외워 새 자료에서 성능이 떨어집니다.
편향된 표본
데이터에 적게 등장하거나 잘못 기록된 집단과 상황에서 오류가 커집니다.
지름길 학습
의도한 원리 대신 배경·형식·표시처럼 쉬운 단서를 이용해 정답을 맞힙니다.
데이터 누출
평가 문제나 그와 매우 비슷한 자료가 학습에 들어가 성능이 실제보다 높아집니다.
분포 변화
배포 환경이 학습 당시와 달라지면 과거에 유효한 패턴이 더는 맞지 않습니다.
목표 불일치
측정 가능한 손실은 줄었지만 사람이 실제로 원하는 품질·공정성·안전은 나빠질 수 있습니다.
학습 발표를 볼 때 확인할 질문
- 01
데이터의 출처, 수집 동의, 기간과 대표성이 공개됐는가?
- 02
학습·검증·테스트 자료가 실제로 분리됐는가?
- 03
하나의 평균 점수 외에 집단·언어·환경별 실패가 공개됐는가?
- 04
손실과 보상이 현실에서 보호해야 할 가치를 충분히 반영하는가?
- 05
제작사 밖의 연구자가 결과를 재현하거나 독립 평가할 수 있는가?
- 06
배포 뒤 오류·오용·환경 변화를 계속 측정하고 중단할 수 있는가?
읽은 내용을 스스로 확인하기
손실이 0에 가까우면 안전한 AI인가?
아닙니다. 손실은 정해진 데이터와 목표에 대한 오차일 뿐입니다. 데이터 밖의 상황, 측정하지 않은 가치와 실제 사용 권한은 별도로 평가해야 합니다.
역전파가 모델에 정답 규칙을 직접 알려주는가?
아닙니다. 현재 오차에서 각 가중치가 손실에 미친 방향과 크기를 계산합니다. 최적화 도구가 그 신호를 이용해 가중치를 조금씩 바꿉니다.
언어 모델은 인터넷 문서를 데이터베이스처럼 검색하는가?
기본 모델은 학습 중 형성된 가중치로 다음 토큰 확률을 계산합니다. 일부 문장을 암기할 수 있지만 일반적인 생성은 저장 문서를 그대로 검색하는 과정과 다릅니다. 별도의 검색 도구가 연결될 수도 있습니다.
좋은 테스트 점수가 실제 환경의 성공을 보장하는가?
보장하지 않습니다. 테스트가 실제 사용자와 환경을 잘 대표해야 하며, 배포 이후의 분포 변화·상호작용·오용까지 계속 관찰해야 합니다.
08 · Study Path
직접 움직여 보고, 수학을 더하고, 마지막에 모델 전체를 만들어 보세요.
모든 자료를 처음부터 읽을 필요는 없습니다. 자신의 목표에 맞는 단계에서 시작하고, 이해되지 않는 용어가 나오면 앞 단계로 돌아가면 됩니다.
입문 · 먼저 체험
30분–3시간중급 · 코드와 수학 연결
수일–수주심화 · 전체 구조 이해
수주 이상이제 학습을 마친 모델이 새 입력을 처리하는 ‘추론’으로 이어가세요. 핵심 구분은 간단합니다. 학습은 가중치를 바꾸고, 추론은 그 가중치를 사용합니다.