🧠

Neural Network

뉴런을 모방한 연결주의 학습 모델

신경망(Neural Network)은 인간 뇌의 뉴런 연결을 모방한 수학적 모델입니다. 입력층(Input Layer), 은닉층(Hidden Layer), 출력층(Output Layer)으로 구성되며, 각 뉴런은 가중치(weight)와 편향(bias)을 가집니다. 순전파(forward pass)로 예측값을 계산하고, 손실 함수(loss function)로 오차를 측정한 뒤, 역전파(backpropagation)와 경사하강법(gradient descent)으로 가중치를 업데이트합니다. 이 과정을 수천~수백만 번 반복하면 패턴을 학습하게 됩니다.

핵심 개념

1

입력 데이터가 입력층의 뉴런에 전달

2

각 뉴런이 (입력 × 가중치 + 편향) 계산 후 활성화 함수(ReLU, Sigmoid 등) 적용

3

은닉층을 거쳐 출력층에서 최종 예측값 생성 (순전파)

4

손실 함수로 예측값과 정답의 차이(오차) 계산

5

역전파로 각 가중치가 오차에 기여한 정도(기울기) 계산

6

경사하강법으로 가중치 업데이트 — 이 과정을 에폭(epoch)마다 반복

장점

  • 복잡한 비선형 패턴 학습 가능
  • 범용성 높음 (이미지, 텍스트, 음성 등)
  • 데이터가 많을수록 성능 향상
  • 특성 엔지니어링 자동화

단점

  • 대량의 데이터와 연산 자원 필요
  • 블랙박스 — 왜 그런 결과인지 해석 어려움
  • 과적합(overfitting) 위험
  • 하이퍼파라미터 튜닝 복잡

사용 사례

이미지 분류 (CNN) 자연어 처리 (RNN, Transformer) 음성 인식 추천 시스템 자율 주행