역전파

[실습] numpy로 만드는 단층 신경망 - 이진 분류 2

우리는 이진 분류 문제를 예측하는 단층 신경망을 만들어 볼 것이다. 이진 분류 문제에서는 Pulsar 데이터를 가지고 별인지 펄서인지 예측하는 신경망을 구축해 볼 예정이다. 데이터 셋은 Kaggle에 있는 Pursar dataset 에서 받아서 사용 할 수 있다. ✔︎ 데이터 살펴보기 import numpy as np import pandas as pd df = pd.read_csv('data/pulsar_stars.csv') 총 8개의 독립변수와 하나의 종속변수로 약 17800여개의 데이터셋이 준비되어 있다. 📍 이진 단층 신경망을 만들기 위한 설계도 1. 모듈 불러오기 import numpy as np import csv # 실험 결과를 재현하기 위해 난수 발생패턴을 고정시키는 np.random.se..

[실습] numpy로 만드는 단층 신경망 - 회귀 문제

Tensorflow 없이 numpy를 이용해서 단층 신경망을 만들어 보자. 우라는 Abalone 데이터를 가지고 전복의 나이를 예측하는 신경망을 구축해 볼 예정이다. 데이터 셋은 Kaggle에 있는 Abalone Dataset 에서 받아서 사용 할 수 있다. ✔︎ 데이터 살펴보기 import pandas as pd df = pd.read_csv('data/abalone.csv') df.head() ◼ 변수 설명 독립변수는 Sex ~ Shell weight 까지 8개로 구성되어 있고, 종속변수는 Rings 이다. 데이터는 총 4177개로 준비되어 있다. 📌 단층 신경망을 만들기 위한 설계도 우리는 위의 설계도 순서대로 함수를 하나하나 만들어 볼 것이다. 1. 모듈 불러오기 import numpy as np..

[DL] 오차 역전파 Error Backpropagation

순전파 (Feedforward) Input에서 Output으로 가중치를 업데이트하면서 활성화 함수를 통해서 결과값을 가져오는 것을 순전파(foward)라고 한다. 역전파 (Backpropagation) 역전파 알고리즘은 input과 output 값을 알고 있는 상태에서 신경망을 학습 시키는 방법이다. 역전파 방법은 결과 값을 통해서 다시 역으로 input 방향으로 오차를 다시 보내며 가중치를 재업데이트 하는 것이다. 결과에 영향을 많이 미친 노드(뉴런)에 더 많은 오차를 돌려준다. 계산 그래프 (computational graph) 계산 그래프(computational graph)는 계산 과정을 그래프로 나타낸 것 그래프는 복수의 노드 node 와 에지 edge 로 표현된다. 문제 현빈 군은 슈퍼에서 사..