잡다한 것들
-
2. 활성함수(Activation Function)잡다한 것들 2020. 11. 7. 17:14
1. 퍼셉트론에서 임계치(theta)를 넘기면 1, 아니면 0을 내보냈다. 이 부분을 활성(화) 함수라고 하는데, 활성함수는 여러 가지 있다. 0. 선형함수가 활성함수로 부적절한 이유 선형은 반복해도 최종값은 입력의 상수배이며, 이는 단층으로도 같은 효과를 낼 수 있다. 그래서 비선형 활성 함수를 쓴다. 1. 계단함수 import matplotlib.pyplot as plt import numpy as np def h(x): return np.array(x > 0) x = np.arange(-5, +5, 0.1) y = h(x) plt.plot(x, y) plt.show() 0 또는 1. 계단 모양. 그래서 계단 함수(step function)이라 한다. 2. 시그모이드 함수 f(x) = 1 / (1 +..
-
1. 퍼셉트론(perceptron)잡다한 것들 2020. 11. 6. 23:17
퍼셉트론(perceptron) 인공신경망의 한 종류 1957년에 코넬 항공 연구소(Cornell Aeronautical Lab)의 프랑크 로젠블라트 (Frank Rosenblatt)에 의해 고안되었다. 각 노드의 '입력값'과 '가중값'의 곱을 모두 합한 값이 '임계값'보다 크면 결과값으로 1을 출력한다. 그렇지 않으면 결과값으로 0 (또는 -1)을 출력한다. 입력값을 x1, x2라 하고, 가중값을 w1, w2라 하고, 임계값을 theta라 하면 다음과 같은 함수를 만들수 있다. def perceptron(x1, x2): w1, w2, theta = .4, .4, .7 return 0 if x1 * w1 + x2 * w2