| ์ผ | ์ | ํ | ์ | ๋ชฉ | ๊ธ | ํ |
|---|---|---|---|---|---|---|
| 1 | 2 | 3 | 4 | |||
| 5 | 6 | 7 | 8 | 9 | 10 | 11 |
| 12 | 13 | 14 | 15 | 16 | 17 | 18 |
| 19 | 20 | 21 | 22 | 23 | 24 | 25 |
| 26 | 27 | 28 | 29 | 30 | 31 |
- abap
- ์ฝ๋ฉํ ์คํธ
- ๋ฐ์ดํฐ ๋ถ์
- ํ์ด์ฌ
- erp
- sap
- react
- github
- ํ๋ธ๋ก
- AWS
- ๊นํ๋ธ
- ๋ฐฑ์ค
- ์ฝํ
- Git
- ์์ฐ์ด์ฒ๋ฆฌ
- DFS
- ํ๋ธ๋ฃจ
- ์๊ณ ๋ฆฌ์ฆ
- ๋ฐ์ดํฐ๋ถ์
- ๋ฆฌ์กํธ
- AI
- ์ธ๊ณต์ง๋ฅ
- ๋ฅ๋ฌ๋
- ์๋ง์กด์น์๋น์ค
- ํ ์คํธ๋ง์ด๋
- tableau
- ๋น ๋ฐ์ดํฐ
- nlp
- ํ ์คํธ๋ถ์
- ์๋ฐ์คํฌ๋ฆฝํธ
- Today
- Total
๋ชฉ๋กactivation function (1)
Hey Tech
[Deep Learning] Activation Function ๊ฐ๋
๋ฐ ์ข
๋ฅ: sign, tanh, sigmoid, softmax, ReLU, Leaky ReLU
๐ ๋ชฉ์ฐจ 1. ํ์ฑํ ํจ์์ ๊ฐ๋ 2. ํ์ฑํ ํจ์์ ์ข ๋ฅ 2.1. Sign ํจ์ 2.2. Sigmoid ํจ์ 2.3. Tanh ํจ์ 2.4. Softmax ํจ์ 2.5. ReLU ํจ์ 2.6. Leaky ReLU ํจ์ 1. ํ์ฑํ ํจ์์ ๊ฐ๋ ํ์ฑํ ํจ์(Activation Function)๋ ํผ์ ํธ๋ก (Perceptron)์ ์ถ๋ ฅ๊ฐ์ ๊ฒฐ์ ํ๋ ๋น์ ํ(non-linear) ํจ์์ ๋๋ค. ์ฆ, ํ์ฑํ ํจ์๋ ํผ์ ํธ๋ก ์์ ์ ๋ ฅ๊ฐ์ ์ดํฉ์ ์ถ๋ ฅํ ์ง ๋ง์ง ๊ฒฐ์ ํ๊ณ , ์ถ๋ ฅํ๋ค๋ฉด ์ด๋ค ๊ฐ์ผ๋ก ๋ณํํ์ฌ ์ถ๋ ฅํ ์ง ๊ฒฐ์ ํ๋ ํจ์์ ๋๋ค. ํผ์ ํธ๋ก ์ ๋ํ ์์ธํ ๋ด์ฉ์ ์ด๊ณณ์ ์ฐธ๊ณ ํด ์ฃผ์ธ์. ์๋ ๊ทธ๋ฆผ 1์ ๋ ธ๋์์ผ๋ก ์์น ํ ๋ถ๋ถ์ด ํผ์ ํธ๋ก ์ ํ์ฑํ ํจ์ ๋ถ๋ถ์ ๋๋ค. 2. ํ์ฑํ ํจ์์ ์ข ๋ฅ 2.1. Sign ํจ์ ์์ ํผ์ ..