| ์ผ | ์ | ํ | ์ | ๋ชฉ | ๊ธ | ํ |
|---|---|---|---|---|---|---|
| 1 | 2 | 3 | 4 | |||
| 5 | 6 | 7 | 8 | 9 | 10 | 11 |
| 12 | 13 | 14 | 15 | 16 | 17 | 18 |
| 19 | 20 | 21 | 22 | 23 | 24 | 25 |
| 26 | 27 | 28 | 29 | 30 | 31 |
- ํ ์คํธ๋ง์ด๋
- erp
- ํ ์คํธ๋ถ์
- ๋ฐฑ์ค
- ๋ฐ์ดํฐ๋ถ์
- nlp
- ํ์ด์ฌ
- ๋ฅ๋ฌ๋
- ๋ฐ์ดํฐ ๋ถ์
- github
- AI
- sap
- ๋ฆฌ์กํธ
- ํ๋ธ๋ฃจ
- ๊นํ๋ธ
- ์ฝ๋ฉํ ์คํธ
- tableau
- DFS
- abap
- ์๊ณ ๋ฆฌ์ฆ
- react
- AWS
- ๋น ๋ฐ์ดํฐ
- ์๋ฐ์คํฌ๋ฆฝํธ
- ์๋ง์กด์น์๋น์ค
- Git
- ์์ฐ์ด์ฒ๋ฆฌ
- ์ฝํ
- ํ๋ธ๋ก
- ์ธ๊ณต์ง๋ฅ
- Today
- Total
๋ชฉ๋กactivation function (1)
DATA101
[Deep Learning] Activation Function ๊ฐ๋
๋ฐ ์ข
๋ฅ: sign, tanh, sigmoid, softmax, ReLU, Leaky ReLU
๐ ๋ชฉ์ฐจ 1. ํ์ฑํ ํจ์์ ๊ฐ๋ 2. ํ์ฑํ ํจ์์ ์ข ๋ฅ 2.1. Sign ํจ์ 2.2. Sigmoid ํจ์ 2.3. Tanh ํจ์ 2.4. Softmax ํจ์ 2.5. ReLU ํจ์ 2.6. Leaky ReLU ํจ์ 1. ํ์ฑํ ํจ์์ ๊ฐ๋ ํ์ฑํ ํจ์(Activation Function)๋ ํผ์ ํธ๋ก (Perceptron)์ ์ถ๋ ฅ๊ฐ์ ๊ฒฐ์ ํ๋ ๋น์ ํ(non-linear) ํจ์์ ๋๋ค. ์ฆ, ํ์ฑํ ํจ์๋ ํผ์ ํธ๋ก ์์ ์ ๋ ฅ๊ฐ์ ์ดํฉ์ ์ถ๋ ฅํ ์ง ๋ง์ง ๊ฒฐ์ ํ๊ณ , ์ถ๋ ฅํ๋ค๋ฉด ์ด๋ค ๊ฐ์ผ๋ก ๋ณํํ์ฌ ์ถ๋ ฅํ ์ง ๊ฒฐ์ ํ๋ ํจ์์ ๋๋ค. ํผ์ ํธ๋ก ์ ๋ํ ์์ธํ ๋ด์ฉ์ ์ด๊ณณ์ ์ฐธ๊ณ ํด ์ฃผ์ธ์. ์๋ ๊ทธ๋ฆผ 1์ ๋ ธ๋์์ผ๋ก ์์น ํ ๋ถ๋ถ์ด ํผ์ ํธ๋ก ์ ํ์ฑํ ํจ์ ๋ถ๋ถ์ ๋๋ค. 2. ํ์ฑํ ํจ์์ ์ข ๋ฅ 2.1. Sign ํจ์ ์์ ํผ์ ..