[Math] Derivative of Logistic Function

2023. 9. 25. 09:35·.../Math
728x90
728x90

Derivative (도함수) of Logistic Function (Sigmoid라고도 불림)

$y=\sigma(x)=\dfrac{1}{1+e^{-x}}$ 를 미분하면 다음과 같음.

$$\frac{d}{dx}\sigma(x)= \sigma(x)(1-\sigma(x))$$


graph


유도

유도는 다음과 같음.

$$\begin{aligned}\frac{d}{dx}\sigma(x)&= \dfrac{0\times(1+e^{-1}) - 1\times(-e^{-1})}{(1+e^{-x})^2}\\&=\dfrac{e^{-x}}{(1+e^{-x})^2}\\ &= \frac{1}{(1+e^{-x})}\frac{e^{-x}}{(1+e^{-x})}\\ &= \frac{1}{(1+e^{-x})}\left( 1-\dfrac{1}{(1+e^{-x})}\right) \\ &= \sigma(x) (1-\sigma(x)) \end{aligned}$$


참고자료

2024.02.28 - [.../Math] - [Math] The Key Rules of Differentiation

 

[Math] The Key Rules of Differentiation

The Key Rules of Differentiation 1. Power rule (다항식의 미분에 핵심) If $f(x)=x^n$, where $n \in \mathbb{R}$, then the derivative of $f$ with respect to $x$ is $f^\prime(x)=nx^{n-1}$. 2. Constant rule if $f(x)=c$ where $c \in \mathbb{R}$ and cons

dsaint31.tistory.com

 

'... > Math' 카테고리의 다른 글

[Math] Euler's Number (자연상수, 오일러 수) / Euler's Identity  (0) 2023.10.25
[Math] Poisson Distribution (포아송분포)  (2) 2023.10.25
[Math] Error Function  (0) 2023.09.24
[Math] The Cauchy-Schwarz Inequality  (0) 2023.08.22
[Math] Bernoulli Distribution (베르누이 분포)  (0) 2023.08.17
'.../Math' 카테고리의 다른 글
  • [Math] Euler's Number (자연상수, 오일러 수) / Euler's Identity
  • [Math] Poisson Distribution (포아송분포)
  • [Math] Error Function
  • [Math] The Cauchy-Schwarz Inequality
dsaint31x
dsaint31x
    반응형
    250x250
  • dsaint31x
    Dsaint31's blog
    dsaint31x
  • 전체
    오늘
    어제
    • 분류 전체보기 (740)
      • Private Life (13)
      • Programming (56)
        • DIP (104)
        • ML (26)
      • Computer (119)
        • CE (53)
        • ETC (33)
        • CUDA (3)
        • Blog, Markdown, Latex (4)
        • Linux (9)
      • ... (351)
        • Signals and Systems (103)
        • Math (172)
        • Linear Algebra (33)
        • Physics (42)
        • 인성세미나 (1)
      • 정리필요. (54)
        • 의료기기의 이해 (6)
        • PET, MRI and so on. (1)
        • PET Study 2009 (1)
        • 방사선 장해방호 (4)
        • 방사선 생물학 (3)
        • 방사선 계측 (9)
        • 기타 방사능관련 (3)
        • 고시 (9)
        • 정리 (18)
      • RI (0)
      • 원자력,방사능 관련법 (2)
  • 블로그 메뉴

    • Math
    • Programming
    • SS
    • DIP
  • 링크

    • Convex Optimization For All
  • 공지사항

    • Test
    • PET Study 2009
    • 기타 방사능관련.
  • 인기 글

  • 태그

    Term
    random
    Vector
    signal_and_system
    Programming
    numpy
    SIGNAL
    Probability
    function
    Convolution
    인허가제도
    math
    signals_and_systems
    Optimization
    fourier transform
    검사
    opencv
    SS
    linear algebra
    Python
  • 최근 댓글

  • 최근 글

  • hELLO· Designed By정상우.v4.10.3
dsaint31x
[Math] Derivative of Logistic Function
상단으로

티스토리툴바