다음은 Scalar-Valued Function에 기반.
증가/감소
Function 의 증가/감소 는 1st derivative 으로 판정 가능.
- $\frac{df(a)}{dx} > 0 $ 이면, $f(x)$는 $x=a$ 에서 증가 상태임.
- $\frac{df(a)}{dx} <0 $ 이면, $f(x)$는 $x=a$ 에서 감소 상태임.
미분가능한 함수에서 극값(극대/극소)의 조건.
$x=a$가 extremum point에서 $f(x)$가 extremum value 이려면
- $\frac{df(a)}{dx} =0$ 이 성립
multi-variable function 인 경우, gradient가 0.
2023.07.10 - [.../Math] - [Math] Stationary point (or Critical point)
[Math] Stationary point (or Critical point)
Stationary point (or Critical point, 정류점)(Convex) Opimization에서 찾고자하는 solution은 objective function에 대한 local minimum이다.이를 곧바로 찾기는 쉽지 않기 때문에, solution이 될 수 있는 후보들을 먼저 gradie
dsaint31.tistory.com
Convex 와 Concave
2차함수의 extremum point에서,
$ f^{\prime\prime} > 0$ 인 경우, convex: Multi-Variable Function인 경우 Positive Definite!
$ f^{\prime\prime} < 0$ 인 경우, concave: Multi-Variable Function인 경우 Negative Definite!
2023.07.10 - [.../Math] - [Math] Second Order Condition : Convexity
[Math] Second Order Condition : Convexity
First order condition과 함께 convexity를 판정하는 조건. Second Order ConditionReal Vector Space $\mathbb{R}^n$에서 $f:\mathbb{R}^n \to \mathbb{R}$이 second derivative 를 구할 수 있다면,다음의 두 조건이 필요충분조건임.$f$
dsaint31.tistory.com
Infelction Point (변곡점)
$f^{\prime\prime} =0$ 이면서
- 변곡점을 기준으로 $f^{\prime\prime}$ 의 sign이 바뀜.
- 참고로 1st derivative가 0일 이유는 없음.
참고: Saddle Point 와 구분할 것.
Saddle Point는 특정 방향에서 증가와 감소가 동시에 나타난 점임.
- 주로 Multi-Variable Function에서 사용되며
- Gradient가 0이면서 Hessian Matrix에서 양과 음의 Eigenvalue를 동시에 가짐.
'... > Math' 카테고리의 다른 글
[Math] 예제: Domain, Codomain, Image, Range, Preimage, Coimage (0) | 2025.02.07 |
---|---|
[Math] Laplace Distribution (1) | 2025.01.13 |
[Math] Binomial Theorem (이항정리) (0) | 2025.01.04 |
[Math] Exponential Moving Average (EMA) (0) | 2024.11.22 |
[Math] Basis (0) | 2024.10.28 |