[Math] Maximum Likelihood Estimator: M-Estimator
·
Programming/DIP
1. M-Estimator란M- Estimator는 Noise 에 Rubust 한 Statistical Estimator(통계적추정방법) 의 하나로서,Maximum Likelihood Estimatro (MLE)를 일반화한 방법임.이는 모델 parameter $\boldsymbol{\theta}$를 추정하기 위해residual $\mathbf{r}$에 대한 특정 object function을 정의하여 최소함.기존의 Least Square 에서 사용하는 object function인 $\|\mathbf{r}\|^2$ 대신에,outlier에 더 강건한 object function인 $\rho(\mathbf{r})$를 정의하여 사용함.2. Optimizer Problem으로 나타낸 M-Estimator일반적인..
[OpenCV] K-Means Tree Hyper-parameters: FLANN based Matcher
·
Programming/DIP
이 글은 OpenCV에서 K-Means Tree 를 중심으로FLANN based Matcher의 하이퍼파라미터를 정리한 글임.https://gist.github.com/dsaint31x/e06fee90d97dd177afe4e38c5b9db68c dip_kmeans_hyperparams.ipynbdip_kmeans_hyperparams.ipynb. GitHub Gist: instantly share code, notes, and snippets.gist.github.com1. K-Means Tree란K-Means Tree는OpenCV의 FLANN (Fast Library for Approximate Nearest Neighbors)에서사용 가능한 고속 근사 검색 알고리즘 중 하나.K-Means Tree는대..
[DIP] K-Means Tree: Nearest Neighbor Search
·
Programming/DIP
https://gist.github.com/dsaint31x/f7f59e6b99f6ef3dc46e4e7da8826cd9 dip_kmeans_tree.ipynbdip_kmeans_tree.ipynb. GitHub Gist: instantly share code, notes, and snippets.gist.github.com 0. 소개K-Means Tree는대규모 데이터에서효율적으로 Nearest Neighbor Search (최근접 이웃 검색)을 수행하기 위해계층적으로 데이터를 K개의 cluster로 clustering하여일종의 Binary Tree 자료구조 를 만드는 알고리즘.k-d Tree에서 k는 검색하는 vector space의 dimensionality에 해당하며,K-Means Tree는 각 d..
[SS] Discrete System Representation: DE, MA, AR, ARMA, ARIMA, SARIMA
·
.../Signals and Systems
신호처리 관점에서의 시스템 표현: 차분 방정식과 MA, AR, ARMA, ARIMA, SARIMA 모델신호처리에서 이산 신호 시스템은 FIR(Finite Impulse Response) 시스템과 IIR(Infinite Impulse Response) 시스템으로 분류할 수 있음.이들은 difference equation(차분 방정식)을 통해 수학적으로 표현가능함.그러나 차분 방정식만으로는 신호의 주파수 응답, 자기 상관성, 노이즈 제거 등의 다양한 특성을 효과적으로 반영한 모델링이 어려움. 이를 보완하기 위해 다음의 확장된 형태의 표현(representation, model)이 도입됨.MA(Moving Average),AR(Auto-Regressive),ARMA(Auto-Regressive Moving A..
[Math] Exponential Moving Average (EMA)
·
.../Math
Definitionmoving average (=rolling average or running average)데이터 포인트를 분석하기 위한전체 데이터 집합에서 연속적인 부분 집합들의 평균을 계산하는통계적 방법이다.MA 중에서도 EMA는최근의 데이터에 더 큰 가중치를 주고오래된 데이터일수록 지수적으로(exponentially) 감소하는 가중치를 적용하여계산하는 이동 평균 임.주의: EMA는 Auto-regressive model임.The EMA $y$ for a series $x$ may be calculated recursively:$$\begin{aligned}y_{t}&={\begin{cases}x_{1},&t=1 \\ \beta \cdot x_{t}+(1-\beta )\cdot y_{t-1},&t..
[SS] Structural Characteristics of Discrete Signals (or Time-series Data) : 작성중
·
.../Signals and Systems
Discrete Signal과 Time-series DataDiscrete signal은 이산 시간(discrete time)에서 측정된 값을 가지는 Signal이는 일반적으로 time series data의 한 형태로 볼 수 있음.시간의 discrete point에서 정의된 signal은 시간적 패턴과 통계적 특성을 분석하기 위해 동일한 방법론이 적용될 수 있음:Difference EquationDigital ConvolultionMAARARMAARIMASARIMA2023.09.01 - [Computer] - [ML] Time Series 란? [ML] Time Series 란?시계열 데이터라고 불리는 time series data는 쉽게 생각해서 일정한 시간 간격으로 배치된 seqence (수열) 을..