Linear Regression (Summary)
·
Programming/ML
0. Linear Regression 분류Linear Regression ├── 1. Error model 기준 │ ├── OLS 계열 │ │ ├── X: fixed or error-free │ │ ├── y: noise 있음 │ │ └── $\text{Var}(\varepsilon) = \sigma^2\mathbf{I}$│ │ │ ├── WLS 계열 │ │ ├── X: fixed or error-free │ │ ├── y: n..
[Fitting] Total Least Squares Regression
·
Programming/ML
Total Least Squares (TLS) RegressionTotal Least Squares (TLS) 회귀는 데이터의 모든 방향에서의 오차를 최소화하는 회귀 방법임.이는 특히 독립 변수 와 종속 변수 모두에 오차가 포함되어 있는 경우에 유용함: OLS는 종속변수 $\mathbf{y}$에만 오차를 가정.TLS는 주로 행렬 분해 기법 (SVD or EVD)을 사용하여 문제를 해결함.Fitting에서 사용되어 데이터의 모든 방향에서의 오차를 최소화시키는 regression coefficients를 찾음.2024.06.13 - [Programming/DIP] - [CV] Fitting [CV] FittingML, computer vision과 image processing에서의 Fitting목표ML, ..
[Math] Weighted Least Squares
·
.../Math
Weighted Least Squares(WLS)는sample마다 error variance가 다를 수 있다고 보고,각 residual 제곱항에 보통 $\frac{1}{\sigma_i^2}$에 비례하는 weight을 주어 추정하는 Least Squares 방법임.아래와 같이 error term의 variance가 일정하지 않은 상태: $\text{Var}(\epsilon_i)=\sigma_i^2$를 가리켜 Hetero(서로다른)scedasticity(흩어짐, 산포, dispersion)라고 하며이 같은 경우 WLS를 사용해야 한다. Weighted Least Sqaures는 각 샘플 포인트마다 weight을 다르게 주어 구하는 Least Squares임.OLS 의 경우, 모든 샘플 포인트에 동일한 wei..