[ML] Minkowski Distance (L-p Norm)
·
Programming/ML
Minkowski 거리는L-p Norm의 한 형태두 개의 점 사이의 distance(거리)를 일반화한 metric.distance의 개념은 다음 접은 글을 참고:더보기https://dsaint31.me/mkdocs_site/DIP/cv2/etc/dip_metrics/#distance-function-or-metric BME228Metrics for Image Quality Image restoration의 경우, image degradation의 원인을 modeling하고 해당 model을 통해 ideal image에 가깝게 복원하는 것을 의미함. 주관적인 화질을 개선하는 image enhancement와 달리, image restodsaint31.meL-p Norm 정의:L-p Norm은 vector의..
[ML] scikit-learn: Custom Transformer
·
Programming/ML
scikit-learn에서 Custom Transformer 구현하기 scikit-learn에서는 데이터 전처리를 위한 다양한 transformer를 제공하지만,경우에 따라서는 특정 요구 사항에 맞는 custom transformer를 직접 구현해야 할 때가 있음.fit를 통해 학습데이터에서 특정 parameters의 값을 구해야할 필요가 없다면sklearn.preprocessing.FunctionTransformer 를 사용하는게 보다 나음. 이 경우,BaseEstimator와TransformerMixin을 상속받아 구현함.반드시 구현해야하는 methods 는__init__(self, ...) 생성자 ** : explicit parameters (=hyper-parameters)fit(self, X, ..
[ML] Embedding
·
Programming/ML
0. Embedding의 수학적 정의:2024.09.28 - [Programming/ML] - [ML] Embedding의 수학적 정의 및 Embedding Layer [ML] Embedding의 수학적 정의 및 Embedding Layer1. Embedding의 수학적 정의두 vector space(벡터 공간) $V$와 $E$가 있을 때,함수 $f: V \to E$가 다음 조건을 만족하면 embedding이라고 정의됨.$f$는 단사 함수(injective function).즉, 모든 $\textbf{v}_1, \textbf{v}_2 \indsaint31.tistory.com1. 임베딩(Embedding)의 정의 및 본질:정의:고차원 이산 데이터(high-dimensional discrete data)를..
[ML] Embedding의 수학적 정의 및 Embedding Layer
·
Programming/ML
1. Embedding의 수학적 정의두 vector space(벡터 공간) $V$와 $E$가 있을 때,함수 $f: V \to E$가 다음 조건을 만족하면 embedding이라고 정의됨.$f$는 단사 함수(injective function).즉, 모든 $\textbf{v}_1, \textbf{v}_2 \in V$에 대해:$f(\textbf{v}_1) = f(\textbf{v}_2) \Rightarrow \textbf{v}_1 = \textbf{v}_2$$f$ 는 연속 함수(continuous function) 임.$f$의 Inverse function $f^{-1}$:$f(V) \to V$는 $f(V) \subset E$의 부분집합에서 $V$ 로 가는 (부분적인) 함수임: $f$가 injective이지 s..
[ML] Kernel Function 이란: Kernel Trick 포함
·
Programming/ML
Kernel Function은머신러닝, 특히 SVM(Support Vector Machine) 과 같은 알고리즘에서 중요한 역할을 하는 함수로Similarity를 측정하거나데이터를 고차원 특성 공간으로 매핑하여 비선형 문제를 선형적으로 처리할 수 있는 과정에 핵심적인 역할을 수행함.1. 수학적 정의:Kernel function $K(\textbf{x}, \textbf{y})$는두 데이터 포인트 $\textbf{x}$와 $\textbf{y}$ 사이의 similarity을 측정하는 function.이는 고차원 특성 공간에서의 내적(inner product)을 계산하는 것과 동등함.즉, Kernel function $K(\textbf{x}, \textbf{y}) = \langle \phi(\textbf{x})..
[ML] Radial Basis Function Kernel (RBF Kernel)
·
Programming/ML
RBF KernelRBF 커널 또는 Gaussian 커널이라고도 불리는 함수머신 러닝에서 Kernel Function으로 널리 사용되는 함수서포트 벡터 머신(SVM), 커널 PCA 등의 알고리즘에서 사용.similarity 계산 및 고차원 feature space에 매핑후 inner product 값을 구하는 등에서 사용됨.similarity metric으로 사용됨 (distnace function은 아님)distance 와 similarity의 차이가 명확하지 않으면 다음 접은 글을 참고더보기https://dsaint31.me/mkdocs_site/DIP/cv2/etc/dip_metrics/#distance-function-or-metric BME228Metrics for Image Quality Im..