[ML] Embedding의 수학적 정의 및 Embedding Layer
·
Programming/ML
1. Embedding의 수학적 정의두 vector space(벡터 공간) $V$와 $E$가 있을 때,함수 $f: V \to E$가 다음 조건을 만족하면 embedding이라고 정의됨.$f$는 단사 함수(injective function).즉, 모든 $\textbf{v}_1, \textbf{v}_2 \in V$에 대해:$f(\textbf{v}_1) = f(\textbf{v}_2) \Rightarrow \textbf{v}_1 = \textbf{v}_2$$f$ 는 연속 함수(continuous function) 임.$f$의 Inverse function $f^{-1}: f(V) \to V$는 $f(V) \subset E$의 부분집합에서 $V$ 로 가는 함수이며 이역시 연속이어야 함.2021.09.14 - [..
[ML] Kernel Function 이란: Kernel Trick 포함
·
Programming/ML
Kernel Function은머신러닝, 특히 SVM(Support Vector Machine) 과 같은 알고리즘에서 중요한 역할을 하는 함수로Similarity를 측정하거나데이터를 고차원 특성 공간으로 매핑하여 비선형 문제를 선형적으로 처리할 수 있는 과정에 핵심적인 역할을 수행함.1. 수학적 정의:Kernel function $K(\textbf{x}, \textbf{y})$는두 데이터 포인트 $\textbf{x}$와 $\textbf{y}$ 사이의 similarity을 측정하는 function.이는 고차원 특성 공간에서의 내적(inner product)을 계산하는 것과 동등함.즉, Kernel function $K(\textbf{x}, \textbf{y}) = \langle \phi(\textbf{x})..
[Statistics] Tail, Head, and Distribution (w/ Moment)
·
.../Math
확률 분포 등에서 헷갈리기 쉬운 tail, head 와 heavy tailed와 light tailed, 그리고 Right skewed 와 Left skewed를 정리.1. Head데이터 분포에서 중심부주로 중앙값(median)의 위치라고 보면 거의 맞음. mean을 사용하기도 하지만, heavy tailed나 skewed의 경우 mean은 적절치 못할 수 있음2. Tail극단적인 값들이 나타나는 끝부분을 의미분포의 양끝에 있는 극단적인 값들로 구성. 3. Heavy-tailed 분포 Heavy-tailed 분포는 꼬리가 두꺼워 극단적인 값들이 자주 발생하는 분포입니다.꼬리가 천천히 0으로 수렴하며, 금융 시장에서의 큰 손실이나 자연 재해와 같은 드물고 극단적인 사건들을 잘 설명.참고oai_citatio..
[ML] Radial Basis Function Kernel (RBF Kernel)
·
Programming/ML
RBF KernelRBF 커널 또는 Gaussian 커널이라고도 불리는 함수머신 러닝에서 Kernel Function으로 널리 사용되는 함수서포트 벡터 머신(SVM), 커널 PCA 등의 알고리즘에서 사용.similarity 계산 및 고차원 feature space에 매핑후 inner product 값을 구하는 등에서 사용됨.similarity metric으로 사용됨 (distnace function은 아님)distance 와 similarity의 차이가 명확하지 않으면 다음 접은 글을 참고더보기https://dsaint31.me/mkdocs_site/DIP/cv2/etc/dip_metrics/#distance-function-or-metric BME228Metrics for Image Quality Im..
[DIP] cv2.convertSacleAbs(): contrast, brightness 수동조정
·
Programming/DIP
cv2.convertScaleAbs()이 함수는 주로 image의 brightness(밝기)와 contrast(대비)를 조절하는데 사용됨.alpha parameter로 contrast를 조절.beta parameter로 brightness를 조절.기본 구문dst = cv2.convertScaleAbs(src[, dst[, alpha[, beta]]])src: 입력 이미지 (numpy 배열)dst: 출력 이미지 (선택적)alpha: 스케일 팩터 (기본값 1)beta: 추가할 값 (기본값 0)동작 원리이 함수는 각 픽셀에 대해 다음 연산을 수행:dst(x,y) = saturate( |src(x,y) * alpha + beta| )where,saturate 함수는 결과값을 [0,255]로 제한.주요 특징입력 ..
[SS] Eigenmode, Eigenvector, and System mode
·
.../Signals and Systems
시스템 모드(system mode)는시스템의 고유 모드(eigenmode),즉 시스템의 고유벡터(eigenvector),시스템의 고유함수(eigenfunction)들과 동일한 개념임. 이는 시스템 고유의 response를 결정하는 핵심 요소임. 시스템을 나타내는 differential equation이나 state space(상태 공간) 표현에서고유값(eigenvalue)과 함께 구해짐.System Mode와 Eigen Vector의 관계Eigenvalue:시스템의 Characteristic Equation (특성 방정식)을 풀어서 얻는 값.시스템의 안정성, 응답 속도, 진동 특성 등을 결정.Eigenvector:각 eigenvalue에 대응하는 vector로, 시스템 상태의 변화 방향을 나타냄.시스템의..