[SS] Orthogonal function: inner product가 0

1. Orthogonal이란

어떤 두 개의 대상이 Othrogoanl (직교)하다는 의미는 (보통 대상은 function 또는 vector임)

• 해당 두 대상의 inner product의 결과가 0이라는 의미이며,
• 두 대상이 각각에 대해 공유하는 component가 없음을 의미한다.

가장 쉬운 예가 orthogonal vector로서 column vector의 경우 다음이 성립하면 orthogonal이라고 한다.

$$\textbf{u}=\langle u_1, \dots, u_N \rangle \\ \textbf{v}=\langle v_1, \dots, v_N \rangle \\ \textbf{u}\cdot\textbf{v}=\textbf{u}^\top\textbf{v}= \sum_{i=1}^N u_i v_i = 0$$

 

• $N$ : $\textbf{u}$와 $\textbf{v}$의 component의 수임. 해당 vector들이 속하는 vector space의 dimension(차원)임.

자기 자신과 inner product를 할 경우,
zero vector $\textbf{0}$가 아닌 한 항상 0이 아님.
즉, 자기자신과는 orthogonal할 수 없음.

---

참고 : Orthonormal 

Orthogonal의 개념에 Normalization이 더해진 경우임.

• "다른 vector와의 inner product는 0이고 자기자신과 inner product의 값이 0이 아니기만 하면" 되는 Orthogonal을 만족하면서,
• 자기자신과의 inner product가 1이 나오는 경우를 orthonormal이라고 함.

일반적으로 두 vector가 unit vector이면서 orthogonal인 경우를 가르킴.

$$\textbf{v}_1 \cdot \textbf{v}_2 = 0 \text{ and } \|v_1\|=1, \|v_2\|=1$$

---

참고 : Normalization

어떤 vector의 norm(or length, 또는 크기)을 1로 만들어 unit vector로 만드는 것을 normalization 이라고 함.

---

2. Orthogonal Function이란

앞서 살펴본 Vector의 innter product를 확장하여 function에 대해 다음과 같이 정의한다.

$$f_l(t)\cdot f_k(t)=\int_0^T f_l (t) f_k^* (t) dt =\left\{ \begin{matrix} E_k &,l=k \\ 0 &, l\ne k \end{matrix} \right. = E_k \delta[l-k]$$

• $f_l(t)$ : function으로 signal을 표현. Parameter $l$을 통해 function의 동작이 결정됨.
• $f_l^*(t)$ : function $f_l(t)$의 complex conjugate funciton. (complex number에서 inner product는 comple conjugate와의 곱임)
• $T$ : funciton $f_l(t)$의 주기 또는 구간으로 해당 구간에서 orthogonal하게 된다.
• $\delta[l-k]$ : Kronecker delta function임.

 

$l=k$인 경우, 동일한 함수의 inner product이며 이 경우를 제외하곤 모두 0이 나오는 경우를 orthogonal function이라고 함.

즉, 자기자신 외의 다른 function들과 inner product를 하면 결과가 0이 되는 함수가 바로 orthogonal function임.

 

대표적인 예로는 다음의 function들이 orthogonal function임.

• $\cos(\color{red}{l}\color{balck}{t})$ 
• $\sin( \color{red}{l}\color{balck}{t} )$
• $e^{j \color{red}{l}\color{balck}{t} }$

complex exponential function에 대해 좀 더 자세한 내용.

2022.09.21 - [.../Signals and Systems] - [SS] Orthogonal Function : Complex Exponential Function

---

---

참고 : Kronecker Delta Function

Kronecker delta funciton은 Dirac delta function의 discrete version으로 다음과 같이 정의됨.

$$ \delta[l-k] = \left\{ \begin{matrix} 1, & l=k \\\\ 0, & l \ne k\end{matrix} \right. $$

• 인자가 0 ($l=k \rightarrow l-k = 0$)인 경우에만 1 의 값을 가지고
• 그 외의 경우($l \ne k$)에는 0의 값을 가짐. 

discrete signal에서의 impulse function은 바로 Kronecker delta function임.

 

2022.08.29 - [.../Signals and Systems] - [SS] Impulse Function (Dirac Delta Function)

[SS] Impulse Function (Dirac Delta Function)

---

3. 읽어보면 좋은 자료

2024.10.28 - [.../Math] - [Math] Inner Product (or Hermitian Inner Product, 내적)

[Math] Inner Product (or Hermitian Inner Product, 내적)

2022.03.28 - [.../Math] - [Math] Vector (1)

[Math] Vector (1)

2022.11.17 - [.../Math] - [LA] Orthogonal matrix (직교행렬)

[LA] Orthogonal matrix (직교행렬)

---