[Math] Basis

기저(Basis)는
vector space (또는 function space) 에서
모든 요소(Element)를 나타내기 위해
필요한 최소한의 (선형)독립적인 요소 집합
(vector set or function set).

• Basis (기저)는 벡터 공간 (또는 함수 공간)의 구조와 차원을 이해하는 데 필수적
• 기저들의 선형 결합을 통해 공간의 모든 요소를 표현할 수 있음.

2022.09.30 - [.../Math] - [LA] \mathbb{R}^n, R-n : Vector Space

[LA] \mathbb{R}^n, R-n : Vector Space

---

---

Basis 의 조건

Basis 가 되기 위해서는 다음 두 가지 조건을 만족해야 함.

1. 선형 독립성(Linear Independence):
   • 기저 벡터 집합의 각 벡터는 다른 벡터들의 선형 결합으로 나타낼 수 없어야 함.
   • 즉, 모든 기저 벡터가 서로 (선형)독립적.
2. 벡터 공간을 생성(Span):
   • basis들의 선형 결합으로 벡터 공간의 모든 벡터를 표현할 수 있어야 함.
   • 이를 벡터 공간을 생성(span)한다고 하며,
   • basis를 통해 전체 공간을 커버할 수 있음.

2024.02.16 - [.../Math] - [LA] Linear Independence (Linearly Indendent)

[LA] Linear Independence (Linearly Indendent)

 

2024.05.29 - [.../Linear Algebra] - [LA] Span (생성)

[LA] Span (생성)

---

---

선호되는 basis(기저)의 특징: 직교성(Orthogonality)

Basis는 일반적으로 직교성(orthogonality)을 가진 벡터(or Function)들로 구성하는 것이 선호됨.

직교 기저(orthogonal basis)란
각 basis가 서로 직교하여 inner product가 0이 되는 basis임.

Orthogonal basis를 사용할 때의 장점은 다음과 같음.

1. 계산의 단순화:
   • 직교 기저는 basis 간의 내적이 0이므로, 특정 방향의 성분을 쉽게 계산할 수 있음.
   • 이를 통해 좌표 변환, 투영 등 다양한 계산이 단순화됨.
2. 정규 직교 기저(Orthonormal Basis):
   • 직교 기저에서 각 벡터의 norm이 1이라면, 이를 정규 직교 기저 (Orthonormal Basis)라고 부름.
   • 정규 직교 기저는 벡터의 크기를 유지하면서 변환을 수행할 수 있어, 길이 계산이나 분산 분석에 유리.
3. 해석의 용이성:
   • 직교 기저를 사용하면 벡터 공간을 이해하기 쉽고, 벡터 간의 관계를 명확히 파악할 수 있음.
     예를 들어, 주성분 분석(PCA)에서 직교 기저를 통해 데이터의 분산이 최대가 되는 축을 찾아냄.

2022.09.21 - [.../Signals and Systems] - [SS] Orthogonal Function : Complex Exponential Function

[SS] Orthogonal Function: Complex Exponential Function

---

---

예시: 데카르트 좌표계에서의 기저

2차원 유클리드 공간 $\mathbb{R}^2$에서는 표준 기저(Standard Basis)가 사용되며,

이 basis는 각각의 좌표축 방향을 나타내는 두 벡터로 구성됨.

• 표준 기저 벡터:

$$
\mathbf{e}_1 = \begin{bmatrix} 1 \\ 0 \end{bmatrix}, \quad \mathbf{e}_2 = \begin{bmatrix} 0 \\ 1 \end{bmatrix}
$$

 

이 경우, 벡터 $\mathbf{v} = \begin{bmatrix} x \\ y \end{bmatrix}$를 표준 기저 벡터로 표현하면 다음과 같음.

 

$$
\mathbf{v} = x \mathbf{e}_1 + y \mathbf{e}_2
$$

 

여기서 $x$와 $y$는 각각 벡터 $\mathbf{v}$의 $\mathbf{e}_1$ 방향과 $\mathbf{e}_2$ 방향의 component임.

이 표준 기저는 직교하며, 서로 독립적이므로 벡터 공간 ( $\mathbb{R}^2$ )의 모든 벡터를 표현할 수 있음.

---

Basis와 차원

기저 벡터의 개수는 벡터 공간의 차원을 나타냄.

• 예를 들어, 2차원 공간에서는 두 개의 기저 벡터가 필요하고,
• 3차원 공간에서는 세 개의 기저 벡터가 필요함.

즉 차원(dimension)은 해당 벡터 공간을 표현하는 데 필요한 최소한의 벡터 개수에 해당함.

 

Dimension과 비슷한 개념으로는 matrix의 속성인 Rank 가 있음.

2024.07.08 - [.../Linear Algebra] - [LA] Rank: matrix의 속성

[LA] Rank: Matrix의 속성

---

Basis의 활용

기저는 벡터 공간에서 벡터를 표현하거나, 좌표 변환을 수행하는 데 사용됨.

대표적인 활용 예시는 다음과 같습니다.

• 주성분 분석(PCA, Principal Component Analysis): 데이터의 분산이 최대인 방향을 기준으로 새로운 직교 기저를 만들어 차원을 축소.
• 푸리에 변환: 사인 및 코사인 함수들을 정규 직교 기저로 사용하여 주기 신호를 주파수 성분으로 분해.
• 좌표 변환: 물체의 회전, 이동을 포함한 변환을 수행할 때, 새로운 기저를 정의해 벡터들을 변환된 좌표계에서 표현할 수 있음.

---

같이보면 좋은 자료들

2022.03.28 - [.../Math] - [Math] Vector (1)

[Math] Vector (1)

---

2025.01.21 - [.../Linear Algebra] - [Summary] Linear Algebra (작성중)

[Summary] Linear Algebra (작성중)

 

...

---