[LA] Linear Transformation

Transformation

$\mathbb{R}^n$ (domain) 에서 $\mathbb{R}^m$ (codomain) 으로의

transformation (= function or mapping) $T$는

domain에 속하는 각각의 vector $\textbf{x}$를 codomain의 vector $T(\textbf{x})$에 대응시키는 규칙임.

 

이를 다음과 같이 표기함

$$T: \mathbb{R}^n \to \mathbb{R}^m$$

 

Transformation은 Function, System, Mapping, Model 등의 용어로 대체되거나 각각의 정의에 사용되는 경우가 많음.

https://dsaint31.tistory.com/215

Function (함수) : 간략 정의

https://dsaint31.tistory.com/584

[SS] System 이란?

https://dsaint31.me/mkdocs_site/ML/ch00/ch00_33_what_is_model/

BME228

---

Matrix Transformation

만약 모든 $\textbf{x} \in \mathbb{R}^n$에 대해 $T(\textbf{x})$가 $m \times n$ matrix $A$와 $\textbf{x}$의 곱인 $A\textbf{x}$로 나타내어진다면, 이를 Matrix Transform이라고 한다.

 

주의할 것은 transform $T$의 range 는 $A$의 columns의 linear combination의 집합이 된다는 점임.

(matrix와 vector의 곱과 linear combination의 정의를 살펴볼 것)

 

사실 뒤에 애기가 나오지만
모든 matrix transformation은 linear transformation임.

 

---

Linear Transformation

Additivity 와 Homogeneity가 성립하는 Transform으로 matrix transformation은 linear 함.

 

1. Additivity

$T(\textbf{u}+\textbf{v})=T(\textbf{u})+T(\textbf{v})$ for all $\textbf{u,v}$ in the domain of $T$.

2. Homogeneity

$T(c\textbf{u}) = cT(\textbf{u})$ for all scalar $c$ and all $\textbf{u}$ in the domain of $T$.

 

이 두 성질을 동시에 하나의 일반화된 식으로 다음과 같이 기술 가능함.

$$T(c_1\textbf{v}_1 + \cdots + c_p \textbf{v}_p) = c_1 T(\textbf{v}_1) + \cdots c_p T(\textbf{v}_p)$$

 

위의 식을 가르켜 superposition principle이라고도 부름.

The system satisfies the superposition principle if whenever an input is expressed as a linear combination of such signals, the system’s response is the same linear combination of the responses to the individual signals.

https://dsaint31.tistory.com/585

[SS] System의 종류 (1) : Coninuous, Linear

 

---

Standard Matrix

모든 Linear Transform은 matrix transform이며 (역도 성립),
모든 linear transform은 각각에 해당하는 unique matrix $A$를 가지고 있음.

 

이같은 matrix를 standard matrix라고 부름.

 

---

Affine Transformation

linear transformation에 translation을 추가로 적용한 transformation.

$$T(\textbf{x})=A\textbf{x} +\textbf{b}$$

 

$A$ 는 linear transform의 standard matrix 이고,  $\textbf{b}$ 가 바로 translation vector임.

 

• linear transform의 경우, origin은 이동하지 않는 특성을 가지나,
• affine transform은 origin을 $\textbf{b}$로 이동시킴.

 

즉, affine transform은

• linear transform의 모든 특성을 가지면서
• 추가로 translation(평행 이동)을 허용하여,
• origin이 이동할 수 있게 해줌.

https://dsaint31.me/mkdocs_site/DIP/cv2/ch02/dip_geometric_transformation/#affine-transformation

BME228

 

Homogeneous coordinate를 사용할 경우, linear transform으로 affine transform을 할 수 있음.

https://dsaint31.me/mkdocs_site/DIP/cv2/ch02/dip_geometric_transformation/#linear-transformation

BME228

 

DL 의 dense layer (or linear module)은 Affine transform을 수행함 (activation function이 identity function 인 경우.)

---

더 읽어보면 좋은 자료

2024.01.03 - [.../Linear Algebra] - [LA] Linear and Affine: Summary

[LA] Linear and Affine: Summary

2024.02.16 - [.../Math] - [LA] Linearly Independent and Affine Independent: Summary

[LA] Linearly Independent and Affine Independent: Summary