Projection x1 onto w (vector x를 vector w에 투영) 를 수식으로 표현하면 다음과 같음.
projwx=x⋅ww⋅ww=x⋅ww⊤ww=x⋅w‖w‖2w=x⋅w‖w‖w‖w‖=wx⊤w‖w‖2=ww⊤x‖w‖2=ww⊤‖w‖2x=Pwx
where,
- Pw : Projection Matrix로 이 Matrix에 임의의 벡터 x를 곱하면, 벡터 w에 투영이 이루어짐.
유도과정 은 다음과 같음.

위의 그림에서 벡터 x가 벡터 w에 내린 orthogonal projection(정사영)인 벡터 h는
- 벡터 w에 평행하므로
- h=tw (t는 실수, scalar)
또, x는 다음과 같이 표현됨.
- x=y+h
여기에 이전 식을 대입하면 다음과 같음.
- x=y+tw
y는 w와 수직이므로 y⋅w=0 이 성립.
x⋅w=w⋅x=(y+tw)⋅w=y⋅w+t(w⋅w)=0+t||w||2=t||w||2
t는 다음과 같음.
t=w⋅x||w||2
고로, h는 다음과 같음.
h=tw=x⋅w‖w‖2w=x⋅ww⋅ww=x⋅ww⊤ww
덧붙여서 y 를 다음과 같이 나타낼 수 있음.
y=x−h
참고로, 이를 Projection Matrix의 개념으로 살펴보면,
y=Ix−PwxP⊥wx=(I−Pw)x
즉, y를 구하기 위한 Projection Matrix P⊥w를 I−Pw로 구할 수 있음.
inner product 등의 vector에 대해 익숙치 않으면 다음을 참고.
2022.03.28 - [.../Math] - [Math] Vector (1)
[Math] Vector (1)
Scalar 오직 magnitude(크기)만을 가지는 물리량. 숫자 하나. ndim=0, rank=0 Vector magnitude와 direction을 가지는 물리량. ordered list of numbers. ndim=1, rank=1로 vector가 표현됨. : vector는 다차원 vector space의 특정 poin
dsaint31.tistory.com
Orhtogonal projection을 이용한 foot of perpendicular의 Python 구현물은 다음을 참고.
[Python] 특정 점에서 직선에 수선의 발 구하기.
특정 pnt에서 두 점 segment_s(s), segment_e(e)로 정의된 line segment를 포함하는 line으로 수선의 발(foot of perpendicular line)를 내리는 경우는 다음과 같음. 위 그림에서 x가 바로 foot of perpendicular line임. 다음
ds31x.tistory.com
Orthogonal projection을 이용한 점과 직선 (또는 평면)의 거리를 구하는 것은 다음을 참고
2022.05.19 - [.../Math] - [Math] Distance between Point and Plane : 점과 직선의 거리
[Math] Distance between Point and Plane : 점과 직선의 거리
position vector x (point Q)와 n⋅p+b=0을 만족하는 position vector p들로 구성되는 평면(plane P)과의 거리는 다음과 같음. d=|n⋅x+b|‖n‖ whe
dsaint31.tistory.com
2025.01.21 - [.../Linear Algebra] - [Summary] Linear Algebra (작성중)
[Summary] Linear Algebra (작성중)
ML 을 위해 Linear Algebra 공부시 참고할만한 책더보기전체적으로 공부를 한다면 다음을 권함.Linear Algebra and Its Application, 5th ed 이상, David C. Lay5th ed. 는 웹에서 쉽게 pdf도 구할 수 있음. 다음은 1~2개
dsaint31.tistory.com
'... > Math' 카테고리의 다른 글
[Math] 필요조건, 충분조건, 필요충분조건 (0) | 2022.05.19 |
---|---|
[Math] Plane Equation : 평면의 방정식 (0) | 2022.05.19 |
[Math] Distance between Point and Plane : 점과 직선의 거리 (0) | 2022.05.19 |
[Math] Entropy 란 (평균정보량, 정보량의 기댓값) (0) | 2022.05.12 |
[Math] Cross Entropy (0) | 2022.05.12 |