[전산수학I] 부분 공간(Subspace)와 차원(Dimension/Rank)

부분공간(Subspace)

space, 공간은 벡터들의 집합을 말하는데, 어떤 공간 집합의 부분 집합을 Subspace라고 하며 아래 3가지 규칙을 만족해야 합니다. 

Let H is Subspace of Rn
1. H는 zero vector를 포함해야 한다.
2. H에 속하는 임의 벡터 u, v에 대하여 u+v 또한 H 집합에 속해야 한다.
3. H에 속하는 임의 벡터 u에 대하여 cu 또한 H 집합에 속해야 한다.

 

이를 만족하는 Subspace도 크게 2가지로 나눌 수 있습니다. 

1. Zero subspace - 오직 zero vector만 포함
2. Nonzero subspace - 다른 vector들도 포함

만약 Nonzero subspace라면 (2), (3)에 의해 무한한 크기의 집합이 될 것이며 선형적인 형태로 나타나게 될 것입니다. (1)또한 만족해야 하므로 선형 변환으로 생긴 집합이라 볼 수 있겠습니다. 

 

 

열 공간(Column space) 

Let A ∈ R(nxm), A = [a1, a2... am] ,  a_i ∈ Rn
Column space of A = Col A = Span{a1, a2, ... , am}
= A를 n x m 행렬이라 할 때, Span{A 행렬의 열들} 

 

예시

 

영공간(Null space)

Let A ∈ R(nxm)
Null space of A (= Nul A) is the set of all solutions of the homogeneous equation Ax = 0
즉, A의 영공간은 Ax = 0 의 솔루션, x들의 집합을 의미합니다. 

예

 

 

기저(Basis)

A basis for a subspace H of R_n is a linear independent set in H that spans H.
부분 공간 H를 100% 표현 하기 위해 필요한 최소한의 벡터 집합을 의미한다. 최소의 벡터 집합이므로 기저(Basis)끼리 선형 독립이다. 즉, 선형 독립 벡터들을 뽑아내자!

Col A 의 Basis 구하기

 

Column Space에서 사용했던 예시를 들고 왔는데요, 위에선 Column vector 3개를 사용했지만 이번에는 2개의 Column vector 만을 사용했습니다. 하지만 나타나는 공간(집합) 은 같습니다. 구하는 방법은 아래와 같습니다.

1. Matrix A를 Row Reduction Algorithm 으로 A의 EF(혹은 REF)인 B를 만든다.
2. B의 pivot column 위치를 확인한다.
3. A에서 pivot column 을 선택한다.

※ 주의
B의 pivot column 이 아닌 A의 pivot column을 사용해야 합니다! 
그 까닭은 위 예시를 통해 알 수 있는데요, B의 pivot을 사용하면 x3 에 대해한 좌표가 0인 반면 Col A는 그렇지 않은 경우도 존재합니다.

 

참고로 Basis 는 Matrix가 아닌 공간에서 사용되는 개념입니다.

 

 

(좌표 벡터)Coordinate Vector

Let B = {b1, ... bp} is basis for subspace H
the coordinates of x relative to the basis B are the weights.. (linear combination)

Bx = y 라고 할 때 coordinates of b 는 [y]_B 라고 쓰며 그 값은 x벡터 ( weights 값들) 입니다. 

 

해당 개념은 선형 변환으로 기하적 해석을 거치면 이해하기 편합니다.  

Algebra 책의 그림 이용

 

 

Dimension, Rank

 

Dimension과 Rank는 같은 의미이지만 사용하는 상황이 조금 다릅니다. Dimension은 공간, 집합에 대한 것이며, Rank는 행렬에 대한 내용입니다. 이 둘의 의미는 pivot column 혹은 basis 의 개수를 의미합니다. 이를 기하적으로 접근하면 n차원에서 해당 데이터는 몇 차원으로 존재하는지를 의미합니다. 따라서 위 그림의 경우 3차원에 존재하는 도형이지만 Dimension은 2차원 이라고 할 수 있습니다.

 

※ 추가 성질
dim (Col A)  = rank A
rank A + dim( Nul A ) = A의 pivot colum 개수 + A의 free variable 개수 = A의 열