선형대수학_2.선형방정식 Ax=b(Part1)(1)

안녕하세요! 오랜만에 글을 써보네요. 오늘의 주제는 선형방정식 $A\mathrm{x}=b$ 입니다. 우리가 중학교 때 처음 배웠던 일차 연립 방정식을 행렬 표현으로 나타낸 것이죠. 공대에서 쉽게 접할 수 있는 예시를 통해 한 번 알아보도록 하겠습니다.

선형방정식의 예시 : 전압에 대한 키르히호프 법칙

(이미지 출처 : [https://www.allaboutcircuits.com/textbook/direct-current/chpt-10/mesh-current-method/])
위와 같은 회로에서 $I_1,I_2$를 알고 싶다고 해봅시다. 전압에 대한 키르히호프 법칙을 사용해 2개의 방정식을 얻을 수 있습니다.
$$\begin{array}{rlr}& -B_1+I_1{R}_1+(I_1+I_2)R_2=0& (1)\\ & -B_2+I_2{R}_3+(I_1+I_2)R_2=0& (2)\\ ⟹& I_1(R_1+R_2)+I_2{R}_2=B_1& \\ & I_2(R_2+R_3)+I_1{R}_2=B_2& \\ ⟹& \left[\begin{array}{cc}{R}_1+R_2& R_2\\ R_2& R_2+R_3\end{array}\right]\left[\begin{array}{c}{I}_1\\ I_2\end{array}\right]=\left[\begin{array}{c}{B}_1\\ B_2\end{array}\right]& \\ & A\mathrm{x}=b(A=\left[\begin{array}{cc}{R}_1+R_2& R_2\\ R_2& R_2+R_3\end{array}\right],\mathrm{x}=\left[\begin{array}{c}{I}_1\\ I_2\end{array}\right],b=\left[\begin{array}{c}{B}_1\\ B_2\end{array}\right])& \end{array}$$
위와 같이 공학에서는 선형 방정식을 풀어야 할 일들이 많고, 이 방정식이 크고 복잡해지면 손으로 일일히 푸는 것보다는 위와 같이 행렬을 사용해 나타낸 뒤에 해를 구하는 편이 좋습니다.
때로는 해를 구하는 것 자체보다도 해가 유일한지, 또는 존재하긴 하는지를 아는 것이 더 중요할 때도 있습니다. 이번 글에서는 $A\mathrm{x}=b$라는 방정식이 유일한 해를 갖는 경우/여러 개의 해를 갖는 경우(부정)/해를 갖지 않는 경우(불능)에 대해 알아보도록 하겠습니다. 그리고 다음 글(선형방정식 Ax =b(Part1)의 후반부)에서 해가 유일할 경우에 해를 구하는 방법에 대해 알아볼게요.

$A\mathbf{x}=b$의 기하학적 의미

기하학적 의미를 살펴 보는 이유는 벡터 공간에서 행렬이 어떻게 표현될지를 시각적으로 이해할 수 있는 쉬운 도구이기 때문입니다.
가령 다음과 같은 방정식을 생각해 봅시다.

$$(A\mathrm{x}=)\left[\begin{array}{cc}2& -1\\ 1& 1\end{array}\right]\left[\begin{array}{c}x\\ y\end{array}\right]=\left[\begin{array}{c}1\\ 5\end{array}\right](=b)$$
위의 방정식을 좌표 평면 상에서 표현하는 2가지 방식이 있는데요.

(이미지 출처 : G. Strang - Linear Algebra and its applications)
첫번째 그림에서 각각의 직선은 $A$의 각 행들로 표현 되는 하나의 방정식입니다. 우리가 중학교 시절 좌표 평면에서 일차 연립 방정식을 표현할 때 주로 사용하던 방법이죠. 해당 직선들의 교점이 바로 방정식의 해가 되는 직관적인 방법입니다.
두번째 그림에서는 화살표로 나타난 (아래쪽의 작은) 각각의 벡터가 $A$의 각 열벡터를 나타냅니다. $Ax$를 열벡터의 선형 결합 으로 표현하는 방식이죠. 바로 지난 글에서 행렬과 벡터를 곱하는 방법 중 하나로 다뤘던 방식으로, 아래와 같이 선형 방정식을 바라보는 겁니다.
$$\left[\begin{array}{cc}2& -1\\ 1& 1\end{array}\right]\left[\begin{array}{c}x\\ y\end{array}\right]=\left[\begin{array}{c}2\\ 1\end{array}\right]x+\left[\begin{array}{c}-1\\ 1\end{array}\right]y=\left[\begin{array}{c}1\\ 5\end{array}\right]$$
이렇게 표현하면, 해당 선형방정식은 $b$를 $A$의 열벡터들의 선형결합으로 나타내는 방법을 찾아내는 문제로 바뀌게 됩니다. 위의 방정식에서는 $A_{\cdot ,1}$($A$의 첫번째 열)의 2배에 $A_{\cdot ,2}$의 3배를 더하면 $b={\left[\begin{array}{cc}1& 5\end{array}\right]}^{\mathrm{T}}$가 나온다는 것을 확인할 수 있습니다.
3차원에서는 어떻게 될까요? $A$의 각 행들로 표현되는 방정식은 3차원 상에서 직선이 아닌 하나의 평면을 나타냅니다. 기하학적으로는 아래의 왼쪽 그림과 같이 평면들의 교점을 찾는 문제로 표현됩니다. 반면 $A$의 각 열들의 선형결합으로 표현하는 방법에서는 3차원 벡터들의 선형결합으로 $b$ 벡터를 찾는 문제로 바뀝니다.

일반화하자면, $\mathrm{x}\in {\mathbb{R}}^n,b\in {\mathbb{R}}^m,A\in {\mathbb{R}}^{m\times n}$일 때 첫번째 방법은 $n$차원 공간 상에서 $n-1$차원 초평면(HyperPlane; 위 그림에서의 평면이라 생각하셔도 됩니다.)들의 교점을 찾는 문제로, 두번째 방법은 $b$를 $A$의 열벡터 $n$개의 선형결합으로 나타내는 문제로 표현됩니다. 아래 챕터에서는 이들을 각각 Row picture 과 Column picture 라고 칭하겠습니다.

Singular Case: 부정 혹은 불능

방정식을 풀다 보면 해가 유일하게 결정되지 않고 무한히 많은 해를 갖거나(부정), 혹은 아예 해를 갖지 않는 경우(불능)을 볼 수 있습니다. 이번 챕터에서는 부정/불능이 어떤 경우에 발생하는지를 그림을 통해 알아봅시다.

첫번째 관점(Row Picture)

(이미지 출처 : G. Strang - Linear Algebra and its applications)
위 그림은 $A$가 $3\times 3$행렬인 경우, 즉 3차원 공간 상에서 평면을 나타낸 것입니다.(직선처럼 보이는 것이 모두 평면을 간단하게 그린 거랍니다.) 해가 유일하게 결정되기 위해서는 3개의 평면이 한 점에서 만나야 합니다. 그러나 (a), (b), (d)에서는 3개의 평면이 모두 만나는 점이 존재하지 않습니다. 각각 (a) 3개 중 2개의 평면이 평행하거나 (b) 3개 중 2개끼리만 만나거나 (d) 3개의 평면이 모두 평행한 경우입니다. 이런 경우 $A\mathrm{x}=b$의 해를 찾을 수 없죠.
반면 ( c) 에서는 3개의 평면이 모두 한 직선에서 만납니다.(한 점에서 만나는 것처럼 보일 수 있지만 입체적으로 생각하면 직선이랍니다.) 이 경우는 해당 직선 전체가 방정식의 해가 되며, 중학교 때 배운 "부정 방정식"이 바로 이런 경우라 할 수 있죠.

두번째 관점(Column Picture)

이번에도 $A$는 $3\times 3$행렬이고, 위 그림에서 3개의 벡터가 각각 $A$의 열벡터들입니다. 그림에서 (a), (b) 모두 열벡터들이 하나의 평면 위에 놓여있다는 것을 알 수 있는데요. 이런 경우 $A$의 열벡터의 선형결합으로 나타낼 수 있는 모든 벡터들은 해당 평면 위에 놓이게 됩니다. 이 경우 (a) 와 같이 $b$가 평면의 바깥에 놓이는 경우에는 방정식의 해가 존재하지 않고(불능), 평면 위에 놓이는 경우에는 방정식의 해가 무한히 많이 존재하게 됩니다.(부정)

행렬의 Rank(계수)

그렇다면 어떤 경우에 방정식 $A\mathrm{x}=b$가 정확히 한 개의 해만 갖고, 다른 경우에는 부정이나 불능이 될지를 $A$만 보고 판단할 수 있을까요? 이를 일반적으로 간단히 판별할 수는 없지만, 판별에 도움이 되는 행렬의 Rank 라는 개념을 소개하겠습니다. rank 의 엄밀한 정의는 다음 파트인 Vector Space 파트에서 다루도록 하겠지만, 여기서는 다음과 같이 이해하도록 합시다.

(Proposition1) $A\in {\mathbb{R}}^{m\times n}$의 rank란 $A$의 선형 독립(linearly independent)한 행의 개수(또는 선형 독립인 열의 개수)이다.

선형독립(linearly independent)이라는 말의 정의도 필요하겠네요.

(정의) 벡터들의 집합 $V=\{v_1,v_2,\cdots ,v_n\},(v_i\in {\mathbb{R}}^m,i=1,\cdots ,n)$이
“스칼라 $x_1,x_2,\cdots ,x_n$에 대해 방정식 $x_1{v}_1+x_2{v}_2+\cdots +x_n{v}_n=0$의 근이 $x_1=x_2=\cdots =x_n$으로 유일하다.”
를 만족할 때, 이 벡터들을 선형 독립(Linearly Independent)라 한다.

잘 생각해 보면, 집합 $V$의 벡터들이 선형 독립이라는 말은 한 벡터를 집합 내의 다른 벡터들의 선형 결합(Linear Combination)으로 나타낼 수 없다는 말과 동치임을 알 수 있습니다.
아무튼 왜 갑자기 행렬의 Rank 라는 개념을 소개하느냐 하면, 행렬 $A$의 rank 와 $A\mathrm{x}=b$의 해의 개수 사이에는 밀접한 관계가 있기 때문입니다.

“$A\in {\mathbb{R}}^{m\times n}\mathrm{x}\in {\mathbb{R}}^n,b\in {\mathbb{R}}^m,$에 대해 $m=n=rank(A)$이면 $A\mathrm{x}=b$가 유일한 해를 갖는다. (역은 성립하지 않는다.)”

즉 여러분이 어떤 방정식 $Ax=b$를 보고, $A$가 $n\times n$정사각행렬이고, rank 를 계산했을 때 $n$과 같다면, $b$가 무엇이건 이 방정식이 유일한 해를 가진다는 것을 알 수 있습니다.
다음 글에서 위와 같이 $A$가 정사각행렬이고, 방정식이 유일한 해를 가지는 경우의 해법에 대해 다루도록 하겠습니다! 설날 이후에 뵐게요~