최근 학교에서 행렬과 그 성질을 알아보는 활동을 했습니다. 행렬의 성질 중 하나는 '정사각 행렬이 아닌 행렬의 역행렬은 존재하지 않는다'라는 성질이었는데, 이의 모범 답안은 다음과 같았습니다.
문제. 정사각 행렬이 아닌 행렬의 역행렬은 존재합니까?
정해) 존재하지 않습니다. 정사각 행렬이 아닌 \(n\times m\) 임의의 행렬 \(A\)를 생각합시다. 행렬 \(A\)의 \(a\times b\)역행렬 \(X\)가 존재한다면, 정의에 따라 \(AX=XA=I\)입니다. \(AX\)가 정의되려면 \(m=b\)이어야 하며, \(XA\)가 정의되려면 \(n=a\)이어야 합니다. \(X\)는 \(m\times n\) 행렬이므로 \(I\)는 \(n\times n\)행렬이고 \(m\times m\) 행렬입니다. 따라서 \(n=m\)인데, 문제에서의 가정에 모순입니다. 따라서 행렬 \(X\)가 존재하지 않습니다.
그러나 필자는 이것이 단순한 정의의 문제라고 생각했습니다. 먼저 기존의 역행렬의 정의에서부터 시작하겠습니다.
정의. \(AX=XA=I\)인 행렬 \(X\)는 행렬 \(A\)의 역행렬입니다.
그리고 위의 모순은 정의를 단순히 다음처럼 바꾸어 해결됩니다.
새로운 정의. \(AX=I\)이고 \(XA=I\)인 행렬 \(X\)는 행렬 \(A\)의 역행렬입니다.
이제 행렬 \(A\)와 역행렬 \(X\)에서 \(AX\neq XA\)이어도 상관없습니다. 그렇다면 이제 새로운 증명을 찾아야 합니다. 앞으로의 내용 중 틀리거나 모호한 내용이 있다면 댓글로 지적해 주십시오.
정의. \(n\)차원 벡터 공간상의 \(n\) 개의 벡터 \(v_1, v_2, \cdots, v_n\)가 있을 때, 이들 중 어떤 벡터 \(v_i\)도 나머지의 선형 결합으로 나타낼 수 없다면 이들 \(n\) 개의 벡터가 선형 독립입니다. 다시 말해, \(v_i=\sum_{j\neq i}x_jv_j\)인 \(i\)와 실수 \(x_j\)가 존재하지 않는다면 \(n\) 개의 벡터가 선형 독립입니다.
\(n\) 개의 벡터가 선형 독립이라는 말은 \(n\) 개의 벡터가 \(n\)차원 벡터 공간에서 축과 같은 역할을 함을 뜻합니다. 또한, \(v_i=0\)이면 \(v_i=\sum_{j\neq i}0v_j\)이므로 선형 독립인 \(n\) 개의 벡터 중 영벡터는 없습니다. 직관적으로 이들의 선형 결합으로 벡터 공간상의 어떤 점도 나타낼 수 있을 것으로 보입니다. 이들 논의해 보겠습니다.
논의 1. \(n\)차원 벡터 공간상의 \(n\) 개의 벡터 \(v_1=(a_{1,1},a_{1,2},\cdots,a_{1,n})\), \(v_2=(a_{2,1},a_{2,2},\cdots,a_{2,n})\), \(\cdots\), \(v_n=(a_{n,1},a_{n,2},\cdots,a_{n,n})\)가 선형 독립이 아니라면 기본 행렬 \(E\)에서 \(\left[\begin{matrix}a'_{1,1}&a'_{1,2}&\cdots&a'_{1,n}\\a'_{2,1}&a'_{2,2}&\cdots&a'_{2,n}\\&&\vdots&\\a'_{n,1}&a'_{n,2}&\cdots&a'_{n,n}\end{matrix}\right]=E\left[\begin{matrix}a_{1,1}&a_{1,2}&\cdots&a_{1,n}\\a_{2,1}&a_{2,2}&\cdots&a_{2,n}\\&&\vdots&\\a_{n,1}&a_{n,2}&\cdots&a_{n,n}\end{matrix}\right]\)일 때 \(n\) 개의 벡터 \(v'_1=(a'_{1,1},a'_{1,2},\cdots,a'_{1,n})\), \(v'_2=(a'_{2,1},a'_{2,2},\cdots,a'_{2,n})\), \(\cdots\), \(v'_n=(a'_{n,1},a'_{n,2},\cdots,a'_{n,n})\)가 선형 독립이 아닙니다.
가) \(E\)가 \(i\) 행과 \(j\) 행을 교환하는 연산이라면 \(v_k=\sum_{l\neq k}x_lv_l\)에 $$v_e=\begin{cases}v'_e&\text{($e\neq i$ and $e\neq j$)}\\v'_i&(e=j)\\v'_j&(e=i)\end{cases}$$를 대입하여 성립합니다.
나) \(E\)가 \(i\) 행에 \(k(\neq 0)\)를 곱하는 연산이라면 \(v_k=\sum_{l\neq k}x_lv_l\)에 $$v_e=\begin{cases}v'_e&(e\neq i)\\\frac{v'_e}{k}&(e=i)\end{cases}$$를 대입하여 성립합니다.
다) \(E\)가 \(i\) 행에 \(j\) 행의 \(k(\neq 0)\) 배를 더하는 연산이라면 \(v_k=\sum_{l\neq k}x_lv_l\)에 $$v_e=\begin{cases}v'_e&(e\neq i)\\v'_e-kv'_j&(e=i)\end{cases}$$를 대입하여 성립합니다.
이는 \(n\) 개의 벡터 사이에서 기본 행 연산을 수행해도 선형 독립의 성질이 변함없음을 뜻합니다.
논의 2. \(n\)차원 벡터 공간상의 \(n\) 개의 벡터 \(v_1=(a_{1,1},a_{1,2},\cdots,a_{1,n})\), \(v_2=(a_{2,1},a_{2,2},\cdots,a_{2,n})\), \(\cdots\), \(v_n=(a_{n,1},a_{n,2},\cdots,a_{n,n})\)가 선형 독립이라면 행렬 \(V=\left[\begin{matrix}a_{1,1}&a_{1,2}&\cdots&a_{1,n}\\a_{2,1}&a_{2,2}&\cdots&a_{2,n}\\&&\vdots&\\a_{n,1}&a_{n,2}&\cdots&a_{n,n}\end{matrix}\right]\)에 기본 행 연산을 수행해 단위 행렬을 얻을 수 있습니다.
가) \(n=1\)인 경우를 생각합시다. \(v_1=(a_{1,1})\)이 선형 독립이라면 \(a_{1,1}\neq 0\). 따라서 \(\left[\frac{1}{a_{1,1}}\right]\left[a_{1,1}\right]=\left[1\right]\)로 성립합니다.
나) \(n=k\)에서 성립할 때 \(n=k+1\)인 경우를 생각합시다. \((a_{2,2},a_{2,3},\cdots,a_{2,n})\), \((a_{3,2},a_{3,3},\cdots,a_{3,n})\), \(\cdots\), \((a_{n,2},a_{n,3},\cdots,a_{n,n})\)이 선형 독립이므로 몇 차례의 기본 행 연산을 수행해 행렬 \(\left[\begin{matrix}a_{1,1}&0&0&\cdots&0\\a_{2,1}&1&0&\cdots&0\\a_{3,1}&0&1&\cdots&0\\&&&\vdots&\\a_{n,1}&0&0&\cdots&1\end{matrix}\right]\)를 얻을 수 있습니다. 이때 \(a_{1,1}=0\)이면 첫째 행이 영벡터가 되어 선형 독립이 아니게 되어 모순입니다. 따라서 \(a_{1,1}\neq 0\)이고, 쉽게 단위 행렬을 얻을 수 있어 성립합니다.
다) 수학적 귀납법에 따라 양의 정수 \(n\)에서 성립합니다.
이는 선형 독립인 \(n\) 개의 벡터 사이의 성질이 단위 행렬의 각 행을 이루는 \(n\) 개의 벡터 사이의 성질과 같음을 뜻합니다. 선형 독립인 \(n\) 개의 벡터가 만드는 행렬 \(V\)는 기본 행렬의 곱으로 표현되며, 따라서 \(V\)의 역행렬이 존재합니다.
이제 \(n\times m\) 행렬 \(A\)의 역행렬 \(X\)가 존재한다고 가정합시다. 역행렬 \(X\)는 \(m\times n\) 행렬임을 밝힙니다. 일반성을 잃지 않고 \(n>m\)으로 두겠습니다. (\(n<m\)이라면 아래에서 \(A\)와 \(X\)를 맞바꾸면 됩니다.) \(A=\left[\begin{matrix}a_{1,1}&a_{1,2}&\cdots&a_{1,m}\\a_{2,1}&a_{2,2}&\cdots&a_{2,m}\\&&\vdots&\\a_{n,1}&a_{n,2}&\cdots&a_{n,m}\end{matrix}\right]\), \(X=\left[\begin{matrix}b_{1,1}&b_{1,2}&\cdots&b_{1,n}\\b_{2,1}&b_{2,2}&\cdots&b_{2,n}\\&&\vdots&\\b_{m,1}&b_{m,2}&\cdots&b_{m,n}\end{matrix}\right]\)으로 두겠습니다.
\(a_{1,1}, a_{1,2}, \cdots, a_{1,m}\) 중 0이 아닌 실수가 하나 이상 있어야 합니다. 모두 0이라면 \(AX=I\)의 1행 1열에서 \(1=\sum_{i=0}^ma_{1,i}b_{i,1}=0\)이 되어 모순입니다. 따라서 \(a_{1,k}\neq 0\)인 \(k\)가 존재합니다. \(a=(a_{1,1},a_{1,2},\cdots,a_{1,m})\)로 두면 \(a\neq 0\)입니다.
논의 3. \(v_1=(b_{1,2},b_{2,2},\cdots,b_{m,2})\), \(v_2=(b_{1,3},b_{2,3},\cdots,b_{m,3})\), \(\cdots\), \(v_m=(b_{1,m+1},b_{2,m+1},\cdots,b_{m,m+1})\)으로 둡시다. (\(n>m\)이므로 \(m+1\leq n\)입니다.) \(AX=I\)의 1행에서 \(a\cdot v_i=0\)입니다. \(m\) 개의 벡터 \(v_1, v_2, \cdots, v_m\)이 선형 독립이 아님을 보이겠습니다.
벡터 \(v_1, v_2, \cdots, v_m\)이 선형 독립이라고 가정합시다. 가정에 따라 \(v_1, v_2, \cdots, v_m\) 중 어떤 것도 영벡터가 아닙니다. 이제 \(V=\left[\begin{matrix}b_{1,2}&b_{2,2}&\cdots&b_{m,2}\\b_{1,3}&b_{2,3}&\cdots&b_{m,3}\\&&\vdots&\\b_{1,m+1}&b_{2,m+1}&\cdots&b_{m,m+1}\end{matrix}\right]\)에서 위의 논의에 따라 \(V\)의 역행렬이 존재합니다. \(V\left[\begin{matrix}a_{1,1}\\a_{1,2}\\\vdots\\a_{1,m}\end{matrix}\right]=O\)이므로 \(\left[\begin{matrix}a_{1,1}\\a_{1,2}\\\vdots\\a_{1,m}\end{matrix}\right]=V^{-1}O=O\)입니다. 이는 \(a\neq 0\)에 모순이므로 \(m\) 개의 벡터 \(v_1, v_2, \cdots, v_m\)은 선형 독립이 아닙니다.
따라서 \(v_k=\sum_{i \neq k}x_iv_i\)인 \(k\)와 실수 \(x_i\)가 존재합니다. \(AX=I\)의 \(k+1\)행에서 \(a'=(a_{k+1,1},a_{k+1,2},\cdots,a_{k+1,m})\)으로 둡시다. \(a'\cdot v_i=\begin{cases}0&(i \neq k)\\1&(i=k)\end{cases}\)입니다. \(1=a'\cdot v_k=a'\cdot(\sum_{i \neq k}x_iv_i)=\sum_{i\neq k}x_i(a'\cdot v_i)=0\)으로 모순입니다.
따라서, 행렬 \(A\)의 역행렬 \(X\)는 존재하지 않습니다.
수정: \(tr(X)\)가 \(X\)의 주대각선상의 원소의 합이라고 할 때 \(tr(AB)=tr(BA)\)가 항상 성립합니다. 그러나 정사각 행렬이 아닌 \(n\times m\) 행렬 \(A\)에서 \(AX=I_n\)이고 \(XA=I_m\)인 행렬 \(X\)가 존재한다면 \(tr(AX)=n\neq m=tr(XA)\)로 모순입니다. 다만 글 작성 당시에는 이 사실을 몰랐습니다.
