対話式・内在的線形代数について。

対話式・数学の「内在性」について。 - セミにゃー

の続きです。（前回の記事は哲学的な内容多めでそれを読まなくても今回の記事は読める）

僕　んで話の発端は僕が「固有値は内在性をもつ」って言ったことだからさ、その話しとくわ。

（注：以下、別に線形代数の解説を目的にしているわけではないのである程度の線形代数の知識は前提知識とする。）

ｘ　ぜひとも。

僕　ようは行列にも相似の概念があるんだよね。

ｘ　行列に相似？図形じゃないのに相似？

僕　まぁ確かに図形じゃないのに相似ってイメージしづらいっていうか違和感を覚えるかもしれない。でも相似っていうのは同値関係だった。行列が相似っていうより行列に同値関係があると思うとどう？

ｘ　何かあるかもしれない。

僕　じゃあどう同値関係を考える？同値関係っつったって一種類の同値関係だけが存在するわけじゃあない。

ｘ　うん。図形で言えば合同とか相似とかね。

僕　うん。もうちょっと代数っぽい例でいくと例えば整数で、差が5の倍数になる整数同士で同値関係を入れてもいいし差が7の倍数になる整数同士で同値関係を入れてもいい。

ｘ　差が5の倍数になる整数に同値関係を入れると無限にある整数が0,1,2,3,4の5つだけの数になるわけだね？

僕　うん。他の整数も結局このどれかに同一視される。例えば6は1に、100だったら0にとかっていう風に。

ｘ　5で割った余りで分類してるんだね。どんな整数も5で割った余りは0,1,2,3,4のどれかになる。

僕　そう。5で割った商のほうは整数が持ってる余分な情報ということで捨ててしまって、「余り」という本質に目を向けるわけだ。

（注：なぜ「余り」が本質なのか、それはさっき*1の $x^2+y^2=3$ が有理点を通らないことの証明など数論でこういう話はよく出てくる。）

x　同様に、差が7の倍数になる整数同士に同値関係を導入すると全ての整数は0から6までのどれか7個の整数に同一視されるね。

僕　うん。

x　しかし行列の同値関係は思い浮かばん。行列に倍数のようなものがあるとは思えんし。

僕　うん。まぁ行列 $A$ とそのスカラー倍である $λA$ （ただし $λ\neq 0$ ）を全て同一視するっていう同値関係を入れることも不可能ではないね。

（注：これが同値関係になってることを各自確かめよ）

ｘ　なるほど。

僕　行列の相似を考えるには行列がそもそもなんだったかを思い出す必要がある。

ｘ　行列・・・、うーん、数を長方形に並べたもの・・・？

僕　まぁそりゃそうなんだけども行列ってベクトル空間からベクトル空間への線形写像なんだ。ただし線形写像の全てが行列ってわけじゃないけど行列は線形写像だ。

x　なるほど。

僕　まぁ線形写像というと難しいと思うかもしれないが、ここでは単に写像（もっといえば関数）って思っても問題ない。つまり、線形写像を $T$ として、 $V$ の元 $v$ を $W$ の元 $T(v)$ に移すと考えればそれでOK。ベクトル空間は0次元なら点、1次元なら直線、2次元なら平面・・・とかっていうイメージでいいんだけど、ここで曲者なのがベクトル空間の座標だ。行列を考えるからにはベクトル空間に座標を入れて考える必要がある。

x　うーん、行列を考えないときでもベクトル空間に座標を入れて考えるのは当然な気もするが・・・？

僕　それはベクトル空間といって思い浮かべるものが $\mathbb{R}^n$ とかだからだ。この種のベクトル空間というのは座標を入れて考えることが慣習になってるからね。でもベクトル空間っていうのはさ、ちょっと調べてもらえば分かるけど約8つの公理を満たせばいいわけ。重要なのは和とスカラー倍の演算で、これが定義できればいい。あ、だからね、ベクトル空間は、空間って名前ついてるけどそれは罠でベクトル空間は純粋に代数的な対象だから*2そこには注意しないといけない。そうしたときに例えば $[0,1]$ 上の連続関数全体の集合 $C[0,1]$ も（無限次元の）ベクトル空間になる。そうするとこのベクトル空間のベクトル（集合 $C[0,1]$ の元）は関数だ。このベクトル（関数）は座標を使って表せるだろうか？

x　まぁ無理やな（笑）

僕　まぁフーリエ解析とかヒルベルト空間とかその辺の話を持ち出してくれば関数を無限次元ベクトル空間の、まさにあの幾何学的なベクトルとみなして表すこともできなくもないけどベクトル空間を座標を使って考えるのは一般的なことではないんだ。むしろそれは特殊なことっていうかベクトル空間を座標で表して考えるっていうことはベクトル空間の公理とはなんら関係ないんだ。

x　なるほどねー

（注：おいこのx絶対、話分かってないだろ！っていうツッコミがそろそろ読者から入る頃かと思うが、ここらへんの理屈は分からなくてもいいのでベクトル空間を座標を使って考えるのは普通ではない、とだけ認識してもらえばとりあえずOK）

僕　その座標がね、曖昧なのよ。

x　座標が曖昧？！

僕　うん。座標とはそもそもベクトル空間で基底ベクトルを考えたときの基底ベクトルの係数だ。

x　ん？どういうこと？

僕　例えば $\mathbb{R}^3$ なんかだと基底ベクトルを $\mathbf{e}_i(i=1,2,3)$ 、つまり $i$ 番目が1で他は0のベクトル*3とすると $\mathbb{R}^3$ の任意のベクトル $(a_1,a_2,a_3)$ は $a_1\mathbf{e}_1+a_2\mathbf{e}_2+a_3\mathbf{e}_3$ と表される。この基底ベクトル $\mathbf{e}_i$ の係数の $a_i$ が座標だ。

x　なるほど。それで座標が曖昧というのは？

僕　座標は基底ベクトルの係数だった。つまり、基底ベクトルが変われば座標も変わる。

（下の図1参照。ベクトル空間は $\mathbb{R}^2$ で考えている。左右のどちらの図もAは同じ点を表しているのに基底ベクトル（水色）を左図では $(1,0),(0,1)$ 、右図では $(1,0),(\frac{1}{\sqrt{2}},\frac{1}{\sqrt{2}})$ *4とすると、左図ではAは $2(1,0)+1(0,1)$ 、右図ではAは $1(1,0)+\sqrt{2}(\frac{1}{\sqrt{2}},\frac{1}{\sqrt{2}})$ と表される、つまり基底ベクトルの係数をとってAの座標は左図では $(2,1)$ 、右図では $(1,\sqrt{2})$ となる。）

f:id:socialgeometry:20200308190342p:plain

僕　同じ点を表してるのに座標が変わるということは必然的に行列も変わるということだ。つまりベクトル空間の基底ベクトルが変われば行列も変わる。

ｘ　そうなの？

僕　上図で考えてみよう。つまり、 $\mathbb{R}^2$ から $\mathbb{R}^2$ への線形写像を考える。定義域側も終域側もどっちのベクトル空間も基底ベクトルを左図のものとし、 $B=(1,0)$ を $C=(3,0)$ へ移し、 $D=(0,1)$ を $E=(0,2)$ へ移す $2\times 2$ 行列を考えてみよ。

x　求める行列を $X$ とすれば、

$(3,0)^t=X(1,0)^t$ *5と $(0,2)^t=X(0,1)^t$ を満たす行列だね。計算すると*6

\begin{pmatrix}
3 & 0 \\
0 & 2 \\
\end{pmatrix}

となる。

僕　同じことを定義域も終域もどっち側のベクトル空間も右図の基底ベクトルとして表してみ？その場合、まず、点B,Cはさっきと同じだが点Dは $(-1,\sqrt{2})$ 、点Eは $(-2,2\sqrt{2})$ と表される。求める行列を $Y$ とすれば $(3,0)^t=Y(1,0)^t$ かつ $(-2,2\sqrt{2})^t=Y(-1,\sqrt{2})^t$ を満たすものになる。そうすると $Y$ は*7

\begin{pmatrix}
3 & 1/\sqrt{2} \\
0 & 2 \\
\end{pmatrix}

となり、明らかに前回求めたものと違う。

x　なるほど。要は、まずベクトル空間で基底ベクトルを考える。基底ベクトルを変えればベクトルの座標が変わる。そうすると行列の成分も変わる、と。

僕　そう。つまり二つの行列が線形写像として全く同じ*8だとしても、ベクトル空間の基底ベクトルを変えれば（すると座標も変わる）二つの行列の成分は全く別物になるよね。つまり、線形写像それ自体は基底のとり方によらないけど、座標や行列は基底のとり方に依存している。

ｘ　まさに上で見た例だね。二つの行列 $X,Y$ は成分が全く違うけどどっちもBをCに、そしてDをEに移しているわけだから全く同じ線形写像だもんね*9。

僕　そう。行列の成分が違う二つの正方行列 $X,Y$ でもそれが同じ線形写像 $T$ を表しているとき二つの正方行列 $X,Y$ を相似っていうわけだ。相似な行列同士には同値関係が導入できる*10。

ｘ　平面上の円で相似を考えれば、中心（つまり位置）の違いや半径（つまり大きさ）の違いはどうでもよかった。つまり「見た目」が異なる円はたくさん存在するけど、どれも「円の性質」に着目すれば同じ1つのものと考えることができた。今回の正方行列*11もそれと似たような感じで「見た目」（行列の成分）は違うけど線形写像の写像としての振る舞いに着目すれば同じ行列と考えることができるもの、それが「行列の相似」という発想だね？

僕　そう！で、一つ線形代数をやる上で必要な注意を言っておくと、幾何学だけでなく線形代数にもいわば外在的線形代数、内在的線形代数 *12というのがあるということだ。ベクトル空間で基底ベクトルの取り方に依るもの、例えば座標をとって考えるものや行列を使って考えるものは外在的線形代数だ。一方、ベクトル空間で基底のとり方にとらわれず、ベクトル空間それ自体、それから線形写像それ自体を考えるのが内在的線形代数だ。

x　座標ありきで考えるほうは基底を変えればベクトル空間 $V$ のベクトル $v$ を表す方法は変わるし、行列を表す方法も変わる。そのような「見た目」の違いがあるから外在的なわけだね。

僕　そう。一方で内在的線形代数のほうは、ベクトルや線形写像の表し方などの「見た目」や計算にとらわれず、より普遍的なベクトル空間の構造に着目しようとしているのである。そして外在的線形代数に慣れてしまってる人にとっては驚くべきことだが（しかし内在的に線形代数を捉えればそう驚くことでもないことだが）相似な2つの行列の固有値は一緒になる。他にもrankやtrace、行列式なども一緒になる*13。

ｘ　そうなのか。

僕　それは相似な行列は成分の見た目が違うだけで線形写像としては同じだから内在的に捉えれば、あとは固有値、rank、trace、行列式の意味を考えれば自明なわけ。線形写像 $T$ の固有値 $λ$ というのはある零でないベクトル $v$ に $T$ を施せばそれがスカラー $λ$ 倍になる、つまり $Tv=λv$ が成立するときのスカラー $λ$ のことを言う。このときの $v$ を固有ベクトルという。 $T$ を表す正方行列が $X$ であれ $Y$ であれ、それらが相似ならば、ある $v$ という固有ベクトルが $λv$ というベクトルに移ることに変わりはないわけだから、相似な正方行列同士は同じ固有値を持つのである。

x　じゃあrankはどうなの？

僕　rankも行列で定義すると煩わしくて、rankを求めるためのテクニカルなことを線形代数の講義の最初でやったりするが、内在的に考えれば $V$ から $V$ への線形写像 $T$ のrankはなんのこっちゃない、 $T(V)$ の次元のことである。これも相似な正方行列同士は見た目が違うだけで線形写像の振る舞いとしてみれば $V$ 全体が移る先 $T(V)$ は同じであり当然その次元も同じだから、相似な正方行列が同じrankを持つのは自明なことである。

x　そう考えるとそうだね。traceは固有値の和なんだから、相似な正方行列が同じ固有値を持つことから、相似な正方行列が同じtraceを持つことも自明だね。

僕　うん。

x　じゃあ、行列式は、どう考えればいいの？

僕　行列式だって $W\subset V$ （ $W$ の符号付き体積を $|W|$ で表す）を $T$ で移した $T(W)$ の符号付き体積 $|T(W)|$ が $|W|$ の何倍か考えるだけだから自明。

x　そうか。

僕　うん。固有値やrankやtraceや行列式と言ったものは内在的性質と言える。なぜかっていうと、外在的な、正方行列の見た目の違いに左右されない（つまり基底ベクトルのとり方によらない）正方行列の性質だからである*14。

ｘ　冒頭の固有値は内在性を持っているっていうのはそういうことだったのか。

僕　そういうこと。

x　で、対角化って固有値と関係あんの？

僕　うん。正方行列 $X$ と対角行列 $A$ とが相似になってるとき $X$ は対角化可能な行列といって対角化できる。もしそのような対角行列 $A$ が存在しなければ対角化できない。

ｘ　対角行列って？

僕　正方行列で「 $(i,i)$ 要素」（「左上から右下の、行列の"対角線"上の要素」）以外の要素は0の正方行列を言う。（なお、当然だが、対角化も正方行列でしか考えることはできない。）

ｘ　なるほどね、対角化って正方行列の相似の話だったのもわかったし対角行列もわかった。でもよく対角化とかって言うしそれこそ高校とかでも出てきた気がするけど対角化できて何が嬉しいわけ？

僕　 $X$ という $n\times n$ 行列がベクトル空間 $V(\dim V=n)$ で基底ベクトルを $\mathbf{x}_i (i=1,2,\cdots,n)$ とした時の $V$ から $V$ への線形写像を表す行列で、対角化可能だとする。でも $X$ はどういう振る舞いをするのかわからない。もちろん $X$ は行列だから、つまり線形写像だから和やスカラー倍を保つとか、図形的に言うと直線は直線に移すとか、そういうざっくりしたことはわかるが、もっと詳細な $X$ の振る舞いはわからない。一方対角行列 $A$ はどうか。 $A$ の振る舞いは詳細に、というか簡単に分かる。 $A$ の対角成分を $a_{ii}$ とすれば $A$ は各基底ベクトル $\mathbf{u}_i$ をスカラー $a_{ii}$ 倍する写像だと一目で分かる。つまりベクトル $\mathbf{u}_i$ をうまくとることで $A\mathbf{u}_i=a_{ii}[mathbf{u}_i$ が成立する。（志賀浩二『固有値問題30講』1章を見よ）

ｘ　固有値！！

僕　そうそう。この $a_{ii}$ は固有値でうまくとってやった基底ベクトル $\mathbf{u}_i$ は $a_{ii}$ の固有ベクトルの一つ。で、 $X$ が $A$ に対角化可能だとする。つまり、 $X$ は $A$ と相似なんだから線形写像としては $A$ と同じだ。これはつまり、 $V$ の基底ベクトルを $\mathbf{x}_i$ （対応する行列は $X$ ）で考えていたら線形写像 $T$ の振る舞いがよく分からなかったけど、基底ベクトルをうまくとってやることで、つまり固有ベクトル $\mathbf{u}_i$ （対応する行列は対角行列 $A$ ）をとってやることで $T$ の振る舞いがよく分かるようになる、という話。対角化の何がありがたいかは分かったでしょう？

x　うん。じゃあ内在的線形代数の考え方では、ベクトル空間や線形写像は本質的・普遍的には基底などの見た目に関係ないって話だったけど、線形写像の振る舞いをわかりやすく捉える上で外在的線形代数の考え方を使うっていうか、基底をうまくとってやれば線形写像の振る舞いが分かるようになるって話ね。

僕　まぁそうね。これは僕が数学でイメージや感覚を大切にしている理由の一つかもしれない。外在的な線形代数のアプローチだけでは本質、普遍的なものにたどり着けないが、感覚的に理解するためには外在的なアプローチが役に立つこともある。それは紙に円や三角形のような図形を書いたり、補助線を引いたり、グラフを描いたりすることで数学的対象を視覚的イメージで捉えたりして、それをきっかけに本質にたどり着くという、おそらく人間が数学と向き合うときに共通する精神的プロセスだろう。そういう意味で別に外在的線形代数が劣っているわけではないんだ。むしろ表現論とかは僕はよくわからないけどこのあたりの話、要はうまく行列を表現することがテーマになってるんだと思う。表現論は数学だけじゃなくて物理学とかやる上でも非常に重要な分野らしいよ。あ、そんな感じで本当は対角化できない場合の話とか無限次元ベクトル空間の場合の話とかフーリエ変換と固有値の話とか、そういう高度な話もいろいろしてみたいんだけど、それはまた機会があったらやるよ（やれるか知らんけど）。

http://www.math.kanagawa-u.ac.jp/mine/linear_alg/linear_alg_2020_05_03.pdf

最後に、このPDFは行列の説明から入ってるが行列計算やテクニックなどの話にとどまらずその背後の説明もあり、特に「なぜこのような概念を考えるのか？」といったことなどにこだわりがある人には非常におすすめのPDFである*15。

合計多分1.8万文字くらいだと思うけどこんなクソ長い奴全部読んでくれた人いたらありがとうね。んじゃねバイバーイ。

*1:これは前回記事に少しだけ出てきた話ですが気にしなくても本記事は読み進めることができます。

*2:もちろんノルムや内積も込みで考えればベクトル空間内で距離や場合によっては角度とかも考えれるようになるから空間っぽくなる。そもそも空間とは何か？って話でもあるが。

*3: $\mathbf{e}_1=(1,0,0),\mathbf{e}_2=(0,1,0),\mathbf{e}_3=(0,0,1)$

*4:図の座標軸の方向に基底ベクトルをとり、さらに長さ1にしている

*5: $^t$ は転置行列を表し、この場合、縦ベクトルを表している。はてなでうまく書けないからこう書いている。それと細かい話だが、いきなり縦ベクトルが出てきたがさっきまで横ベクトルで書いていたものも縦ベクトルで表示するほうが好ましいが $\mathbb{R}^n$ では縦ベクトル、横ベクトルの区別はないといっていいし、とりあえずここではこのことはそれほど気にしなくてよい。

*6:実は計算するまでもない。線形写像の振る舞いからx軸正方向に3倍され、y軸正方向に2倍されることはすぐわかるからである。

*7:今度はさすがに計算しないと分からないだろう。

*8:二つの行列 $X,Y$ が全く同じ線形写像というのは行列 $X,Y$ を純粋に写像としてみたとき両者が一致する、すなわち、(1)行列 $X,Y$ の定義域、終域のベクトル空間が一致していること、かつ、(2)行列 $X$ も $Y$ も任意の元 $v\in V$ を移す先 $T(v)\in V$ が一致していること、を意味する。

*9:今回の事例だと定義域、終域は一致していることと、 $X,Y$ はあくまでもB,Dを移す先が一致しているだけではないか、と思うかもしれないが線形写像の線形性とB,Dの一次独立性（図の $\mathbb{R}^2$ で、基底ベクトルをどのようにとってもB,Dが一次独立であることは変わらない）から、 $X,Y$ がB,Dを移つ先が一致していることを見るだけで定義域側のベクトル空間全体での $X,Y$ の線形写像としての振る舞いが同じだということが分かる。

*10:相似な行列が同値関係になっているかの確認は代数的に簡単に確認できる。なお行列 $X,Y$ が相似というのは代数的には、正則な行列（つまり逆行列を持つ行列） $P$ が存在して $Y=P^{-1}XP$ という関係になっていることを意味する。正方行列全体の集合で相似な行列同士が同値関係になってることは各自確認せよ。

*11:いつの間にか、正方行列だけを考えてるみたいになっているが、この記事の目的（固有値について）には正方行列だけを考えれば十分。それは固有値がそもそも正方行列でしか定義されないからである。それに伴って線形写像も、ベクトル空間 $V$ から同じベクトル空間 $V$ への線形写像 $T$ を考えれば十分。線形写像の固有値は無限次元ベクトル空間でも定義されるがこの記事では有限次元ベクトル空間だけで考えることにする。

*12:これら2つの用語は僕が勝手に名前をつけただけであるがこれは線形代数をやる上で意識しておくといいかもしれない。正確な用語でないので明確な定義はない。行列という（高校や大学数学で唐突に出てきた謎の）ものは確かに便利で重要なものではあるが（実用ではなく数学の理解という意味では）その背後の意味についても触れるのが好ましいと思う。行列の計算だけをするというのは線形代数の理解という観点からすればよくない。ただし計算が不要だと言ってるわけではない。（これは線形代数に限らず数学の計算全般に言えることである。）行列が表記の仕方に依存するから非本質的で重要でないわけではない。それについては、この記事の終盤の対角化のところを参照してほしい。

*13:ただし固有値やrank,trace,行列式が一緒だからといって相似とは限らない、つまり逆は不成立。

*14:ベクトル空間の話をすると一次独立/一次従属、次元なども内在的である。つまり、基底ベクトルのとり方によらない。一方、ベクトル空間の同型は基底のとり方によるので外在的である。

*15:といって僕はまだ途中までしか読んでないけどまぁいいじゃん。途中まで読んでいいと思ったんだし全部読まなきゃおすすめしちゃいけないってこともないでしょ？