行列が表すもの
線形代数は、まずは行列を学ぶことだと言える。
行列Aは何を表しているのか。
見た目はシンプルで、値が矩形に並んだ集まりである。
これが、行列とベクトルの乗算、行列同士の加算、乗算などが
定義されると豊かな代数構造が広がる。
行列は具体的に以下を表す。
(1) 線形方程式の係数の集まり
線形代数の導入では、行列は連立１次方程式の係数を集めたものが
登場する。
連立1次方程式
がある場合にベクトルx, b, 行列Aを
と置き、
と表す。
(2) １次変換 (線形変換) を表す
1次変換
を(1)と同様にx, y, Aを
と置き、
と表す。関数のようにyを左辺に置くことが多い。
ベクトルｘが、行列Aを乗算することによりベクトルyに変換される。
x, yをn次元の座標と考えると座標を変換することになる。
(3) 代数の対象要素
元々は(1)や(2)を表す行列だが、行列同士の乗算、加算できることから、
行列自体が代数の要素となる。
また、行列は「行列の乗算」を「演算」として群をなす。
(4) データの集まり
表作成ツールのデータが一例である。
通常、行と列はある属性が共通のものが並んでいる。
従って列ごとの合計を求めたり、データを比較することが
意味あるものになる。
そうでないと矩形に並べることの有効性は乏しい。
機械学習では教師データを行列の形で表現し、
予測する数式をそれを用いて表すなどの利用法がある。
このブログについて
線形代数というものを初めて勉強してから
40年くらいたった。
大学の教養で勉強し、大学院で勉強し直した。
大学院の研究のために、
を必死に勉強した。
教養でいかにサボっていたかを気付かされながら、勉強した。
この時代の知識が、自分の線形代数の知識の原点である。
社会人となってからも、画像圧縮、量子力学、量子情報、機械学習などを
専門書で学び、線形代数を応用の面から色々調べてきた。
線形代数はイメージを捉えると理解しやすいが、
教科書にイメージを分かりやすく説明しているとは限らない。
本ブログでは、厳密さはないが、イメージを捉えられるよう端的な表現で
線形代数のテーマについて説明する。
こういう言い方をしてもらったらわかったのに、というような表現を思い出し、
記述する。ノウハウ、コツのようなものかも。
記述するテーマ自体、自分が疑問に思ったことで、
教科書には書いていない些細なものがあるが、
イメージを捉えるために役立つと思う。
イメージとして理解することは、他分野の学問との共通性を見出したり、
新しい視点や原理を研究するにも重要だと考える。
このブログの内容は、線形代数を利用する研究者に役に立つと思うし、
初学者にも線形代数のイメージを捉える一助になると思う。
ブログ名の
「チョウチョが翔ぶ」
とはこのブログでも紹介して行くが、
線形変換を分かりやすく表現するチョウチョのような形の図から取った。
このような図に倣いたいという思いからだ。
以上、
お付き合いの程、よろしくお願い致します。
ベクトルのイメージ
線形代数で基本的なベクトルは、方向と大きさを持つもので位置に依存しない「矢印」のようなイメージで説明されることがある。また、力のようなものとも説明される。
経験上、力の合成の特徴は簡単には、
･同じ力が同じ方向だと2倍の力、
･少し角度があると、合成力は2倍よりも弱くなり、方向は二つの力の方向の間、
･反対向きだと0、
などがある。これらの特徴を端的に表すのが矢印表記である。
矢印の長さが力の大きさを表し、矢印の方向が力の方向を表す。
そうすると、2個の力を合成した力(合成力)は
始点を合わせた2本の矢印が作る平行四辺形の
対角線の長さが合成力の大きさ
対角線の方向が合成力の方向
になる。
さて、成分を並べて表示したものをベクトルと呼び、力もその一種とみなす。
並べる方向を明示する時には横ベクトル、縦に並べると縦ベクトルを言う。
2次元の横ベクトルを矢印付きのアルファベットで表記すると、
となり、ベクトルの加算を成分同士を加算して得られる結果とする。
ベクトルの成分をｘ－ｙ座標軸で表すことを考えると、
ベクトルの加算は一つ目のベクトルの終点に二つ目のベクトルの始点をつないで
一つ目のベクトルの始点から二つ目のベクトルの終点までを加算結果とすることに対応している。
つなげる順番は逆でも同じ結果となる。
両方の場合をつないだものが平行四辺形の関係であり、ベクトルの重要な性質だ。
平面上の力は矢印をｘ方向とｙ方向に分解して成分とすれば、
2次元ベクトルとして議論できることになる。
次に矢印から離れて、
ベクトルを複数の成分のセットとし、成分の数だけ自由度を持つ「数」のような要素
ベクトル同士の加算は成分同士を加算する
と考えれば同じ議論ができる。
これが線形代数を学ぶ上でまずは大事なベクトルのイメージだと思う。
そういったこともあり、
ベクトルを矢印付きでなく、太字でa, bと区別したり、通常の変数と同様にa, bとも表現する。
行列の強烈な性質
いきなり特異値分解を用いるが、名前にびびらず、この表現に注目しよう。
固有値分解に似た行列の分解だが、
固有値分解は対称行列に適用できるが特異値分解は全ての行列に適用できる。
正方行列Aは2種類の直交行列U,Vと対角行列Δにより、それらの積で表される。
( ’は転置を表す)
これを知り、衝撃が走った。
即ち、
一般の行列が 「 回転(1) ー 軸方向の伸縮 ー 回転(2) 」で表される
という強烈な性質を示している！
これを強調したい。こんなシンプルな表現になるのだ！
ここでは、詳述しないが、ベクトルに対して直交行列は座標軸の回転、対角行列は座標軸方向へのベクトルの成分の伸縮を表すと考えて下さい。
2×2行列位しかイメージが沸かなかった行列に、一気に親しみを覚えた。初学者でもこの事実を知ることで苦手意識が薄れるのではないだろうか。
このような行列の性質を示す特異値分解は長方形の行列にも適用できるのでこれを用いて色々な線形代数の性質を一般的にシンプルに議論することができる。いきなり、これを説明する教程も考えられるのではないか。
ジョルダン標準形より、特異値分解を勉強した方が線形代数の本質を捉えることができ、応用も広範であると考えている。
また、この性質は線形変換が同様に表されるということでもあり、一般の線形変換もこのような変換の合成で表されるということだ。一般の線形変換が。
