物理ノート

サイエンス社「数理科学」SGCライブラリの読書メモ

複素ニューラルネットワーク[第2版]

SGCライブラリ - 126

複素ニューラルネットワーク[第2版]

廣瀬明 著

2016年6月25日 第2版発行

ニューラルネットワークの考え方

分散性、並列性

互いに同一あるいは類似のユニットすなわちニューロンが多数集まり互いに結合して、情報をやり取りしながら分散並列的な情報処理を行う。

局所性

個々のニューロンが得る情報は、他のニューロンから結合(シナプス)を経由して入力される入力信号の状態と、自分自身の内部の状態、出力信号の状態、自分の次の結合先のニューロンの状態である。

荷重和をとること、および活性化関数の非線形性

ニューロンが情報を得るときには、それぞれに入力に対して結合の状況(結合荷重)に応じた重み付けを行う。

ニューロンの出力は、重み付けされた入力を合算した値(内部状態)そのものであるか、またはそれを非線形な関数(活性化関数)で変換した値である。

可塑性

結合荷重はニューロンが得る情報によって変化する。

処理動作をしながらでも徐々にその値を変えてゆくこともできる。

汎化性

学習した特定の状況に対して望ましい振舞いをするだけでなく、学習しなかった状況に対しても、学習済みの状況から推測して振舞うことができる。

複素ニューラルネットワークとは?

単層2入力2出力フィードフォーワード型の実数ニューラルネットワーク

$$ \binom{x_1^{\mathrm{out}}}{x_2^{\mathrm{out}}} = \begin{pmatrix} a & b \\ c & d \end{pmatrix} \binom{x_1^{\mathrm{in}}}{x_2^{\mathrm{in}}} $$

複素ニューラルネットワーク

複素数  {\mathbf{x}^{\mathrm{in}} = (x_1^{in},x_2^{\mathrm{in}})} {\mathbf{x}^{\mathrm{out}} = (x_1^{\mathrm{out}},x_2^{\mathrm{out}})} にマップする。

$$ \binom{x_1^{\mathrm{out}}}{x_2^{\mathrm{out}}} = \begin{pmatrix} |w|\cos\theta & -|w|\sin\theta \\ |w|\sin\theta & |w|\cos\theta \end{pmatrix} \binom{x_1^{\mathrm{in}}}{x_2^{\mathrm{in}}} $$

荷重  {w} は複素数で  {\theta \equiv \arg(w)} である。

扱う対象の第一義的な量が「位相」や「振幅」であるとあらかじめ分かっているならば、複素ニューラルネットワークを採用することによって、高すぎる自由度を減少させることができる。

ニューラルネットワークの構成と動作

ヘブ則

荷重更新の最も基本的な法則と考えられている仮説

あるニューロン A の出力が別のニューロン B に送られて B を繰り返し興奮させ発火させるとき、何らかの変化が A または B あるいは両方のニューロンに生じ、A が B を効率よく発火させるようになる。

時刻  {t} に対する荷重  {w_i} の変化

 {\displaystyle \tau\frac{dw_i}{dt} = -w_i + yx_i}

  •  {\tau}: 変化の時定数
  •  {y}: ニューロン B の出力
  •  {x_i}: ニューロン B の入力

複素ヘブ則

  • 連続時間: {\displaystyle \tau\frac{d_i}{dt}\mathbf{w} = -\mathbf{w} + y\mathbf{x}^{\ast}}
  • 離散時間: {\displaystyle \mathbf{w}^{(t + 1)} = (1 - K)\mathbf{w}^{(t)} + Ky\mathbf{x}^{\ast}}

 {K} {0 \lt K \lt 1} で更新の速さを決める定数。

でこぼこ具合も取り込んだ地表区分地図の生成

干渉型レーダ:複素振幅を画素値とする画像を得るレーダ

位相差は、2つの電磁波を混合し干渉を観測することにより、片方の波に対するもう片方の波の位相として検出される。

複素マルコフ・ランダム・フィールド(CMRF)モデル

得られた画像が局所的にどのような複素テクスチャを持つかを評価して、そのテクスチャによって地表を適応的に区分する。

複素画像の点  {s} に注目し、その値を  {z_s} とする。

適切な広さの  {s} の近傍領域  {N_s} を考えて、そこに含まれる点を  {t_i} で表す。

 {s} が値  {z_s} を持つ確率の分布  {P(z_s)}

 {P(z_s\,|\,}画像内の点  {s} 以外の点での値 {)\, = P(z_s\,|\,z_{t_i} \in N_s)}

確率分布は近傍によって決まり、それはある範囲の領域で一定である。

対人プラスチック地雷を可視化するレーダ・システム

位相特異点除去によるディジタル・エレベーション・モデルの生成

光キャリア周波数に依存した想起を行う光波連想記憶

光波位相の適応等化器

キャリア周波数を動作モード変調の鍵とする発展学習

周波数領域で位相スペクトルを適応制御するピッチ非同期音声波形生成

マルチパス環境での通信チャネル予測

偏波合成開口レーダにおける適応的な土地状況区分