SGCライブラリ - 110
情報幾何学の新展開
甘利俊一 著
2014年8月25日 初版発行
多様体とダイバージェンス関数
次元多様体
:
- 確率変数
- 確率密度関数
次元パラメータ
ダイバージェンス:
のとき、このときに限り、
のテイラー展開:
は正定値行列
ダイバージェンスの例:
- ユークリッド空間
- 確率分布族空間における Kullback–Leibler ダイバージェンス
- 正定値行列
- 正測度空間
凸関数の導くダイバージェンスと双対平坦構造
多様体 上に微分可能な凸関数
が与えられたとする。
Legendre 変換:
双対ダイバージェンス:
および
は
および
と双対的な関係にある。
が凸となるようなアファイン座標
- 2点
のアファイン座標
- 双対アファイン座標
双対平坦多様体
- アファイン座標
- 測地線
- 平坦な部分空間:
の部分空間
が
で定義される。
- アファイン座標系
を用いた自然基底
- 測地線
- 双対アファイン座標
- 双対測地線
- 双対平坦な部分空間:部分空間
が
で定義される。
- 双対座標系
の自然基底
- 双対測地線
2つの双対基底系は双直交系である:
拡張ピタゴラスの定理
3点 を考える。
- 拡張ピタゴラスの定理
と
を結ぶ双対測地線が
と
を結ぶ測地線と直交するとき
- 双対ピタゴラスの定理
と
を結ぶ測地線が
と
を結ぶ双対測地線と直交するとき
拡張射影定理
双対平坦空間で、一点 とそれを含まない曲面
を考える。
の
への射影
:
と
を結ぶ測地線が曲面と直交する。
の
への双対射影
:
と
を結ぶ双対測地線が曲面と直交する。
射影定理
曲面
が与えられたとき、
から
へのダイバージェンス
を最小にする
の点
は、
の
への双対射影
である。
一方、
の
への双対ダイバージェンス
を最小にする点
は、
の
への射影
である。