新版 情報幾何学の新展開
SGCライブラリ - 154
新版 情報幾何学の新展開
甘利俊一 著
2019年11月25日 新版発行
多様体とダイバージェンス関数
次元多様体 :
- 確率変数
- 確率密度関数
- 次元パラメータ
ダイバージェンス:
- のとき、このときに限り、
- のテイラー展開:
- は正定値行列
凸関数の導くダイバージェンスと双対平坦構造
多様体 上に微分可能な凸関数 が与えられたとする。
点で に接する接超平面の方程式:
関数 が 点で接平面のどのくらい上にあるかを計る。
を から へのダイバージェンスと呼ぶ。
Legendre 変換:
双対ダイバージェンス:
および は および と双対的な関係にある。
- が凸となるようなアファイン座標
- 2点 のアファイン座標
- 双対アファイン座標
双対平坦多様体
- アファイン座標
- 測地線
- 平坦な部分空間: の部分空間 が で定義される。
- アファイン座標系 を用いた自然基底
- 双対アファイン座標
- 双対測地線
- 双対平坦な部分空間:部分空間 が で定義される。
- 双対座標系 の自然基底
2つの双対基底系は双直交系である:
拡張ピタゴラスの定理
3点 を考える。
- 拡張ピタゴラスの定理
- と を結ぶ双対測地線が と を結ぶ測地線と直交するとき
- 双対ピタゴラスの定理
- と を結ぶ測地線が と を結ぶ双対測地線と直交するとき
拡張射影定理
双対平坦空間で、一点 とそれを含まない曲面 を考える。
- の への射影 : と を結ぶ測地線が曲面と直交する。
- の への双対射影 : と を結ぶ双対測地線が曲面と直交する。
射影定理
曲面 が与えられたとき、 から へのダイバージェンス を最小にする の点 は、 の への双対射影 である。
一方、 の への双対ダイバージェンス を最小にする点 は、 の への射影 である。
指数型分布族の双対平坦構造
指数型分布族:
新しいベクトル確率変数 を導入する。
- の測度:
は分布族のなす多様体の座標系で、自然パラメータと呼ぶ。
は規格化定数に対応する関数
- はキュムラント生成関数(自由エネルギー)
- は凸関数
指数型分布族に伴う凸関数 に対応して、Legendre 変換による双対凸関数が存在する。