RIKEN BSI FORUM

情報幾何ワークショップ     プログラム
（2002年2月4日現在）

開催日程：２００２年２月１９日（火）--２１日（木）
開催場所：理化学研究所　脳科学総合研究センター 東棟 （この 地図 の１９番の建物） １階 105号室
主催：理化学研究所　脳科学総合研究センター
問い合せ先：林 正人（048-467-9664） masahito@brain.riken.go.jp
(懇親会参加希望の方は林までメールで御連絡下さい。)



２月１９日（火）
14:00-14:30 川端 勉（電通大）
一般歪み尺度による漸近的量子化と幾何
14:30-14:50 松添 博（佐賀大理工）
射影的に平坦な接続を持つ統計多様体上の Voronoi 図
15:00-15:30 長岡 浩司（電通大）
マルコフ過程の情報幾何学について
15:50-16:40 江口 真透（統数研、総研大学院）
選択的観測における統計推測のための情報幾何
16:50-17:20 逸見　昌之（総研大学院）
セミパラメトリックモデルにおけるパラメータの推定効率についての一考察
17:30-18:20 高野 嘉寿彦（信州大学）
アファイン接続をもつ擬リーマン沈め込み

２月２０日（水）
10:00-10:50 坂本 登（名古屋大）
非線形制御理論とシンプレクティック幾何
11:00-11:50 榎本 隆二（鳥羽商船高専）
勾配的 Morse-Smale 制御系とその周辺

昼食

13:30-14:20 小原 敦美（大阪大）
対称錐の平均について
14:30-15:20 吉沢真太郎（University of Wuerzburg, Germany）
"Trace inequalities for relative entropy based on the Legendre transformation"
15:40-16:30 松本 啓史（ERATO,JST）
量子系の幾何学的考察
16:40-17:30 林 正人（理研）
正則性を満たさない確率分布族のパラメータ推定における大偏差型評価


18:00-20:00　 懇　親　会


２月２１日（木）
10:20-11:10 池田 思朗（九工大 & JST）
ターボ符号と低密度パリティ検査符号の情報幾何
11:20-11:50 樺島 祥介（東工大）
グラフィカルモデルと変分原理

昼食

13:30-14:00 林 幸雄(北陸先端大）
ヘテロなネットワーク上のラプラシアンと情報幾何
14:10-14:40 甘利 俊一（理研）
特異統計モデルと情報幾何
15:00-15:50 駒木 文保（東京大）
ベイズ予測分布の情報幾何
16:00-16:50 竹内純一（NEC）
タイトル：α-平行事前分布とその性質 (with 甘利俊一)
17:00-17:30 竹ノ内 高志（総研大学院）
AdaBoostからU-boostへの情報幾何

アブストラクト

川端 勉（電通大）一般歪み尺度による漸近的量子化と幾何
(Asymptotic quantization with non-difference distortion measure and its geometry)
We study an optimal high-resolution quantization of multi-dimensional random noise with a known smooth probability density, and extend some of the previous geometric results on asymptotic two-stage quantizer into the case of non-difference distortion measures.

松添博（佐賀大理工） 射影的に平坦な接続を持つ統計多様体上の Voronoi 図
双対接続の空間が Voronoi 図を持つことは，大西氏（電通大）らの研究 によって知られている．Voronoi 図の構成アルゴリズムの一つである 幾何学的変換の手法が，アファイン幾何学から自然に導入できることを示し， 射影的に平坦な接続を持つ統計多様体上に Voronoi 図が構成できることを示す．

長岡 浩司（電通大）マルコフ過程の情報幾何学について
有限状態集合上の次数 $k$ の多重マルコフ連鎖の全体 $M_k$ や次数 $k$ の自己回帰ガウス過程の全体 $AR_k$ など、ある種の 離散時間確率過程の集合は、$n$ 時刻の同時分布の成す分布族が $n$ を大きくしていったときに近似的に指数型分布族と同じ形に 書ける、という意味で、漸近的に指数型分布族とみなしてよい ことはよく知られている。しかし、「漸近的に指数型分布族」 というような捉え方は、確率過程の構造論としてはあまり見通し のよいものではない。そもそも、次数 0 のマルコフ過程である 通常の確率分布からなる集合の場合には、それが指数型分布族 かどうかという定義に漸近論など不要なのに、次数 1 になった 途端に $n \to \infty$ の議論が必要になるというのも何となくおかしい。 そこで今回は、多重マルコフ過程を要素とする集合に対して、 それが指数型分布族であるということをできるだけスマートに 定義し、それによって、通常の確率分布から成る指数型分布族 に関するさまざまな議論を確率過程の場合に拡張することを試み る。このようなアプローチが新しいものかどうかはわからないが、 マルコフ過程の情報理論が煩雑になる理由の一端が構造論の未 成熟にあるようにも思うので、その辺りのことも含めて、この 機会に自分自身の疑問点を整理してみたいと考えている。

江口 真透（統数研、総研大学院）選択的観測における統計推測のための情報幾何
統計理論の基本仮定はランダムサンプルの仮定の上に構築されている． 観察的研究によるデータには無視できないもの選択的バイアスが生じる恐れがある． 実験的研究においても無視可能性はしばしば保証されない． この発表では統計モデルに微小なランダムサンプルの仮定のずれを局所的に KLダイバージェンスの意味で「モデルの管状近傍」で特徴付ける． 情報幾何の枠組みで選択バイアスの推定不可能性について示す．

逸見　昌之（総研大学院）セミパラメトリックモデルにおけるパラメータの推定効率についての一考察
−局外パラメータを含むある特別な場合ー
局外パラメータを含むパラメトリックな統計モデルにおいて関心のあるパラメータ に対する最尤推定を行う場合、もし局外パラメータの真値を知っているならばそれを 用いる方が、局外パラメータを推定するよりも、関心のあるパラメータに対する 最尤推定量の漸近分散が小さくなる（またはせいぜい等しい）ことはよく知られている。 ところが、近年医学統計の方面で考案されているある種のセミパラメトリックモデルでは、 局外パラメータを含む推定方程式によって関心のあるパラメータを推定する際に、 仮に局外パラメータの真値を知っているとしてもそれを推定した方が関心のある パラメータの推定の効率が（漸近分散が小さくなるという意味で）よくなることがある。 今回の発表では、このパラメータの推定効率に関する”逆転現象”を、 情報幾何の立場から理解することを試みる。

高野 嘉寿彦（信州大学）アファイン接続をもつ擬リーマン沈め込み
非退化計量，捩れのないアファイン接続及びその双対な接続をもつ 擬リーマン多様体において，ケーラー沈め込み及び佐々木沈め込みと 同様の考察を行った。このようなアファイン接続をもつ擬リーマン 沈め込みについての報告及び統計的モデルの例として多次元正規分布 について述べる。

坂本 登（名古屋大）非線形制御理論とシンプレクティック幾何
In this talk, the geometric property and structure of the Hamilton-Jacobi equation arising from nonlinear control theory are investigated using symplectic geometry. Generating function of symplectic transforms plays an important role to reveal the structure of the Hamilton-Jacobi equation. It is seen that many of fundamental properties of the Riccati equation can be generalized in the Hamilton-Jacobi equation, and therefore, the theory of the Hamilton-Jacobi equation naturally contains that of the Riccati equation.

榎本 隆二（鳥羽商船高専）勾配的 Morse-Smale 制御系とその周辺
フィードバック制御された系が，勾配的なMorse-Smale力学系であるとき， これを勾配的Morse-Smale制御系(GLMSCS)とよぶ．GLMSCSの位相幾何 構造は位相幾何学的な力学系理論の一分野であるConley指数理論を用いて 解析できる．フィードバック制御則が確定する以前の制御系の構造を配位空 間上の制御理論と呼ぶ枠組みで解析し，配位空間上の交叉理論を介してGLMSCS を設計する手順を概観する．続いて，d'Alembert方程式から導かれる非ホロ ノーム接続とフィードバック制御系との関連を俯瞰して，可能ならばGLMSCS との関連に迫りたい．

小原 敦美（大阪大）対称錐の平均について
2つの正数に対して算術，幾何，調和平均が定義され， この3者間に成立する大小関係は様々な不等式の基礎となっている． 本発表ではこれらの平均演算が対称推上に拡張可能で， 情報幾何から自然に定義されるLevi-Civita，双対接続を用いて， 2点を結ぶそれぞれの測地線の中点となることを示す． また平均を生成する作用素単調関数まで立ち戻ってその関 係について述べる．

吉沢真太郎（University of Wuerzburg, Germany）
"Trace inequalities for relative entropy based on the Legendre transformation"
The talk aims to construct a class of relative entropies on the cone space of all the positive definite matrices with a family of potential functions and Riemannian metrics via the Legendre transformation.

The notion of "derivative" much depends on the Riemannian structure. Employing the "Riemannian inner product" as a bilinear form to define the Legendre transformation, we can make a "deformation family" of dual structures.

As a result of our study, we can construct a new family of relative entropies including the Kullback-Leibler information and Umegaki's relative entropy continuously, and so we obtained a novel "estimation bound" which is different from one, for example, the "Golden-Thompson type inequality" discussed in Ruskai-Stillinger, Hiai-Petz, Ando-Hiai papers.

I propose a kind of "quantization" from the "Kullback-Leibler picture" to the "Umegaki picture", in where the "Matrix Zeta function" plays an important role to construct the family of relative entropies.

Moreover, we can show a "Matrix Zeta type Phytagorean Theorem" with a family of the Riemannian metrics. Note that in our discussion "geometric mean" of positive definite matrices is used in order to define the "dual chart".

I think this topic can be extended to a "Euclidean Jordan algebra" and so on.

松本 啓史（ERATO,JST）量子系の幾何学的考察
対数微分の量子版として，推定論的意味がありそうなものに， 対称対数微分，右（左）対数微分がある． 一般に，推定量の分散の一次漸近論においては，対称対数微分が重要で， 推定量は対称対数微分を用いて構成される．が， ある種の「複素構造」が導入できる場合，右対数微分も同じく 重要な役割を果たす．このあたりのメカニズムについて，幾何的な 考察を行なう．

林 正人（理研）正則性を満たさない確率分布族のパラメータ推定における大偏差型評価
確率分布族におけるパラメータ推定の精度を比較する1つの基準として、 推定値が真値から ε 以上ずれる確率の減少率を評価する方法がある。 このような議論は Bahadur により始められ大偏差型の評価とよばれる。 Bahadur による議論の特徴は KL divergence を用いている点にあり、 KL divergence により分布族の計量が定義できない場合などは、 彼の理論は適用できない。本研究では、様々な意味で、正則性が満たされない 場合にこの理論の拡張を試み、拡張方法が必ずしも1値では無く、 複数の拡張が可能であり、それらの拡張の関係について論じる。

池田 思朗（九工大 & JST）ターボ符号と低密度パリティ検査符号の情報幾何
ターボ符号と低密度パリティ検査符号は，高い誤り訂正能力を持ち，かつ効率 の良い復号法を持つ誤り訂正符号として知られている．その復号法の特性につ いては，数値実験を通じて調べられ，有効性が示されているが，理論的には未 知な部分が多い．我々は，情報幾何を用いてこれらの復号法を表現し，数理的 解析の為の枠組を与える．特に両復号法の解の安定性，アルゴリズムの停留点 の性質，そして復号誤差を明らかにする．

樺島 祥介（東工大）グラフィカルモデルと変分原理
大自由度分布に関する効率的な近似計算法として注目されつつあるベーテ近似 の変分関数がどのような背景の下に導出されるのか、グラフィカルモデルの研究で 知られている結果に基づいて議論する。

林 幸雄(北陸先端大） ヘテロなネットワーク上のラプラシアンと情報幾何
辺の重みを持つヘテロなネットワークに適した新しいラプラシアンとその 拡散処理に対して, 情報幾何学の双対平坦構造から導かれる作用素の連続版 と離散版(多様体上とグラフ上のラプラシアン）をそれぞれ提案し, グリー ンの公式や最大最小の原理, 拡散方程式における保存則や残差の単調減少性 などの理論的性質を示す. また, 分散コンピューティングにおける負荷均一 化やWWW上のランダムウォークなどの応用についても議論できればしたい.

甘利 俊一（理研）特異統計モデルと情報幾何
　統計学やその情報幾何はこれまで正則な場合を対象としてきた． しかし、多層パーセプトロンの作る空間や混合ガウス分布のつくる 空間など、現実に興味ある空間は、その階層性のために特異点 をふくむモデルになる．こうしたモデルに起こる興味ある性質を いくつかのモデルを例として議論してみたい．

駒木 文保（東京大）ベイズ予測分布の情報幾何
ベイズ予測のための事前分布を，統計モデルの幾何学的性質に基いて構成する方 法について説明する．予測の許容性・ミニマックス性などの性質とモデル多様体 の幾何学的性質との関連について述べ，多くの場合にジェフリーズの事前分布を 優越する事前分布が構成できることを示す．多変数ポアソンモデルの同時予測， ウィシャートモデルの予測などいくつかの具体例について説明する．

竹内純一（NEC）α-平行事前分布とその性質 (with 甘利俊一)
Jeffreys事前分布は統計的推測において重要な役割を果たす ことが知られている. 本稿では, 情報幾何の立場からJeffreys事前 分布を一般化し, α-平行事前分布というワンパラメータの事前分 布の族を定義する. これはα-接続に関して平行な体積要素として 定義され，Hartiganによるlocally invariant priorに一致する． さらに, 曲指数型分布族の推定問題において, α-平行事前分布を 用いた場合の射影Bayes推定量(Bayes予測分布をもとのクラスに射 影して得られる推定量)とMDL推定量の漸近的性質を論じる. α-平 行事前分布はα=0のときにJeffreys事前分布に一致する．Jeffreys 事前分布が必ず存在するのに対し, (α=0以外の)α-平行事前分布 は一般には存在する保証がない. そこで，α-平行事前分布が存在 するための必要十分条件を情報幾何の見地から与え，これが Lauritzenが定義した共役対称なる性質と関係することを示す．

竹ノ内 高志（総研大学院）AdaBoostからU-boostへの情報幾何
G Lebanon, J Lafferty等はAdaBoostが線形な制限下におけるKL divergenceの 最小化問題の双対な問題と等価である事を示しその幾何的な解釈を与えた. またEguchiはAdaBoostで用いられるExponential Lossを一般の関数に 拡張したU-Boostを提案した． 本発表ではLafferty等の議論に基づきΨ divergenceの最小化問題が U-Boostと等価になっている事を示しその幾何的な解釈を与える．