next up previous
: この文書について...

相対レニーエントロピーによる

非正則モデルの漸近推定について
林 正人
本研究では $1$ パラメータの確率分布族のパラメータ推定の問題を 後に述べる相対レニーエントロピーを用いて漸近理論の枠組みで扱う. そのために 相対レニーエントロピーに関する議論をまとめた. さらに個々のモデルについて 相対レニーエントロピーの極限を評価する. このとき通常の Fisher 情報量の定義では発散するモデルで 発散しないように Fisher 情報量を再定義する. そして相対レニーエントロピーと 帰無仮説及び対立仮説がともに単純である仮説検定との関係について述べる. それらの準備の下で正則なモデルだけでなく 異なる未知パラメータに対応する確率分布が互いに絶対連続にならない という意味での非正則(パラメータ空間が 特異点を持つという意味での非正則なモデルに関する研究があるが, 本研究では一貫して上述の意味での非正則なモデルのみ扱うことにする.) なモデルを含む一般的なモデルについて 漸近論とりわけ大偏差型の評価や極限分布の視点から考察する. 上述の意味での非正則なモデルについてなされた研究は Akahira, Akahira and Takeuchi, Ibragimov and Has'minskii によるものなどがあるが正則な場合に比べると極めて少ない. 本研究では相対レニーエントロピーを用いることによって 非正則なモデルを含む一般的な状況の下で漸近論を展開する.

誤差を推定値が真値よりも大きくなる誤差(右側誤差)と 推定値が真値よりも小さくなる誤差(左側誤差)に別けて議論し, それらを同等な評価のみではなく, ある重みをつけた評価も同時に行う. このような議論を行うことによって両者の trade off を扱うことができる. 一般には一様分布族の場合最大値と最小値の中間の値(標本中点) が最適な推定量であると認識されている. しかし本研究で扱った一様分布族などの 非正則なモデルにおいては最適な推定量は一意には決まらず 最適性が重みの取り方に依存することの方が一般的であることが確かめられた. この現象は一様分布族において顕著にあらわれる. (大偏差,極限分布双方に評価方法の下で確かめられた. 同時に,正則なモデルもしくは正則なモデルに近い場合は 推定量の最適性が重みの取り方に依存しないことが確かめられた. これは,正則なモデルについては従来の trade off を扱わない定式化で全く問題がないことを示している.

続いて,右側誤差と左側誤差を同等に評価する枠組みの下で 位置共変モデルについてより詳しい考察を行った. ある極限操作の取り替えに関してある病的な現象に注目した. この病的な現象は大偏差型の評価及び極限分布どちらの評価を採用しても モデルが非正則である場合に限って起る. 以下この議論を大偏差の場合に限って この現象の概略を述べる. 大偏差型の評価では一般に真値から推定値が $\epsilon$ 以上ずれる確率の rate を $\epsilon$ の関数として考える. そして個々の推定量の rate の $\epsilon \to +0$ の極限を調べる. 一方それとは異り $\epsilon$ を固定する毎に推定量についてその rate の上限を取り, その上限の $\epsilon \to +0$ の極限を考えることもできる. 両者は極限 $\epsilon \to +0$$\sup$ の順序が異るだけである. 従って安易に極限の取り換えを許すのであれば両者は一致する. 実際,正則なモデルにおいては両者は一致する. しかしながら,非正則なモデルの場合には必ずしも両者は一致せず, 異る場合の方が一般的である. 本研究で注目した例については推定量を位置共変なものに限定して考えたときに 両者が一致しないことが確かめられた. ただし,モデルが非正則である場合に必ずそのような病的な現象が起きるとは 限らず正則なモデルに近いときやモデルが対称であるときは両者は一致する.

この相違は以下に述べるように 点推定と区間推定の相違という観点から捉えることができる. まず, $\epsilon$ を固定したときの大偏差の評価は区間推定に対応していると考えることができ, $\epsilon \to +0$ の極限を考えたときの大偏差の意味で最適な推定量 を考えることは点推定に対応していると考えることが出来る. したがって上記の2つの量の不一致から 点推定が区間推定の極限として捉えることができないと考えられる. また逆に正則なモデルのときのように両者が一致する場合についは 点推定を区間推定の極限として捉えることができる. 極限分布における同様の考察においても 同種の2つの極限式を考えることができる. そして非正則の場合には一般には両者が異ることが同様に確かめられ, 正則なモデルもしくは正則なモデルに近い場合はそのような両者が 一致することが確かめられる. しかしながら,大偏差の場合のように両者の違いを 区間推定と点推定の相違に結び付けるという解釈ができない.

そのほか大偏差型の評価に限って様々な議論を扱った. 右側誤差と左側誤差を同等に評価する枠組みで 2次の漸近理論も扱った. 正則なモデルでの大偏差型評価の下での高次の漸近論は Fu により議論されているが本研究で扱うような 非正則なモデルでの大偏差型評価の下での高次の漸近論は 著者の知る限りなされていない. しかし,残念ながらこれについては 達成可能な限界をほとんど求めることができず今後の課題となる.

そして大偏差型の評価における超有効性についても触れておいた. モデルが正則であるときには大偏差型の評価については 相対エントロピー(Kullback-Leibler の divergence) の単調性から限界を導くことができるため, MSE と異なり超有効性は起きない. しかしながら,モデルが非正則である場合は大偏差型の評価においても 超有効な推定量が存在することが Ibragimov and Has'minskii により指摘されている. ここでは本研究で行った定式化と超有効性との関係について議論した.




Masahito Hayashi 平成13年7月9日