能動学習での二種類の大偏差型の限界

Two type large deviation bounds in active learning

林正人 (PY) 理化学研究所脳科学総合研究センター脳数理研究チーム

Masahito Hayashi Laboratory for Mathematical Neuroscience, Brain Science Institute, RIKEN e-mail address: masahito@brain.riken.go.jp

松本啓史科学技術振興事業団今井量子計算機構プロジェクト

Keiji Matsumoto Quantum Computation and Information Project, ERATO, JST e-mail address: keiji@qci.jst.go.jp

Abstract: The topic of the paper is the large deviation bounds, or the bounds of decreasing rate of error probability of estimate in active learning.

Weak and strong consistency are introduced as natural regularity conditions of estimate, and it is rigorously proved that the best achievable efficiency of weakly consistent estimate and strongly consistent estimate is given by the weak bound and the strong bound, respectively.

学習理論におけるパーセプトロン学習や能動学習, 統計学における適応的実験計画はともにデータの取り方を適応的に選択できる状況での統計的推測を扱っている [1, 2]. 同種の問題は量子力学に従う系で未知状態を (量子相関を用いない条件の下で) 統計的に推測する際にも表れ, 最適な量子測定の選択が問題になる. 量子系の統計的推測の理論は Helstrom により始められ [3], 1980 年代の後半に長岡が適応的推定法を導入して以来 [4], 漸近理論の整備が急速にすすんでいる [5],[6],[7].

本研究では能動学習での推定量を厳密に定式化した上で, その誤差の大偏差型の限界を論じる. 推定量の実用性を無視し, 原理的な限界の厳密な導出に焦点を置いた. 詳しくは著者らによる文献 [8, 9] を参照されたい.

通常の（入力を動かさない）確率分布族のパラメータ推定の場合, 推定量が真値から ϵ 以上ずれる確率の漸近的な減少率が Fisher 情報量の半分で上から押えられ（Bahadur の不等式） , しかも最尤推定量はこの限界を達成することが知られている [10][11]. （パラメータ数が複数の場合は限界は Fisher 情報行列の最小固有値の半分になる.）この議論の特徴は, 不等式が\underline{各点}での推定量の真値への収束を仮定するだけ証明され, その他の正則性条件が全く必要ないことである. その帰結として,Bahadur の不等式は検定論の Stein の補題から導かれ, 比喩的には推定は二つのわずかに異なる確率分布の間の検定と見ることができる. \underline{ところが,Bahadur の議論を能動学習に拡張すると, 各} キーワード:能動学習, パーセプトロン学習, 理論解析, 実験計画, パラメータ推定, 大偏差型評価, 超有効性点での推定量の収束だけを仮定した場合の限界 B^{w}(θ) と「漸近的一様性」を課した場合の限界 B^{s}(θ) とでは異なり, 一般には B^{s}(θ) ≤ B^{w}(θ) となる.

以下その詳細を述べる. 本研究では出力の確率分布は入力 x とシステム θ の関数となる状況を扱う. システム θ にある入力 x を施したときの出力 y の従う確率分布を P_{θ}^{x}( dy), その分布による確率変数 X の期待値を E_{θ}^{x}(X) または E_{θ}^{x} X と記す. また, 入力 x の集合を X と記す. そして, 未知パラメータ θ ∈ Θ ⊂ ℝ^{d} でパラメトライズされたシステム族のパラメータ推定を問題にし, その一次漸近論を扱う.

場合によっては, 複数の入力を確率的に混合して用いることが有用である. このような戦略は X 上の確率分布 μ で記述される. 以下 X 上の確率分布全体の集合を P (X) で表す. システム θ に対して, 分布 μ ∈ P (X) に従って入力を選択したときの入出力 z = (x, y) の従う確率分布 P_{θ}^{x}( dy)μ( dx) を P_{θ}^{μ}( dz) と記す.

次に漸近理論を扱うために, 入力回数 n の適応的な入力のもとでの未知パラメータ θ の推定量を定式化する. k − 1 番目までの入出力 z⃗_{k−1} ≡ (z_{1}, …, z_{k−1}) に依存して k 番目の入力の分布 μ_{k}(z⃗_{k−1}) を選ぶ. このような入力の列の決め方を E_{n} = {μ_{k}(·)}_{k=1}^{n} で, それによって得られる入出力の系列 z⃗_{n} の確率分布 P_{θ}^{μ_{1}}( dz_{1})P_{θ}^{μ_{2}(z⃗_{1})}( dz_{2}) ⋯ P_{θ}^{μ_{n}(z⃗_{n−1})}( dz_{n}) を P_{θ}^{E_{n}}( dz⃗_{n}) で表す.n 回同じ μ を繰り返す戦略は μ × n と書く. z⃗_{n} から推定値 T ∈ ℝ^{d} への関数を T_{n}(z⃗_{n}) と表し, n 回の入力に対する推定量を組 (E_{n}, T_{n}) で定義する. そして, 確率分布族 {P_{θ}^{μ}|θ ∈ Θ} の Fisher 情報行列を J_{i,j}^{μ}(θ) と略記する.

推定量の列 E ≡ {(E_{n}, T_{n})}_{n=1}^{∞} が以下の条件 (I) をみたすとき弱一致とよぶことにする.

(I) P_{θ}^{E_{n}}{T_{n} ∉ U_{θ,ϵ}} → 0, ∀θ ∈ Θ, ∀ϵ > 0.

そして, β(E, θ, ϵ), α(E, θ) を以下で定義する.

β(E, θ, ϵ) ≡ \overline{lim}_{n→∞} \frac{−1}{n} log P_{θ}^{E_{n}}\{T_{n} ∉ U_{θ,ϵ}\} (1)
α(E, θ) ≡ \overline{lim}_{ϵ↓0} \frac{1}{ϵ^{2}} β(E, θ, ϵ).  (2)

U_{θ,ϵ} は θ の ϵ 近傍である. さらに本研究では弱一致性 (I) に加えて以下の条件を扱う.

(II) (2) の右辺が lim を持ち, かつ θ について局所一様収束する.

(III) (1) の右辺が lim を持つ.

(IV) α(E, θ) が θ に関して連続である.

推定量の系列 E が弱一致性 (I) を持つならば以下の不等式 (3) が成立し, 弱一致性 (I) に加えて条件 (II)〜 (IV) を充たすなら以下の不等式 (4) が成立する.

α(E, θ_{1}) ≤ B^{w}(θ_{1}),  (3)
α(E, θ_{1}) ≤ B^{s}(θ_{1}).  (4)

２種の限界 B^{w}(θ), B^{s}(θ) はそれぞれ以下で定義した.

B^{w}(θ) ≡ inf_{∥ξ∥=1} sup_{μ∈P (X)} \frac{1}{2}J_{i,j}^{μ}(θ)ξ^{i}ξ^{j},
B^{s}(θ) ≡ sup_{μ∈P (X)} inf_{∥ξ∥=1} \frac{1}{2}J_{i,j}^{μ}(θ)ξ^{i}ξ^{j}.

文献 [8, 9] で示した通り, 両者の限界は各々の意味で達成可能である. 直観的に自然な推定量の限界は B^{s}(θ) であると思われる. 第 1 の理由は, B^{s}(θ) の導出に必要な (II)〜(IV) の自然さである. 第 2 に, B^{s}(θ) は確率分布族の限界の最小化として特徴付けられる. 第 3 に,B^{s}(θ) を全ての点で一様に達成する推定量は構成できたが, 本研究で構成した B^{w}(θ) を達成する推定量は, 一点でのみ良い効率を達成するに過ぎない. （超有効な推定量）

B^{s}(θ) の導出に用いた条件の自然さから, 全ての点で B^{w}(θ) を達成する推定量は存在しないと思われる. したがって B^{s}(θ) が推定量の効率の本来の限界と思われる. 確率分布族の推定のように検定の極限として導出できる限界は B^{w}(θ) の方である. このことから, この場合の推定をわずかに異なる２つの仮説の間の検定と見ることはできない. ただし, 能動学習でも未知パラメータが 1 次元ならば B^{s}(θ) = B^{w}(θ) であるから, 未知パラメータが多次元であることがこの議論で本質的である.

2 つの限界が一致するための必要十分条件を文献 [8, 9] では求めた. 2 つの限界の一致・不一致は座標系に依存するので, 特定の座標の下での一致, 任意の座標の下での一致, 両者が一致する座標が存在のための必要十分条件を全て導いた. 興味深いことに, 線形の入出力関係という単純な例で, 入力の制限を変えるだけで上記のすべてのケースが現れる. パラメータのとり方に依存しない距離を使って大偏差型の評価を行なう場合には, 両限界の一致・不一致は距離の定義に依存する. この流儀の議論での 2 つの限界の一致条件は文献 [8, 9] で導いた定理の自明な書換えで得られる.

確率分布の推定でモデルが非正則な場合 [12] や, 量子相関の利用を許した場合の量子推定 [7] では, パラメータが 1 次元であっても, ここで述べた意味での推定と検定のギャップが現れる. これらの場合, 本研究で述べた能動学習とは異なった事情が働いていおり, 全く別の議論が必要である.

参考文献

[1] V. V. Fedorov, THEORY OF OPTIMAL EX-PERIMENTS, (Academic Press, 1972).

[2] 松本啓史, “データのとり方を適応的に変えられる場合の一次漸近論の構想,” 情報理論的学習ワークショップ予稿集 (1998).

[3] C. W. Helstrom, Quantum detection and Estimation Theory, (Academic Press, 1976).

[4] H. Nagaoka, “An Asymptotically Efficient Estimator for a One-dimensional Parametric Model of Quantum Statistical Operators,” Proc. of 1988 IEEE International Symposium on Information Theory, p.198 (1988).

[5] 長岡浩司, “Kullbacl Divergence と Fisher 情報量について -古典系から量子系へ- ,” 情報理論とその応用学会ジョイントミニワークショップ講演資料, pp. 63 (1992).

[6] 林正人, 松本啓史, “測定自由度をもつ統計モデルと量子力学,” 数理解析研究所講究録 1055, 96-110 (1998).

[7] M. Hayashi and H. Nagaoka “Large deviation type bounds in quantum estimation,” in preparation.

[8] 林正人, 松本啓史, “適応的実験計画での二種類の Bahadur 型限界,” 電子情報通信学会論文誌 A, Vol.J83-A, No.6, 629-638 (2000).

[9] 林正人, 松本啓史, “適応的実験計画での二種類の Bahadur 型限界（II） ” BSIS Technical Reports No.01-3 (2001). http://www.bsis.brain.riken.go.jp/BSIS-TR.html

[10] R. R. Bahadur, Some Limit Theorems in Statistics Regional Conference Series in Applied Mathematics, No 4, SIAM, Philadelphia (1971).

[11] J. C. Fu, On a theorem of Bahadur on the rate of convergence of point estimator, Ann. stat., 1, 745-749 (1973).

[12] 林正人, “相対レニーエントロピーによる非正則モデルの漸近推定について,” 数理解析研究所講究録 1161, 78-112, (2000).