スポンサーサイト

上記の広告は1ヶ月以上更新のないブログに表示されています。
新しい記事を書く事で広告が消せます。

大脳皮質の認識アルゴリズムは loopy belief revision ?

大脳皮質の認識アルゴリズムは belief propagation でも山登り法でもなく、
belief revision ではないか、と思い始めました。

背景:

[Rao 2004][Rao 2005][George and Hawkins 2005][Ichisugi 2007]は、
いずれも大脳皮質が認識時に確率伝播アルゴリズム(belief propagation)を
行っていると仮定しています。
そう仮定することで、大脳皮質の主要な解剖学的特徴と、
視覚野のニューロン応答のある種の現象をうまく説明できます。

一方、私のテクニカルレポート2009[Litvak and Ullman 2009]では、
認識時には大脳皮質がMPEを計算していると仮定しています。

belief propagation が計算するものとMPEは全く違います。
MPEとは、全ての変数の値の組のうち同時確率が最大のものです。
belief propagation とは個々の変数の事後確率を計算するアルゴリズムですが、
その計算結果を使ってもMPEを求めることはできません。

もし認識がMPE計算ならば、学習はEMアルゴリズムだと解釈できる
(と私は思っている)ので、理論的見通しもすっきりします。

ウサギにもカモにも見える曖昧図形を人間はある瞬間にはそのどちらか1つだと
認識し、決してウサギ51%カモ49%というような認識はしません。
この事実は、認識がMPEであるとする仮説を支持します。

先日紹介した [Litvak and Ullman 2009] も、認識はMPEであると主張しています。
MPEを計算するアルゴリズムの1つに
belief revision (別名 max-product または max-sum)があります。
Pearl 本 p.250 またはビショップ本(PRML) 下 p.126 参照。)
この論文によれば、 belief revision の実行に不可欠な max の演算を
大脳皮質が行っていることを支持する、
ニューロン応答の報告と解剖学的証拠があるとのこと。

はたして大脳皮質の認識アルゴリズムは belief propagation か
belief revision か、それとも他の何かなのか?


私の予想:

じっくり検討する時間がとれないですが、
belief revision 説にかなり大きく傾いています。

belief propagation は注意に関係する電気生理実験の結果を
定性的にうまく説明できます[Rao 2005]が、これに関しては belief revision も
同じ説明能力を持ちそうです。
(シミュレーションしてみないと分かりませんが。)

belief propagation はいくつかの仮定のもとで大脳皮質の
主要な解剖学的特徴をうまく説明できます[Ichisugi 2007]が、
belief revision は belief propagation の sum を max に変えただけのもので
情報の流れは同じなので、やはり同じ説明能力を持つ可能性があります。
(こちらも詳しい検討が必要です。
Σ と max の演算順序を入れ替えられない点が問題になるかも。)

これらの予想が正しければ、
belief revision 説を棄却する理由がないことになります。

belief propagation 説には上で述べたように、
学習の観点からの意味付けがない、曖昧図形の認識が説明できない、
という問題点があります。

あと、曖昧図形を見せた時のニューロン応答を調べる研究なんて
いかにもありそうなので、それを探せば、
どちらかの説を支持する証拠になるんじゃないかな。


なおテクニカルレポート2009では belief revision とも違う、
山登り法によってMPEを計算しています。
しかしこのアルゴリズムでは、電気生理実験の結果を説明できない、
解剖学的特徴の説明も限定的、
各ノードを非同期で動かした時によい近似解に到達しない恐れがある、
という問題があります。


知りたいこと:

さてさて、 loopy belief revision はどういうわけか
loopy belief propagation より解説が少ないのと、
私の勉強不足のせいもあってその性質をよく理解していません。
(この論文[Heskes 2006]によるとどちらも同じ程度の理論的根拠はあるようです。
読んでません。)

気になるのは以下の点です。

- どちらも一般には厳密解に収束しない。
ではどういう条件の時に実用的な近似解が求まるのか?

- 大脳皮質と同じ条件で動かした時、
収束速度は平均どのくらいのオーダーになるなのか?
(O(n) で収束してほしい。)

- loopy belief revision でも短期記憶やバインディングは説明できるのか?


今後:

この件で自分自身で論文を書く予定は当面ありません。
もし論文を書きたい方がいらっしゃいましたら、よろこんでお手伝いしますので
ご連絡ください。

質問・間違いの指摘なども常時歓迎です。

コメント

コメントの投稿

トラックバック


この記事にトラックバックする(FC2ブログユーザー)

上記広告は1ヶ月以上更新のないブログに表示されています。新しい記事を書くことで広告を消せます。