質問への回答その3(事後確率 vs. MPE)

先日の大脳皮質ベイジアンネットモデルへのご質問への回答その3です。

>確率伝播とbelief revisionについてですが、現在はbelief revisionであろうと
>考えているという事でよいでしょうか? 私だけかもしれないですが、
>MPEの考え方が非常にわかりやすかったので確率伝播よりもbelief revision
>のほうが我々自身の脳の中で起きていることとして圧倒的にすんなり
>腑に落ちました。今のところ確率伝播の資料を読んでからbelief revisionを
>読むようになっていますが、今後改訂される際にはbelief revisionから入った
>ほうがわかりやすいのではないかと思いました。

大脳皮質の認識アルゴリズムは
belief propagation (事後確率計算)か
belief revision (MPE計算)のどちらか、という問題ですが、
私の考えは何度も迷走中です。
JSAI2014 の論文からは belief propagation に強く傾きました。

jsai2014:3H4-OS-24b-1 制限付きベイジアンネット BESOM における認識アルゴリズム OOBP

隠れ変数を含むベイジアンネットの学習はEMを使うのが理論的には妥当ですが、
このEMの実行に belief propagation で得られたメッセージの値が利用できるようです。
(どの教科書にも分かりにくくしか書いてないのですが、どうもそのようです。
自分でアルゴリズムを導出してみればはっきりするのですが。)

また、 近似 Belief Revision は導出がアドホックすぎる上、
実際に MNIST 手書き数字認識で性能評価してみると
実は性能が出ない、という問題があります。

しかし一方で、おっしゃるとおり直観的にはMPEの方が認識結果の脳内表現として
正しいように思います。
この矛盾の解決方法はいろいろ考えられます。

大脳皮質は時系列学習をするダイナミックベイジアンネットであり、
外界から得られた証拠を時間的に蓄積して認識精度を上げている、
という可能性があります。
その場合、時間がたつにつれ事後分布の形がするどくなっていき、
最終的にMPEの近似値が求まるのではないか、
ということが考えられます。

その予想が正しいとしてもまだ問題は残っています。
以前論文にした運動野のモデルは belief revision を前提にしていましたが、
belief propagation でも運動野の動作が説明できるのかは、まだ不明です。

コメント

No title

>MPEを計算するにも現在わかっている近似belief revisionよりも高性能
>でかつ神経回路で実装可能なアルゴリズムが今後出てくる可能性も
>あるのでしょうか。

はい、可能性はあると思います。

No title

なるほど、このへんはまだまだ研究が必要という事がわかりました。

MPEを計算するにも現在わかっている近似belief revisionよりも高性能
でかつ神経回路で実装可能なアルゴリズムが今後出てくる可能性も
あるのでしょうか。

時系列学習というのは内観にも沿っている気がします。
このへんは何らかの認知心理実験を組めないでしょうか?
何らかの図形を短時間見せて、その認識結果の正解率と
見せる時間の関係の時系列グラフを書き、どういう関数
で収束してゆくか、など。

コメントの投稿

トラックバック


この記事にトラックバックする(FC2ブログユーザー)