脳と Reservoir computing

昨日の全脳アーキテクチャ勉強会、おかげさまで大変勉強になりました。

ところで、講演者の1人電通大の山崎さんにメールで質問したところ、
明快なお返事をいただきましたので、ご本人の許可を得てここに転載します。

質問:

> Wikipedia によると Reservoir computing の主なものとして
> liquid-state machines と echo state networks がある、とのことですが、
> この2つは一言でいうとどう違うのでしょうか?
> Wikipedia の説明を見てもよくわかりません。
>
> 小脳のモデルは liquid-state machines であって echo state networks ではない、
> という理解でよろしいでしょうか?
>
> それと、大脳皮質で Reservoir computing をやっている、
> と言っている人はいないのでしょうか?

山崎さんからのご回答:

> ご連絡ありがとうございます。発表当初は
>
> 出自の違い:
> Liquid state machine = 大脳皮質のコラムのモデル (神経科学)
> Echo state network = カオスを利用した時系列予測 (信号処理・工学)
>
> 構造的な違い:
> Liquid state machine = 連続時間+スパイキングニューロンモデル+ネットワークの作り方は割と適当
> Echo state network = 離散時間+レートモデル+ネットワークの作り方は数学的(固有値の実部をどうするかとか)
>
> でしたが、まあ統一されてしかるべきコンセプトだと思います。
>
> 大脳皮質でReservoir computingというと、LSMの最初の論文(Maass, Naschlager, Markram 2002 Neural Comput)は皮質のコラムから出発しています。V1のモデルとしても提案されたことがあります(Buonomano & Maass 2009 Nat Rev Neurosci参照)。Hennequin, Vogels, Gerstner (2014) は大脳皮質の運動野の活動を再現するために提案されました。探すとまだあると思いますが、今私がフォローしているのはこれくらいです。


おかげさまで大変すっきりしました。

Reservoir computing は BPTT(backpropagation through time) のような
生物にとって実現しにくい機構を使う必要のない、単純な機構なので、
脳のあちこちで使われている可能性は高いと思います。
私の大脳皮質モデルにも入れることを検討したいと思います。


それから、きのう勉強会後に聞いた話では、

・機能を再現する上で spiking neuron である必要はない。発火頻度モデルで十分。
発火頻度でのシミュレーションならば計算時間はかなり減る。
・小脳顆粒細胞は数は多いがシナプス数は非常に少ない。
プルキンエ細胞はシナプス数は多いが細胞の数が少ない。

とのことでした。
この2点を踏まえると、ヒトの小脳の機能を計算機上で再現させるために必要な
計算コストはかなり少なくてすみそうです。(大脳皮質と比べて無視できるくらい?)
これは、全脳のモデルの実用化を目指す上では Good news でした。

コメント

コメントの投稿

トラックバック


この記事にトラックバックする(FC2ブログユーザー)