スポンサーサイト

上記の広告は1ヶ月以上更新のないブログに表示されています。
新しい記事を書く事で広告が消せます。

脳は適度に汎用的で適度に特化型

脳は「生物が現在の環境で生き残る」というタスクに特化した特化型AIです。
敵から逃れたりエサを見つけたりといったタスクの性能を向上させるための様々な作り込みがあります。
人間はそういった脳の作り込みの機構を「流用」して様々な知的活動を行っています。

脳は、
将棋の棋譜しか学習できないプログラムよりははるかに汎用的ですが、
どんな問題も原理的には解ける単純な強化学習アルゴリズムよりははるかに特化型です(注)。

AGI研究者はこのことを明確に意識する必要があると思います。
適度に汎用的で適度に特化型の機構を見つける努力が必要です。

例えば現状のSLAMはユークリッド空間に特化しすぎています。
脳のように、空間的な経路探索だけでなく、抽象的なプランニングも行えるような、もう少し汎用性の高い機構を考える必要があると思います。

(注:POMDPの場合でも指数関数的な時間を書ければ強化学習で厳密解が求まるようです。
参考:「部分観測マルコフ決定過程下での強化学習」 木村元
追記:「どんな問題も原理的には解ける」と書いてしまいましたが、解ける問題にはいろいろ前提があるかもしれません。すみません、私は強化学習にはあまり詳しくありません。

スポンサーサイト

「文の意味とは真偽を検証する制御プログラムである」という仮説

追記:下記の考察は、お茶の水大 戸次先生との議論に
多大な影響を受けています。


言語の意味とは何か。
言語の形式意味論において、
意味をプログラム(ラムダ式)の形で表現する方法がある。
しかし、具体的に何かをするプログラムというわけではなく、
論理式同様、宣言的知識を表現する手段としてラムダ式を用いているようである。

文の意味とは、その文の真偽を検証する行動を表現するプログラムであると
考えてみてはどうだろう。
ロボットが「教室に誰もいない」という命題の真偽を検証するためには、
教室をすみずみまで見渡せばよい。
この検証行為はロボットの制御プログラムとして書くことができる。
単純化して書けばこう。

for 場所 in 教室:
    if 誰かが見える return false
return true

この考え方で、 exist, all not, if を含む文の意味が
実世界にグラウンディングする!
過去形、未来形、さまざまな助動詞の意味も、
真偽を検証する制御プログラムの形で書くことができるだろう。
「この雨はいつか晴れる」という命題の真偽を検証するには、
近似的な検証ではあるが、

while not timeout:
    if 晴れている return true
return false

とでもすればよい。

命令系は、例えば「XXしなさい」の意味は
「XXすれば正の報酬が得られ、XXしなければ負の報酬が得られる」
と解釈すればよい。
「勉強しなさい」の意味の近似的な検証は、

勉強する; if ほめられた return true else false
  または
勉強しない; if しかられた return true else false

という制御プログラムで行える。

脳はさらにプログラム変換を行う能力を持っている。
「教室に誰もいない」を意味する制御プログラムに対してプログラム変換を施して、
「「教室に誰もいない」というのは間違いだ」という命題の真偽を検証する
制御プログラムとして

for 場所 in 教室:
    if 誰かが見える return true
return false

というものを脳は生成することができる。これが論理的推論。

具体的に脳は、どのような神経回路を使って論理的推論を実現するのか。
それはまさに今私が手を付け始めている研究テーマの1つ。
論理的推論を実行する制限付きベイジアンネットの回路を設計しようとしている。
このベイジアンネットは、推論の具体例の集合から公理を帰納推論する能力を
持つ予定である。帰納推論のための特別な機構の作り込みは一切なく、
EMアルゴリズムによるパラメタ推定をするだけで、
公理が自然に教師なし学習される、という構想。

このような研究に興味をお持ちの方はご連絡を・・・。

全脳アーキテクチャへの「よくある質問」

全脳アーキテクチャのFAQを作っておくと何かとよいと思うので、
取り急ぎ、思いつく「よくある質問」の「質問」だけリストアップしてみました。
みなさんも思いついたものがあれば、コメント欄に書いていただけるとありがたいです。

「全脳アーキテクチャについてよくある質問」

プロジェクトについて:
なぜ今?なぜ我々?なぜその方法論?なぜ他にだれもやっていない?
いつできる?できたらどうなる?本当にできるの?

用語について:
全脳アーキテクチャって何?アプローチ?アーキテクチャ?システム?団体?

脳を模倣するアプローチについて:
whole brain emulation との違い。
脳に縛られないほうが有利じゃないの?
人間と同じものを作っても意味がないのでは。
人間と同じように間違うものだとしたらありがたくないのでは。
赤ん坊の状態から育てたら教育に20年くらいかかるのでは。

AGIに関して:
なぜ汎用を目指すのか。
専用の方が必ず性能が上なのでは。
できたかどうかどうやって判断する?
何が重要な未解決問題なのか。
できたら危険じゃないのか。
従来技術と何が違うのか?

社会への影響:
失業する?人間がいらなくなる?貧富の差が広がる?
人工知能が反乱する?人工知能が無限に賢くなる?

よくある誤解:
脳についてまだほとんど何も分かっていないのでは。
脳は計算機と全く違う情報処理をしているのでは。
脳はとても複雑で人間に理解不可能なのでは。
脳は計算量が膨大すぎてシミュレーションできないのでは。
労働力としては人間よりも高くつくのでは。

できたAGIがこれを持つかどうか:
心。感情。意識。自由意思。痛み。創造性。クオリア。
直感。ひらめき。自己意識。人権。

ニューラルネットに対する古い批判:
脳と違って教師信号がないと使えないのでは。
時系列を学習できないのでは。
可変長構造、再帰的構造を扱えないのでは。
脳と違って学習データがたくさんないと使えないのでは。

コンピューターに関する誤解:
計算機はプログラムされたことしかできないのでは。(学習できないのでは。)
脳は神経回路が変化するが計算機は固定した機械だから模倣は無理では。

これを見落としてるんじゃないの:
身体性。グリア細胞。量子力学的現象。ノイズ。カオス。社会性。
脳内ホルモン。

無理じゃないの:
何十年も前から研究していてできてない。何千年も前からわかってない。
この何十年、ブレークスルーがあったとは聞いてない。
ニューラルネットは大昔からあるが人工知能はできてない。
人工知能ブームは何度もあったがまだできていない。
計算機にNP完全問題が解けないうちは人工知能は無理では?
脳が完全に解明されてからでないと脳を模倣できないのでは。
よくわからないが、できるきがしない。できないと思う。
大天才じゃないとできないと思う。

専門家が言っている:
脳がどう動いているかについて何一つわかっていないと専門家が言っている。
人工ニューラルネットと脳は全然違うと専門家が言っている。
知能についてまだ何もわかってないと専門家が言っている。
人工知能を作る方法の糸口すらわかっていないと専門家が言っている。
人工知能が自分の意思で動くことはないと専門家が言っている。
「わたしの予想では人工知能はできない」と専門家が言っている。

魂について:
機械が心を持つとして、それをコピーしたら心はどうなる?
精神アップロードで不老不死になる?

とりあえず以上です。
質問への答えは、おいおいどこかに書いていこうと思います。
このあたりの疑問は踏まえたうえで研究しております。

「ヒト大脳皮質の機能を再現する 計算機アーキテクチャに関する 予備的考察」

脳を模倣した巨大なニューラルネットワークをシミュレーションするために必要な
計算機スペック(演算速度、通信バンド幅、メモリ容量、メモリバンド幅)について、
自分なりにおおまかに考察してみました。
「ヒト大脳皮質の機能を再現する計算機アーキテクチャに関する予備的考察」

前提に不確定要素が多い見積もりなので、ご注意ください。

マクロコラム内の結合が密で、マクロコラム間の結合は
おそらくランダムかつ少数、という構造を考慮することが重要かと思います(p.19)。

GPGPU クラスタを使うと割とちょうどよいバランス、
ただしキャッシュのヒット率や GPU のコア間の通信バンド幅が
問題になる可能性がある(p.32, 33)、
というのが今のところの結論です。

また、大きな問題は、初期コストとランニングコストだと思います(p.30,34)。

WIRED でインタビュー記事

WIRED でインタビュー記事を載せていただきました。

「へその緒」でつながる人工知能を目指して:AI研究者・一杉裕志が描く、AIと人が共存する未来 ≪ WIRED.jp

私は自分から「シンギュラリティ」という言葉を使うことはあまりないのですが、
ここではシンギュラリティについて多少言及しております。(笑)

追記:
後編も公開されました。
人工知能に恋をしてはいけない:AI研究者・一杉裕志が語るAI社会の倫理、雇用、法律 « WIRED.jp

舌足らずで、なぜロボットに同情するのが危険なのか読んでもわからないですね。
すみません。
人工知能に恋をするのは別に個人の自由です。
問題なのはロボットに同情し、能力増強や権利の付与をしてしまうことで、
それは本質的な危険につながると考えています。
(ロボットSFの古典「ロッサム万能ロボット会社」もそういうストーリーです。)

なお、危険になるのは知能の高いロボットができてからの話で、
現状の人工知能やロボットはたいして危険ではありません。
上記広告は1ヶ月以上更新のないブログに表示されています。新しい記事を書くことで広告を消せます。