「ヒト型 AI は人類にどのような影響を与え得るか」

4年ほど前に人工知能学会誌に書かせていただいた文章が無料公開されています。

一杉裕志、「ヒト型 AI は人類にどのような影響を与え得るか」
人工知能:人工知能学会誌 29(5), 507-514, 2014.
http://id.nii.ac.jp/1004/00001627/

私の研究に対してよく聞かれる質問に対する私の考えをまとめたものです。

なお、AIの身近に迫った最大の脅威は「人間による弱いAIを使った専制政治」だと当時から考えているのですが、そのような認識があまり世の中に広まっておらず、大変心配です。

近況報告

近況報告です。

大脳皮質モデルBESOMの条件付確率表モデルを刷新してアルゴリズムを実装・評価していましたが、計算が重くてなかなかハイパパラメタ調整がはかどらず中断中。計算量のオーダーはパラメタ数に対して線形ですが、かなり遅い。ちょっと方針を変えて、 loopy belief propagation のメッセージ計算をニューラルネットで近似計算することを検討中。脳も結局はそうやっているはず。

それとは別に、言語野のモデルにも取り組んでいます。組み合わせ範疇文法の構文解析・意味解析を、神経科学的に妥当な「疑似ベイジアンネット」で実現しようとしています。意味表現を工夫することでラムダ計算を不要にし、単一化の機構だけで意味解析を行います。簡単な文法を処理するプロトタイプが prolog で動いています。

また、汎用人工知能実現のブレークスルーを目指すべく、ヒトの知識獲得と思考のモデルにも手を付け始めました。BDIアーキテクチャに似たものと Sutton and Barto の本にも出ている Dyna-Q アーキテクチャを融合したものを、前頭前野・海馬・前部帯状回等に関する神経科学的知見を踏まえて実現しようとしています。設計には展望記憶(Prospective memory) に関する知見もヒントになりそうです。ちゃんと動けば、遠くない将来の汎用人工知能の実現に疑問を抱く人はかなり減るはず・・・と思っているのですが。

こういった話に関心のある研究者の方は、どこかでお会いした時にぜひ議論しましょう

減速した1人あたりGDPの加速ペース

下記ブログで、21世紀は20世紀よりも進歩が加速しているとは言えないのではないか、と書かれています。
収穫加速の法則批判 「減速する加速」 - シンギュラリティ教徒への論駁の書

その主張には私も同意で、それを裏付けるもっと明確な証拠があります。

科学技術の進歩は労働生産性を向上させるので、
1人あたりのGDPが科学技術の水準の客観的な目安になると思います。
では、1人あたりのGDPはどのように増えてきたでしょうか。

例えば下記ページに、 1600-2003年の1人あたりGDPの推定値の推移のグラフがあります。("World Per Capita GDP" というグラフ。)

Charting Historical Global Per Capita GDP - Kruse Kronicle

1800年から1975年の間は、すさまじい勢いで加速しています。
ざっくりいって、 1800->1900->1950->1975 というふうに、値が倍になるまでの時間が半分になっていき、双曲線的な(あるいはそれ以上の)ペースで増えています。
もしその加速ペースが続けば 2000年ごろに値は無限大になります。

しかし実際には、 1975 ごろ以降は加速しなくなり、
だいたい直線のペースでしか増えなくなったようです。

1人あたりのGDPの両対数グラフは下記ページの下の方にあります。
こちらもご覧ください。現在から数十年前にグラフの傾きが大きく減っています。
Estimating World GDP


人口増加の減速と1人あたりGDPの減速があまりタイムラグなくほぼ同じころに起きたというのは、意外でした。

「収穫加速の法則」と人口増加

両対数グラフで直線になる関数はべき関数です。指数関数ではありません。
両対数グラフ - Wikipedia

指数関数は、片対数グラフで直線になる関数です。
片対数グラフ - Wikipedia


ところで世界人口の推移は、
片対数グラフよりも両対数グラフでプロットした方が直線に近くなります。

多くの人は世界人口は指数関数的に増えてきたと思っているかもしれません。私もそうでした。でも実際は違います。驚くべきことに、長い間、現在までの時間に反比例して増えてきました

今から x 年前の世界人口は、おおざっぱにいって1000億を x で割った値になります。この関数はべき関数の1つです。
例えば下記ページに片対数グラフと両対数グラフが載っていますので、ご確認ください。
生態学第25回

1960 年に、もう少し正確な経験式を作った人がいました。
その式によると、世界人口は 2026年11月13日(金) に無限大に発散します。
この式は「最後の審判の日方程式 Doomsday equation」と呼ばれたらしいです。
この式は 1970 年代までは成り立っていました。
(その後、幸か不幸か、人口増加は減速しつつあります。)
von Foerster, H., Mora, P.M., & Amiot, L.W. (1960). Doomsday: Friday, 13 November. A.D. 2026.Science, 132 1291-1295.
http://www.bioinfo.rpi.edu/bystrc/courses/biol4961/Doomsday.pdf


さて、カーツワイルという人が収穫加速の法則というものを提唱しているそうですが、下記ページに載っている「人類史上のパラダイムシフトとなった重要な出来事」は両対数グラフですね?

収穫加速の法則 - Wikipedia

このグラフからは、「重要な出来事」は現在までの時間に反比例する頻度で発生する、ということが読み取れます。
(指数関数的には増えていません。もっと急激な増加です。)
このグラフの特異点は「現在」で、「重要な出来事」の発生頻度が無限大になります。

重要な出来事のグラフはつっこみどころ満載のグラフですが、
仮に人類出現以降に関してそのグラフが正しいとすると、
単純に「重要な出来事は人口に比例して起きる」という法則の方がもっともらしいように私には思えます。

ちなみに、「人口を定数倍増やす発明が人口に比例にして起きる」と仮定して微分方程式を解くと、人口を表す式はある時点までの時間に反比例する式になり、「最後の審判の日方程式」とほぼ一致します。
このこともまた、「重要な出来事は人口に比例して起きる」という法則を支持する証拠と言えるでしょう。


以上のことはあまり知られていないように思います。


なお、収穫加速の法則の英語版 Wikipedia のページには、同様のことがちゃんと書いてあります。
Accelerating change - Wikipedia

以前書いた下記エントリもご参考までに。
BESOM(ビーソム)ブログ 今から x 年前の人口は (1000億 / x) 人
BESOM(ビーソム)ブログ 人口シンギュラリティ 2026年11月13日(金)
BESOM(ビーソム)ブログ 人力による収穫加速の終焉


全脳アーキテクチャ勉強会「脳・人工知能とアナログ計算・量子計算」

5月9日(火)の全脳アーキテクチャ勉強会は
私がプログラム担当です。

アナログ計算と量子計算の理論についてご講演していただきます。

第19回 全脳アーキテクチャ勉強会 ~ 脳・人工知能とアナログ計算・量子計算 - 全脳アーキテクチャ勉強会 | Doorkeeper