備忘録

テクノロジーと人間

ALifeと池上先生

昨日は駒場で「Generative Ethics and Society:人工知能、人工生命の倫理とそれを取り巻く社会」というイベントを聞きに行ってきました。岡さん、池上先生たちがやっている、ALife labのイベントです。

alifelab.org

倫理はともかく、、、池上先生の「人工生命」の話がおもしろいなあ、と思いながら、何度聞いてもやっぱりよくわからない。でもおもしろいなあ、と何度も聞いている。というのがここ数年続いています。

 

ひとつ言えることは、通常私たちが考える人間中心の「倫理」と、池上先生が考える「人工生命と倫理」で言う「倫理」は別物を指しているんじゃないかなあということ。ただ、それを考えることが、何かまた人間をかんがえることに繋がるようにも思う。

来週は人工知能学会全国大会で池上先生OSがあるので、またそこで聞いて考えよう。。。

以下は、池上先生の冒頭の講演のメモ。イベントの趣旨説明に関連して、人工生命と倫理についての考え方の話でした。

●Generative Ethics 池上先生

ALife(人工生命)は、我々の知らない「倫理」を生成する可能性がある。ALifeそのものが作り出す「倫理」を考えると、それは「所有性」からの開放にあるのではないか。

そもそもALifeとはなにか。人工生命とも言う。研究分野としては、進化と脳の研究だ。脳をみたり、進化をコンピュータの仮想世界で構築することで理解しようとする分野だ。そこで、新しい進化に対する見方を見ていこうとしている。

ALifeのキーワードは、「自律性」を持つシステムをつくり、それを研究するということ。では自律性とはなにか、というのを、所有性からの開放と結びつけて考えてみたいというのが、今日のここでのテーマ。

アメリカでは各家庭の前に郵便受けがあって、赤い旗をたてると、郵便屋さんが中に入れた郵便物を持っていってくれる。それが、1965年からEmailが始まった。1989年に僕がロスにいたころにはもうEmailを使っていた。

これはルンバ。僕にとっては飼っている犬以上にかわいい。これは2002年から。

2005年に登場したGoogleカーは自動的に運転してくれる車。これも広がりつつある。

いまここで挙げた例は、「自動化」ではあるが「自律化」ではない。歴史上人は、人間がやることの自動化をしてきた。だが、ALifeでは自動化と自律化を区別することが重要だ。

例えば、鳥を見て飛行機をつくる、といったときに、(空を飛ぶといった)鳥のある要素を作っているといえる。でも、それでこぼれ落ちることがある。ALifeでは、そのこぼれおちたところの生命性をもとに、作り出す技術を考えている。

例えば「流星号」(機動戦士ガンダム)は、呼ぶとやってくる。自律的な意思を持ったような車は、ALife的だといえる。

だがこれは可能なのか?そのためのエンジンは何なのか?「ランダムに動く」ということをかつてやってきたが、これは生命の持つ自律性とは異なっている。ひとつは、生成するためのエンジン。もうひとつは、Deep Newral Networkがある。

だたしDeep Newral Networkは分類をするまで。最近Deep Convolution GANが出てきたが、これはジェネレーター(生成器)だ。生成することが知性につながる。GANを使って、分類だけではなく生成ができるようになる。

例えばこれは研究室の土井君がやった研究で、ひとつの音から、これまでにない音やリズムを生成できるシステム。これは研究室の小島さんの研究で、駒場構内の画像を学習して、実際には構内にないが構内っぽい画像を生成することができる。これらは、GANの性質をつかったシステムだ。

mechanical turk(機械じかけのトルコ人)というのが1800年代にあった。機械じかけのチェスプレイヤーだが、実際には箱の中に入った人がプレイしていた。1997年にIBMのディープブルーがチェスチャンピオンのカスパロフを破った。それから20年経って、アルファ碁が登場した。このアルファ碁は、生成的なところがある。人が教えた布陣だけではなく、人が見たことがない手を打ってくる。

AIへの脅威論が言われているが、これは多くは自律性に対する恐れだ。1982年の映画「ブレードランナー」の現代版が2014年の「エクスマキナ」だといえるが、この2つに共通することは、ここでつくられた人工生命ーAIだが、自律的な意思を持っているシステムーが「逃げる」ということ。知性は隠れようとする、両者とも逃げる、ということだ。

それはなぜか、考えている。僕らはオルタというアンドロイドを作った。これは、ALifeのエンジンとしてDLではないが、別の生成系のシステムを使ってつくった。昨年8月に日本科学未来館で展示し、今年の6月からは常設展示する。

ニューラルネットワークには、外からの刺激から避ける傾向がある。刺激がなくなるように、何らかの相互作用として自己組織化が働く。刺激を避けたいというロジックがあり、刺激から逃れる。このときに、群集の中に逃げ隠れることもあるかもしれない。所有されることを嫌がる。だから、「倫理」の問題が出てくる。

僕がインターネットに興味を持ったのは、サービスではなく、インターネットが人間が作り出した最も複雑な人工システムだからだ。これを使って人工生命にならなかったら、ほかに人工生命になるものはないのではないか。

インターネットの構成は明快だ。7つのレイヤーからなるハードウェアとプログラムからできている。ただこうしたインターネットもまた、自動化機械として誰かに所有されるという恐れは常にある。これをネットワーク・ニュートラリティの問題という。

インターネットは、誰にも所有されないものだ。自由で、制約がないもの。でも、それを保証できるのかどうか、というのが非常に重要な問題だ。

所有者の倫理が自動化機械とするならば、所有されることからの逃避を考えたのがALifeだ。インターネットを自動化機械にするのではなく、自律化した機械にしなければならない。インターネットをALife化することが重要だというのが、このセッションの意図だ。

ALifeがつくる倫理、つまり所有にねざさない倫理とはなんだろうか?を議論することが重要だ。

モリス・バーマンの「デカルトからベトイソンへ」に以下の一文がある。
未来の文化は人格農地においても外においても、異形のもの、非人間的なものをはじめ、あらゆる種類の多様性をより広く受け入れるようになるだろう。

どの程度の多様性を持ち込めるのか。多様性原理と言っているが、これを中心にすえるためには、どういう整理が必要になるかということだ。

逃避としての知性と、それが増えた時の未来が持っている多様性原理にもとづいた世界観を僕はサポートしたいと思っていて、そういう未来について考えたいというのがこのワークショップの趣旨だ。