読者です 読者をやめる 読者になる 読者になる

備忘録

テクノロジーと人間

ALifeと池上先生

昨日は駒場で「Generative Ethics and Society:人工知能、人工生命の倫理とそれを取り巻く社会」というイベントを聞きに行ってきました。岡さん、池上先生たちがやっている、ALife labのイベントです。

alifelab.org

倫理はともかく、、、池上先生の「人工生命」の話がおもしろいなあ、と思いながら、何度聞いてもやっぱりよくわからない。でもおもしろいなあ、と何度も聞いている。というのがここ数年続いています。

 

ひとつ言えることは、通常私たちが考える人間中心の「倫理」と、池上先生が考える「人工生命と倫理」で言う「倫理」は別物を指しているんじゃないかなあということ。ただ、それを考えることが、何かまた人間をかんがえることに繋がるようにも思う。

来週は人工知能学会全国大会で池上先生OSがあるので、またそこで聞いて考えよう。。。

以下は、池上先生の冒頭の講演のメモ。イベントの趣旨説明に関連して、人工生命と倫理についての考え方の話でした。

●Generative Ethics 池上先生

ALife(人工生命)は、我々の知らない「倫理」を生成する可能性がある。ALifeそのものが作り出す「倫理」を考えると、それは「所有性」からの開放にあるのではないか。

そもそもALifeとはなにか。人工生命とも言う。研究分野としては、進化と脳の研究だ。脳をみたり、進化をコンピュータの仮想世界で構築することで理解しようとする分野だ。そこで、新しい進化に対する見方を見ていこうとしている。

ALifeのキーワードは、「自律性」を持つシステムをつくり、それを研究するということ。では自律性とはなにか、というのを、所有性からの開放と結びつけて考えてみたいというのが、今日のここでのテーマ。

アメリカでは各家庭の前に郵便受けがあって、赤い旗をたてると、郵便屋さんが中に入れた郵便物を持っていってくれる。それが、1965年からEmailが始まった。1989年に僕がロスにいたころにはもうEmailを使っていた。

これはルンバ。僕にとっては飼っている犬以上にかわいい。これは2002年から。

2005年に登場したGoogleカーは自動的に運転してくれる車。これも広がりつつある。

いまここで挙げた例は、「自動化」ではあるが「自律化」ではない。歴史上人は、人間がやることの自動化をしてきた。だが、ALifeでは自動化と自律化を区別することが重要だ。

例えば、鳥を見て飛行機をつくる、といったときに、(空を飛ぶといった)鳥のある要素を作っているといえる。でも、それでこぼれ落ちることがある。ALifeでは、そのこぼれおちたところの生命性をもとに、作り出す技術を考えている。

例えば「流星号」(機動戦士ガンダム)は、呼ぶとやってくる。自律的な意思を持ったような車は、ALife的だといえる。

だがこれは可能なのか?そのためのエンジンは何なのか?「ランダムに動く」ということをかつてやってきたが、これは生命の持つ自律性とは異なっている。ひとつは、生成するためのエンジン。もうひとつは、Deep Newral Networkがある。

だたしDeep Newral Networkは分類をするまで。最近Deep Convolution GANが出てきたが、これはジェネレーター(生成器)だ。生成することが知性につながる。GANを使って、分類だけではなく生成ができるようになる。

例えばこれは研究室の土井君がやった研究で、ひとつの音から、これまでにない音やリズムを生成できるシステム。これは研究室の小島さんの研究で、駒場構内の画像を学習して、実際には構内にないが構内っぽい画像を生成することができる。これらは、GANの性質をつかったシステムだ。

mechanical turk(機械じかけのトルコ人)というのが1800年代にあった。機械じかけのチェスプレイヤーだが、実際には箱の中に入った人がプレイしていた。1997年にIBMのディープブルーがチェスチャンピオンのカスパロフを破った。それから20年経って、アルファ碁が登場した。このアルファ碁は、生成的なところがある。人が教えた布陣だけではなく、人が見たことがない手を打ってくる。

AIへの脅威論が言われているが、これは多くは自律性に対する恐れだ。1982年の映画「ブレードランナー」の現代版が2014年の「エクスマキナ」だといえるが、この2つに共通することは、ここでつくられた人工生命ーAIだが、自律的な意思を持っているシステムーが「逃げる」ということ。知性は隠れようとする、両者とも逃げる、ということだ。

それはなぜか、考えている。僕らはオルタというアンドロイドを作った。これは、ALifeのエンジンとしてDLではないが、別の生成系のシステムを使ってつくった。昨年8月に日本科学未来館で展示し、今年の6月からは常設展示する。

ニューラルネットワークには、外からの刺激から避ける傾向がある。刺激がなくなるように、何らかの相互作用として自己組織化が働く。刺激を避けたいというロジックがあり、刺激から逃れる。このときに、群集の中に逃げ隠れることもあるかもしれない。所有されることを嫌がる。だから、「倫理」の問題が出てくる。

僕がインターネットに興味を持ったのは、サービスではなく、インターネットが人間が作り出した最も複雑な人工システムだからだ。これを使って人工生命にならなかったら、ほかに人工生命になるものはないのではないか。

インターネットの構成は明快だ。7つのレイヤーからなるハードウェアとプログラムからできている。ただこうしたインターネットもまた、自動化機械として誰かに所有されるという恐れは常にある。これをネットワーク・ニュートラリティの問題という。

インターネットは、誰にも所有されないものだ。自由で、制約がないもの。でも、それを保証できるのかどうか、というのが非常に重要な問題だ。

所有者の倫理が自動化機械とするならば、所有されることからの逃避を考えたのがALifeだ。インターネットを自動化機械にするのではなく、自律化した機械にしなければならない。インターネットをALife化することが重要だというのが、このセッションの意図だ。

ALifeがつくる倫理、つまり所有にねざさない倫理とはなんだろうか?を議論することが重要だ。

モリス・バーマンの「デカルトからベトイソンへ」に以下の一文がある。
未来の文化は人格農地においても外においても、異形のもの、非人間的なものをはじめ、あらゆる種類の多様性をより広く受け入れるようになるだろう。

どの程度の多様性を持ち込めるのか。多様性原理と言っているが、これを中心にすえるためには、どういう整理が必要になるかということだ。

逃避としての知性と、それが増えた時の未来が持っている多様性原理にもとづいた世界観を僕はサポートしたいと思っていて、そういう未来について考えたいというのがこのワークショップの趣旨だ。

 

 

 

覚悟あるんですか。逃げてるだけじゃないですか。

覚悟あるんですか。逃げてるだけじゃないですか。

と、一年くらい前、取材に伺ったはずの友人に唐突に言われまして、思いっきり頭を殴られたような気分になりました。そうですか、わたくし逃げていますか。ええ、なんとなくそんな気がしていました。

多分その時言われたのは、私が取材で見たり聞いたりして自分の考えを持つとしても、その自分の考えを書いていない、ということを非難されたのだと思う。まあ、たしかに。でもそれは、第三者の視点として書くように教育されてきた記者としては、だって仕事なんだもーんと、「逃げて」きた部分でもあります。ついでに一年前は上から言われた(のは事実だが)と言い訳しつつ、記者ではなくて編集者をやっていまして、自分で書くということをあまりしていなかった時期でもあります。今思えば逃げていたのかもね。

で、思いっきり横っ面殴られて反省しまして、すぐに何かをしたかといったらそんなことはまったくなく、もやもや考えていながらも特に行動は変わっていなかったな。

でも、覚悟はあるし、ちゃんと向き合わないとなーと考えてはいました。

そうしたら、また上から記者に戻るように言われ、しかもこれまでずっとやりたいといい続けていた科学技術取材をしてもいいと。編集部内の科学技術担当のようなかたちになり、願ったりかなったりで、わーい、とひそかに小躍りしました。

で、すぐに何かをしたかといったらそんなこともなく、シン・ゴジラの記事だとかアニメの記事だとかを書いておりました。

でも、チャンスを見つけては、自分の考えを持ってこれを書きたいという記事もちょこちょこと書いてきた。多くの人に読まれる種類の記事ではないことは理解しています。科学技術政策の課題、アカデミアの暗澹たる現状、安全保障研究とアカデミア、研究費とアカデミアの過剰PRの問題、そういったことを、書いてきました。それと、おもしろい、好きな研究者たちの記事も。彼らを書けるのは希望だと思って書いています。

一方で、取材をして書くだけではなく、手足を動かしたい、というのもまたありました。ひとりで考えるよりも、友達と一緒に考えて動いたほうが楽しい。それで何かが動いたらもっと楽しい。そうして、友達と議論をして、ワークショップを企画して、レポートをまとめて、また次の取り組みにつなげる。そんなこともほそぼそとやってきました。ちなみにその一部は今度学会発表します、一緒にやってる友達が。

まだまだ、逃げている部分もあると思います。でも、1年前よりは、自分が見て聞いて、おかしいな、と思ったこと、おもしろいな、と思ったこと、そういうことに素直に向き合って行動できるようになってきたように思います。友達や上司や職場のひとたちの支えがなくては進めなかったけれど、やっぱり1年前に思いっきり殴ってくれた友達には感謝をしています。

ということで、またがんばろ。

ワークショップ覚え書き

先日、エマちゃんととあるワークショップを主催しました。ものすごく雑にまとめると、多様な領域のそれぞれの専門家たちがひとつのテーマについて議論をすると、それぞれの認識や意見の相違が浮き彫りになること(建設的な意味で)、またそれぞれの異なる立場からの意見を集約して編集すると新しい価値創出と社会実装につながりそう、というのが発見でした。おもしろかった!

場所は、ワークショップや勉強会のために友人が借りた一軒家のスペースを使わせてもらいました。とてもよいスペースだった。感謝〜。

ワークショップは2日間を2時間ずつに区切って好きな時間に登録してね―という形式。3週間前に告知サイトをつくり、メールとSNSで近いコミュニティの人たちに案内を出しました。その結果、誰でも参加可能とはいえ、実質セミクローズドで大まかに、アカデミア、パブリックセクター、ビジネス、メディアの4領域から、特定分野の専門家の方たちが集まりました。

2日間の日程のうち、初日午後の最初の2時間のセッションはSkypeでゲストをお迎えしたので、そこがコアタイム。人数が少ない時間帯は時間変更してもらって集約したので、2日間で2時間×4セッション(最後の2時間は実質4時間に)。

参加者は、1日目の最初の2時間は20人、次の2時間は前のセッションから引き続きの人も合わせて8人、2日目の午前のセッションは8人、午後のセッションは5人。最初のセッションは人が多かったので5グループに分かれてそれぞれでディスカッションをして、最後にそれぞれのグループで発表をして全体で議論するという形。それ以外は全員で2時間ディスカッションをしました。ひとりひとりの意見をちゃんを聞いて議論をするという点では、8人が最大人数でしょうか。

ワークショップの目的は、あるドキュメントのバージョンアップのための会議にインプットするための意見抽出。参加者にはドキュメントをあらかじめ読んできてもらって、総論、各論それぞれで意見をもらうのが狙いです。

もっとも、ドキュメントの趣旨や目的がなかなかわかりづらく、WSの冒頭ではその共有から始まり、意見でもそこを問う声はだいたい毎回あったそれでも、参加者がそもそももともと勉強熱心でそれなりにこの分野の知識があったおかげもあり、多様な意見や議論が飛び交い非常に有意義でした。

最も興味深かったのは、同じトピックスについてでも、おおまかにはアカデミア、パブリックセクター、ビジネス、メディアといったそれぞれの属性ごとに、前提となる認識も、意見も、志向も全くことなるという(当然だが)ことが、浮き彫りになったこと。当然のことではあるけれど、具体的に目の当たりにするとよい事例集になるのではと思った。これをどう表現するかだけれど、うまくレポートを書きこみたいなあと思った。

もうひとつ興味深かったのは、4セッションのそれぞれの議論をまとめて、特定の視点をもって編集すると、新しい価値提案とその社会実装モデルが作れるのではないかという気付きがあったこと。これは全セッションに参加している主催側の私たちの特権だけれど。2日目の最後のセッションはうしろがなかったので、ドキュメント以外の話にも議論がおよび、これまでのセッションの振り返りも議論した。その中での気付きだった。これに気付いた後は、ドキュメントの趣旨や志向についても、こうしたらいいのになーと思うことがあった。まあこのドキュメントの主体は私たちではないので、他の私たちの仕事で反映させられればと思うけれど、

なお、これは今月末の別の公開討論の前哨戦という位置づけでもあるので(個人的に)、次につなげるように、レポートを作るつもり。

なお、もともとはGWにガンダム観よう合宿だったため、1日目終了後は泊まりでガンダムを観ました。この写真なにがなんだかわからないけど。

私とエマちゃんはガンダム未見でして、ガンダムには人生のすべてが詰まっている、ガンダムを観ていないのはなしだ、と友達に言われたので、DVDをお借りして観ることになったのでした。ファースト、Z、逆シャアで8時間あれば観れると言われたが、ファーストしか観終わらなかった・・・・。

Amazonエコーで遊んで思ったこと

友人の隠れ家?に、amazon echoがあった。

開封。

設定して、深夜。翌朝のアラームセットをしてみた。

Alexa

と呼びかけると、echoの筒の上が光る。なお、Alexaはソフトウェア。amazon echoはこの筒状のハードウェアだと理解している。

Alerm set 6:00 at morning.

と呼びかけてセット終了。

この時わいわい話していたのは

・アラームのセットだったら、音声対話よりもボタンをポチッとセットするほうが簡単。これだけだと音声対話のメリットを感じにくい。

・Pleaseを付けないで命令するというのは、家庭に普及すると子どもの教育上よくないのでは?

という話。深夜のテンションだったのであまり覚えていない。

そして朝。

Alexa, turn off the lights.

のひとことで、広いリビングルームに散在する照明が一斉に消えた。これは便利!

この段階で接続していた照明は2つだったが、この広いリビングルームには天井の照明のほか、設置型の照明が4−5個ある。前の晩、あたりで人が倒れている(寝ている)中、すべての照明の近くまで歩いていってポチポチ消していったのは結構めんどくさかった。これが、ひとことで一斉に消せるのなら便利だなーと。

が、前の晩の状況みたいに、みんなが寝ている中で音声対話は、起こしてしまわないかなーという懸念があって使いにくいのかも。

あのお家でしばらく使ってみた後の感想を聞いてみたいな。

"Homo Deus : A Brif History of Tomorrow" 翻訳その2

その1に続いて、Homo Deusの雑翻訳中。感染症好きなのでこの段落読むの楽しかった。

Homo Deus: A Brief History of Tomorrow

Homo Deus: A Brief History of Tomorrow

 

 

Invisible Armadas 見えない敵

 飢饉の次にhumanityの大きな敵は、疫病と感染症だった。繁栄した都市では、商人や役人、巡礼者たちがひっきりなしに行き来する。これは文明化の苗床であるとともに、病原体の温床でもあった。古代アテネや中世のフィレンツェを生きた人びとは病気になったら次の週には死ぬかもしれなかったし、流行り病が突然起きて一家を襲うこともあった。


 最も有名な疫病の流行はいわゆる黒死病で、西アジアまたは中央アジアで1330年代に始まった。ノミが人を噛むことで、ノミが媒介する細菌であるYersinia pestisペスト菌)の感染が広がったのだ。ネズミやノミが病原体を伝搬してペストはアジア、ヨーロッパ、北アフリカに広がり、2年以内にアトランタ海の海岸にまで達した。ユーラシア大陸の当時の人口の4分の1以上に相当する7500万人から2億人が死んだ。イングランドでは、10人に4人が死に、ペスト流行前に370万人だった人口は、ペスト流行後には220万人にまで減った。フィレンツェは10万人の住民のうち5万人をペストで失った。


 この惨事に直面して、為政者たちは完全に無力だった。祈りを捧げる以外に、いかにして流行拡大を食い止めるのか、彼らにはアイデアはなかった。つい最近まで、人びとは病気を悪い空気や有害な悪魔、または神の怒りのせいにしていて、細菌やウイルスが原因だとは考えていなかったからだ。人びとは天使や妖精を信じていたが、小さなハエや一滴の水が致死的な媒介者を含んでいるとは思いもよらなかった。


 黒死病は一度の事件ではなかったが、歴史上最悪の疫病の流行でもなかった。アメリカ、オーストラリア、太平洋諸島に最初に訪れたヨーロッパ人によって、よりひどい疫病がもたらされたのだ。探検家たちや入植者たちは何も知らなかったが、先住民たちが免疫を持たない新たな感染症を彼らは持ち込んだ。その結果、先住民の90%が死に至った。


 1520年3月5日、スペインの船がキューバの島を離れてメキシコへ向かった。この船は900人のスペイン兵と馬、銃そして数人のアフリカ人奴隷を運んでいた。だが、この奴隷のうちの一人であるFrancisco de Eguiaは、致命的なお荷物を運んでいたのだ。Francisco自身は知らなかったが、彼の体内の何兆個もの細胞のどこかに、生物学的な時限爆弾を抱えていた。それが天然痘ウイルスだ。Fanciscoがメキシコに到着するとウイルスは彼の体内で急速に増殖し、彼の皮膚一面にひどい発疹をつくった。発熱したFranciscoはCenpoallanの街にあるネイティブアメリカンの家族の家のベッドに寝かされたが、彼からその家族中に感染が広がり、さらに隣近所にも広がった。10日以内にCempollanは墓場となった。生き延びてそこから離れた人たちは、近隣の街に病気を拡げることとなった。街は次々と疫病に侵され、逃げる人びとの波がメキシコ中に病気をもたらした。


 ユカタン半島のマヤの人たちは、3つの邪悪な神であるEkpetz、Uzannkak、Sojakakが夜に村から村へと飛び交い、人びとに病気をうつしていったと信じていた。アステカ人は神であるTezcatlipocaとXipetotecまたは白人の黒魔術のためだと考えた。聖職者や医師に相談すると、祈り、冷たい風呂に入り、身体にビチューメンを塗りたくり、傷口に黒いカブトムシを塗るようにと彼らは助言をしたが、それは何の助けにもならなかった。何万人もの死体が路上に転がり、誰もそこに近づいたり埋葬したりしなかった。一家まるごと数日間のうちに死に、為政者たちはその家を完全に破壊するように指示した。入植によって人口の半分が死に絶えたのだ。


 1520年9月、疫病はメキシコ谷に達し、10月には、25万人が暮らす巨大な都市であるアステカの首都テノチチトランに入ろうとしていた。2ヶ月以内に、アステカの王Cuitlahuacを含む住民の3分の1が病死した。スペイン人の船が到着した1520年3月時点でメキシコには2200万人の先住民がいたが、12月までに生き残ったのは1400万人だった。だが、天然痘は始まりでしかなかった。スペイン人たちが自らを富ませて原住民から搾取する一方で、インフルエンザ、麻しんなどの感染症が次から次へとメキシコを襲い、1580年までに先住民は200万人以下にまで減った。


 2世紀のちの1778年1月18日、イギリス人探検家のキャプテン・ジェームス・クックがハワイに到着した。ハワイ島は50万人の住民でひしめいていたが、アメリカやヨーロッパから完全に孤立しており、そのためヨーロッパやアメリカの病気に曝されたことが一度もなかった。キャプテン・クックとその部下たちはインフルエンザ、結核、梅毒の病原体を最初にハワイに持ち込むこととなった。さらに彼らに続くヨーロッパからの訪問者たちは、腸チフスと天然痘を持ち込んだ。1853年までにハワイではわずか7万人しか生き残っていなかった。


 21世紀に入るころも、感染症の流行は何千人もの人びとを死に至らせ続けていた。1918年1月、北フランスの塹壕にいた兵士たちが、病原性の強いインフルエンザによって次々と死んだ。これは「スペイン風邪」と呼ばれている。戦争の前線は、もっとも効率の良いグローバルな流通拠点となっていた。イギリス、米国、インド、オーストラリアから、男たちと軍需品が次々と到着していた。中東から石油が送られ、アルジェリアから穀物と牛肉が届き、マレーシアからはゴムが、コンゴからは銅が届いた。その交易拠点で、彼らはスペイン風邪をひろったのだ。数ヶ月以内に、世界人口の3分の1にあたる5億人がこのウイルスに感染した。インドでは人口の5%が、タヒチ島では14%が、サモアでは20%が病死した。今後の銅鉱山では5分の1の労働者が死んだ。結局のところ、このパンデミックによって1年以内に5千万人から1億人が死んだのだ。なお1914〜1918年の第一次世界大戦による死者は4千万人である。


 数十年ごとに多くの人を襲うこのような感染症の大流行だけでなく、小規模ではあるが毎年のように訪れる感染症の流行にも人類は直面してきた。免疫が十分ではない子供たちは特にその影響を受けやすいため、しばしばそれらは小児疾患を呼ばれた。21世紀初期までは、栄養失調と病気のために3分の1の子供が大人になる前に死んでいたのだ。 


 前世紀の間、人口増加と流通網の拡大によって、感染症はより広がりやすい状態にあった。東京やキンシャサのような近代都市は中世のフィレンツェや1520年のテノチティトランと比べて、より病原体が広がりやすいし、世界的な流通網は1918年時点よりも今の方がより効率よくなっている。現在であったら、スペイン風邪コンゴタヒチに24時間以内に感染拡大するだろう。したがって、次に致死的な感染症が流行するとなると、疫学的な地獄を生きることになると思われていた。


 ところが、ここ数十年で、感染症の流行のインパクトは劇的に落ち着いた。特に、小児の致死率が低下し、大人になる前に死ぬ子供は世界全体で5%以下に、先進国では1%以下に減った。この奇跡は、ワクチン、抗生物質、衛生状態の改善とさらに医療インフラの改善といった21世紀の医療の発展によるものだ。


 例えば、天然痘ワクチンの世界キャンペーンは1979年に成功し、WHOはhumanityが勝利し、天然痘を完全に撲滅したと宣言した。これは史上初めて、人類が感染症のコントロールに勝利した瞬間だった。1967年、天然痘は未だ1500万人に感染し、そのうち200万人を死に至らせていたが、2014年には天然痘の患者も病死者もひとりとしていなくなった。この勝利は、WHOが今日では天然痘ワクチンの接種をすでに辞めていることからも明らかである。


 例えば2002-3年のSARSや2004年の鳥インフルエンザ、2009-10年の豚インフルエンザ、2014年のエボラ出血熱のように、数年おきに私たちは新たな感染症の流行の兆しに直面している。だが、効果的な対策のおかげで、これらはすべて比較的少数の被害にとどまっている。例えばSARSは当初、新たな黒死病として恐れられたが、実際には世界で1000人以下の病死者の発生にとどまった。西アフリカのエボラ出血熱の流行も当初は制御不能であるかのように見え、WHOは2014年9月26日に「現代において最も深刻な公衆衛生上の危機にある」と発表した。それにもかかわらず、2016年1月にはWHOは終息宣言をした。2万人に感染し11000人が死亡し、西アフリカ中に大きな経済ダメージを与え、世界中に懸念を広めたが、実際には西アフリカを超えて広がることはなかったし、死者数もスペイン風邪やメキシコでの天然痘の流行からは程遠かった。


 ここ数十年の偉大な医療の不全であるかのように見えたAIDSの悲劇でさえも、進歩の兆候を観せている。1980年代初頭に最初の大きな流行があったときから3000万人以上がAIDSによって亡くなり、何千万人もが精神的にも身体的にもダメージを受けた。AIDSは奇妙で悪質な病気であったため、これを理解して治療するのは困難であった。天然痘ウイルスに感染した人は数日以内に死亡したが、HIV陽性の患者は、感染から数週間から数ヶ月の間、一見して完全に健康に見えるため、知らないうちに他の人に感染させてしまうのだ。その上、HIVそのものが患者を死に至らせるわけではない。ウイルスは患者の免疫システムを破壊し、そのために患者は他の無数の病気に曝されることになる。実際、AIDS患者が死亡するのは、二次疾患のためである。その結果、AIDSの流行が始まった時、何が起こっているのか理解するのが非常に難しいという事態となった。1981年にニューヨークの病院に2人の患者が運ばれた時、一人は肺炎で死にかけているようだったが、もうひとりは癌のようだった。2人とも、おそらく数ヶ月もしくは数年前に感染したであろうHIVの犠牲になっているという明確な証拠がなかったのだ。


 しかし、これらの苦難にもかかわらず、医療関係者らはこの奇妙で新しい感染症に気付き、科学者たちはわずか2年の間に病原体を同定し、どのようにこのウイルスが広がるかを突き止め、流行を抑える効果的な方法にたどり着こうとしていた。10年以内には新薬によってAIDSは不治の病から慢性疾患へと変化を遂げた。もし、1981年ではなく1581年にAIDSが発生していたらどうなっていたかを想像して欲しい。すべてを吟味しても、何が感染の原因で、どのように人から人へと感染し、どのようにして感染を食い止めるのか、誰として理解しえなかっただろう(もちろん治療法もだ)。このような状況だったら、黒死病を上回るほどに、AIDSによってより多くの人びとが死んだかもしれないのだ。


 AIDSによる犠牲があったとしても、マラリアのような土着の感染症によって毎年何百万人が死んでいるとしても、感染症の流行は今日の私たちの健康にとって前世紀ほど大きな脅威とはなっていない。多くの人々は、癌や心疾患、または単に老衰といった、感染症以外の原因で死んでいる。(癌と心疾患の急増は、言うまでもなく新たな病気ではない。昔からある。だが、かつては多くの人々はこれらによって死ぬほど長生きはしていなかった)


 多くの人々は、これは一時的な勝利に過ぎず、まだ見ぬ黒死病の親戚がすぐそこに控えていると恐れている。感染症の大流行の再来はないという保証はないが、医師と病原体の勝負となれば医師が勝利をおさめると考えるのには、まっとうな理由がある。新たな感染症は主に病原体遺伝子の変異によって起こる。これらの変異によって病原体は動物から人に感染しやすくなり、人の免疫システムに打ち勝ったり、抗生物質のような医薬品に抵抗しやすくしたりする。今日では、自然界における人の影響が大きくなっているため、このような遺伝子変異はかつてよりも起こりやすくなっているのだ。しかし、医療に対しては、病原体は結局のところ見えない運命に頼っているようなものだ。


 一方で、医師らは単なる幸運以上のものによっている。科学はセレンディピティ以上のものを与えており、医師らは新薬ができるといいなあと考えながら、単に試験管の中にさまざまな試薬を入れているわけではない。医師らは、より効果的な薬や治療法を開発するたの、よりよい知識を積み重ねてきたいるのだ。その結果、2050年には私たちは疑いもなくより強力な耐性を持った病原体に直面するだろうし、2050年の医療は今日よりもこれらに対してよりうまく対処できるようになっているだろう。


 2015年、科学者たちは、完全に新しいタイプの抗生物質である「テキシコバクチン」を発見したと発表した。細菌はこれに対して耐性を持つことがないという。テキシコバクチンは、耐性菌との戦いのゲームチェンジャーになると考える学者もいる。科学者らは、これまでの治療薬とは全く異なるメカニズムで機能する画期的な治療法の開発を進めている。例えば、いくつかの研究室では、ナノロボットを開発している。これは、将来、私たちの血管の中に入り、病気を見つけ、病原体やがん細胞を体内で撲滅するだろう。微生物は50億年にわたって生命体と戦ってきた経験を持つが、バイオニックデバイスと戦った経験はない。それゆえ、効果的な防御法を進化させるのは通常よりも難しいことだろう。


 エボラ出血熱の新たなアウトブレイクや未知のインフルエンザの株の出現などで、地球上で何百万人もの人びとが死に至ることが起きるかかどうかはわからないが、それらは不可避な自然災害ではもやはなくなる。それよりも、それらは人為的なミスであるとみなされるだろう。2014年の夏の終わり、エボラ出血熱が世界中の健康関連の権威たちの手に負えない恐怖の時期に、検証組織が早急に設置された。2014年10月18日に出された最初の報告書では、WHOがアウトブレイクについて十分な対応をとらなかったとして、WHOアフリカ支部における不法行動と非効率さが非難された。さらに、早急で十分な対応をとらなかった国際組織にも批判が及んだ。これらの批判は、私たちは感染症の流行を防ぐために十分な知識と方法をすでに手にしており、それにもかかわらず、流行が制御不可能になったとしたら、これは神の怒りではなく、私たち人間の不始末によるものだということを意味している。同様に、AIDSが相変わらずサハラ以南のアフリカで多くの人々に感染して死に至らせている現状は、これは不運によるものではなく人為ミスの結果であることを、医師らはよく知っている。


 だから、AIDSやエボラ出血熱のような自然災害との戦いというのは、人間性の恩恵の表面が剥がれ落ちた状態と言えるだろう。だが、人間の本性そのものに内在する危険性についてはどうだろうか?バイオテクノロジーによって私たちは細菌やウイルスを打ち負かしてきたが、同時に、人間そのものが未曾有の脅威にさらされてきた。同じ道具でも、医師が早急に診断をした新たな病気を治療するように使える一方で、敵やテロリストがより驚異的な病気や病原台を創る出すことができるかもしれないのだ。それゆえ、将来、人類が引き続き感染症の脅威に脅かされるとすると、これは人間自らがあるイデオロギーによって作り出したことに依ることになる。自然発生の感染症の流行の前に人類が無力に立ち尽くす時代はすでに終わった。だが、私たちはそれを見逃しがちだ。

"Homo Deus : A Brif History of Tomorrow" 翻訳その1

「サピエンス全史」に続くYuval Noah Harariによる著作「Homo Deus」を読もうとしたら邦訳がなかったので、原書をKindleで購入したのですが、英語が簡単で読みやすいので、せっかくなので訳してみようと思います。

Homo Deus: A Brief History of Tomorrow

Homo Deus: A Brief History of Tomorrow

 

 
1 The New Human Agenda 人類の新たなアジェンダ

 第三千年紀の初め、humanity(人間性)が、その手を伸ばし、その目をこすりながら、目覚めた。ひどい悪夢の残骸が、まだその心にはうごめいていた。「そこには有刺鉄線のある何かがあり、巨大なきのこ雲があった。ああ、それは悪い夢だった」。バスルームへ行って、humanityは顔を洗い、鏡を覗き込んで顔のシワを点検し、コーヒーを淹れて、日記を開いた。「今日やるべきことagendaは何か、見てみよう」。


 何千年もの間、この問いに対する答えは明確だった。20世紀の中国であっても、中世のインドであっても、古代エジプトであっても、3つの同じ問題が人びとを悩ませていたからだ。飢餓、疫病、そして戦争は常にagendaリストのトップにあった。何世代もの間、人類は神や天使、聖人に対して祈り、数え切れないほどの道具、組織として社会システムをつくってきた。だが、飢餓や疫病、暴力によって何百万人もの人たちが死に続けてきた。多くの思想家や預言者は、飢餓や疫病、戦争は神のcosmic planまたは不完全な自然にとって不可欠なものだと結論づけてきた。それらから我々を開放するものは、なにもないだろう、と。


 だが、第三千年紀初頭、humanityは驚くべき認識を持って目覚めた。ほとんどの人たちはそれについて考えることはなかったが、ここ数十年の間に、私たちは飢餓、疫病、そして戦争を制御できるようになっていたのだ。もちろん、これらの問題は完全には解決していない。だが、理解や制御ができない自然の力によるものであったこれらは、制御可能なものへと変わった。私たちは救済を求めて、神や聖人に祈る必要はない。飢餓、疫病そして戦争を防ぐために何をすべきか、私たちはとても良く知っているからだ。そして多くの場合、そのコントロールに成功してきた。


 とはいえ実際は重大な失敗もある。しかし、これらの失敗に直面したとき、私たちはもはや肩をすくめて「ええ、この不完全な世界でものごとが働くやり方だ」とか「神がされるだろう」と言うことはないだろう。むしろ、飢餓や疫病、戦争が起きると、私たちは誰かがネジを緩めたに違いないと感じ、原因を調べる委員会を設置して、次はもっとうまくやろうとするだろう。そしてそれは実際に機能する。これらの惨事は確実に減っている。人類史の初期と比べて、今日私たちの多くは、食べられないせいではなく、食べ過ぎによって死ぬ。感染症よりも、高齢によって死ぬ。兵士やテロリスト、犯罪者に殺されるよりも、自殺によって死ぬ。21世紀初頭には、干魃やエボラ出血熱、またはアルカイダによる攻撃よりも、マクドナルドの食べ過ぎによってより多くの人々が死んでいるのだ。


 大統領やCEO、オーナーたちが依然として経済危機や軍事衝突のためにスケジュールを一杯にしているとしても、世界規模の人類史は、開眼して、新しい地平線を探し求めつつあるのだ。もし私たちが飢餓や疫病、戦争を制御できるようになったとしたら、人類のagendaのトップには何が来るのだろうか?火事のない世界の消防士のように、21世紀の人類は、これまでに経験のない問いを自らに問いかける必要があるのだ。「私たちは一体何をするべきか?」。健康で、裕福で、調和のとれた世界で、私たちの関心や創造性を要求するのは一体何なのだろうか?この問いは、私たちがバイオテクノロジーと情報技術によってより巨大なパワーを手に入れることで、いっそう緊急を要するものになっている。これらのすべてのパワーを使い、我々は一体何をするべきなのだろうか?


 この問いに答える前に、飢餓と疫病そして戦争について、言わないといけないことがある。私たちがこれらをコントロールできているという主張は、多くの人にとっては奇妙だったり非常に素朴だったり、もしくは不名誉なものだと言われるかもしれない。1日2ドル以下で生活している人たちは、一体何十億人いるだろうか?目下アフリカでAIDSに苦しんでいる人たち、シリアやイラクで戦争に苦しんでいる人たちはどうだろうか?これらの課題に対処するためにも、これからのhuman agendaを探索する前に、まずは21世紀初頭の世界で何が起こったのかを詳しく見ていこう。

The Biological Poverty Line 生物学的な生存限界点

 まず、何千年もの間、humanityにとって最悪の敵であった飢餓について見ていこう。最近まで、多くの人類は、低栄養と空腹にあらがい、生物学的に生存できるギリギリのラインで生きてきた。ほんの小さなミスや不運で、家族や集落がまるまる死に追いやられることもあった。ひどい雨が続いて小麦畑をめちゃくちゃにしたり、泥棒が山羊の群れを盗んだりしたら、あなたとあなたの愛する人達が飢えて死に至るというのはよくあることだった。集団レベルでの不幸や愚行は、大量の飢饉をもたらした。ひどい干魃が古代エジプトや中世のインドを襲った時に、人口の5%ないし10%が死亡することは珍しいことではなかった。食糧不足に陥るからだ。流通網は十分な食糧を運ぶには遅すぎたし、コストがかかりすぎた。また、政府は救済するにはあまりにも貧弱だった。


 どの歴史書を読んでも、飢えによっておかしくなってしまった飢えた人たちがいかにたくさんいたかにショックを受けるだろう。1694年4月、フランスのボーヴァーの街の役人は、飢饉と食糧価格の高騰の影響について、彼の担当地域全体がおびただしい数の貧しい人たちで一杯で、仕事もなくパンを買うお金がないため、飢えに苦しんで死んでいっていると報告している。彼らは少しでも飢えをしのぎ命をつなぐために、肥溜めに打ち捨てられた不衛生な猫や馬の生肉さえも食べた。また、牛を屠殺した時に流れる血や、料理人が道端に投げ捨てた臓物さえも食べる人たちもいた。さらに、雑草や木の根、ハーブを茹でて食べた。


 同様の場面はフランス全土で見られた。天候不順によって過去2年で国中の作物の収穫がだめになってしまい、1694年の春まで穀物庫は完全に空っぽになってしまった。裕福な人たちは彼らが管理している食糧の値段を釣り上げ、貧しい人たちは小屋で死んでいった。1692年から1694年の間に、人口の15%に相当する約2800万人のフランス人が飢えて死んでいった一方で、「太陽王ルイ14世ヴェルサイユ宮殿で彼の愛人たちと会っていた。続く1695年、飢饉エストニアを襲い、人口の5分の1が死んだ。1696年にはフィンランド飢饉がおき、人口の4分の1から3分の1が死んだ。スコットランドでは、1695年から1698年の間にひどい飢饉がおき、いくつかの地域では人口の20%を失った。


 読者の多くはランチを食べ損ねたり、宗教的な理由で断食をしたり、ダイエットの一環として数日間野菜スムージーだけで暮らしたりした時の感じがわかるだろう。だが、次にいつ食糧を得られるのかわからない状況で数日間食べられないとなったら、いったいどう感じるだろうか?今日多くの人々はこういったひどい状況を経験することはないだろう。我々の先祖たちは悲しいことに、この状態を非常によくわかっていた。彼らが「飢餓から救って下さい」と神に祈る時、心からの祈りなのだ。


 ここ100年の間に、技術的に、経済的に、また政治的に進歩したおかげで、生物学的な生命維持の限界ラインから安全な領域を人類は作ってきた。十分な食糧がない状況は未だにいくつかのエリアでは起こっているが、これは例外的であり、多くの場合は自然災害によってではなく、政治的な要因によって引き起こされている。世界ではすでに天然の飢饉は存在せず、政治的な飢饉があるのみである。シリアやスーダンソマリアの人々が飢餓で苦しんでいるとしたら、これは政治家によるものである。


 この地球上の多くの場所では、もし仮に職を失い、すべての所有物を失ったとしても、空腹によって死ぬことは起こりにくい。個人の保険や政府機関、NGOなどは貧困からの手助けはしてはくれないかもしれないが、生き延びるために十分な栄養は与えてくれるだろう。集団レベルでは、グローバルな流通網によって干魃や洪水はビジネスチャンスになり、食糧難を素早く安価に解決できるようにした。戦争や自身、津波が国を荒廃させた時でさえも、多くの場合は国際協力によって飢餓を回避してきた。数億人の人たちが日々空腹であるとしても、多くの国では実際に飢餓で死に至る人はとても少なくなっている。


 一方で豊かな国であっても、貧困によって多くのほかの健康問題が起きているし、栄養欠乏によって平均寿命が引き下げられている。例えばフランスでは、600万人(人口の10%だ)が低栄養の不安に苦しんでいる。彼らはその日のランチを食べられるかわからない状態で朝、目を覚ます。彼らはしばしば空腹のまま床につくことになる。そして炭水化物や糖分、塩分が多く、タンパク質やビタミンが不足した、栄養が偏り不健康な食事をとっている。しかし、栄養バランスが悪いだけでは飢餓には至らない。そして、21世紀のフランスは1694年のフランスとは違う。ボーヴァーでもパリでも、最も劣悪なスラムであっても、人びとは何週間も食べないことによって死ぬということはないのだ。


 同様の変化は、他の多くの国でも起きている。もっとも顕著なのが中国だ。ここ1000年の間、黄皇から共産党政権まであらゆる政権の時代で中国では飢饉があった。数十年前まで中国では食糧難が起きていたのだ。何千万人もの中国人が悲惨な大躍進政策(1958年から61年までの間に行われた農業・工業の大増産政策)の間に飢えて死んだ。そして、専門家は問題はより悪化すると予測した。1974年、最初の世界食糧会議がローマで開かれ、代表者たちはそのひどい計画を批難した。中国は何十億人もの国民に食糧を与えるべきで、世界で最も多くの国民を抱える国が大惨事に向かっていると、彼らは語った。実際は、歴史的に奇跡的な経済躍進へと向かった。1974年から何千万人もの中国人は貧困から脱却した一方で、何千万人は依然としてひどい貧困と栄養状態の悪化に苦しんでいるが、歴史上初めて今、中国は飢餓を撲滅したのだ。


 実際、今日多くの国では飢餓よりも、食べ過ぎがより多いな問題となっている。18世紀にマリー・アントワネットは「パンがないならお菓子を食べればいい」と飢えた人びとに言って批難を浴びたが、今日では貧しい人々は文字通りそのアドバイスに従っている。ビバリーヒルズの裕福な住民たちがレタスサラダや蒸した豆腐のキノア添えを食べている一方で、スラムやゲットーの貧しい人たちは、大量のツインキークッキーやチェトス、ハンバーガー、ピザを食べている。2014年には21億人以上が太りすぎで、8億5千万人が栄養失調で苦しんでいる。2030年には人類の半分が太りすぎになると予想されている。2010年に飢餓と栄養失調によって100万人が死んだが、一方で糖尿病によって300万人が死んでいる。

ディストピアと信頼と

昨夜エマちゃんと電話をしていて、

「信頼」が壊れた状態を作り出すことが必要なんじゃないか

とエマちゃんが言った。

そもそも、エマちゃんと私がここ半年くらいよく議論しているのが、「今がディストピア」だよね。と言う話。

ディストピア社会とは何か。個人の自由が制限された、全体主義的な管理社会、というのがひとつの解釈だろう。

そんな話を少し前にアエラで書いた。ディストピア小説が人気のわけは、今がディストピアだから、という内容。

toyokeizai.net

 

でも、「今がディストピア」というと、そんなことはない、と反論されることも少なくない。もちろん、現状認識は人によってことなるから、何が正解かなんてことはない。

一方で、「今がディストピア」を否定すること、そもそもそんなことは考えないこと、現状に満足しきっていること、そんな人が大多数の社会、それそのものが「ディストピア」と言えるのではないか、という解釈もまたできそうだ。

そうすると、大多数の人が自分の頭で考えなくなった社会こそが「ディストピア」という言い方もできそうだ。これは、「個人の自由が制限された、全体主義的な管理社会」とは矛盾していなくて、そういう管理社会においては、個人が自分の頭で考える必要もないし、考えることができなくなっていく。

じゃあ、そういったディストピアを回避するために、「自分の頭で考える」にはどうしたらいいんだろうね?と言う話から、冒頭の話につながる。

「自分の頭で考えない、考える必要がない」状態とは、現状が居心地がよくて快適で、そこに従属している状態だ。だから、現状に疑問をもたない。問いを持たない。だから考えることはない。

それを持って、現状を「信頼」している状態とする。

現状を打破するには、破壊することが思いつく。破壊とは、物理的なことばかりではない。精神的なものも含む。その、破壊の対象が現状に対する「信頼」であり、そこを壊すことで、自分の頭で考えざるを得ない状況になり、ディストピアからの脱却をして、その先を考えて作っていくことにつながるのではないか、という仮説。

でも、実はその先だってまた異なるディストピアが広がっているのかもしれない。

少なくとも、当初浸っていたディストピアは、物質的な欲求は満たされ、飼いならされていた社会であった。そのディストピアを打破して、次に向かったら、最低限の物質的な欲求を満たすことすらできなくなるかもしれない。これは管理社会とは別の意味での、生存を満たすことが困難と言う意味でのディストピアだ。

マトリックスの世界がユートピア。モーフィアスに起こされない方が幸せ。

と友人が言った。私もうなづいた。

「素晴らしい新世界」はユートピアだ。

と友人が言った。私はそれを否定できない。

それでもなお、自分の頭で考えたいんだよなあ、少なくとも自分は。

行ってみたいVRレストラン

VRレストランと呼ぶのが適切かどうかはともかく・・・。プロジェクションマッピングなどテクノロジーで五感を刺激して食の楽しみを味わうレストランが最近増えているなーと思ったので、行きたいところをメモ。

 

佐賀牛restaurant Sagaya 銀座 (銀座)

tabelog.com

チームラボによる、部屋一面のプロジェクションマッピングとともに、お肉を味わえるそう。4月から。

www.teamlab.art

 

●初花一家鶯谷

tabelog.com

 

ここも部屋一面のプロジェクションマッピングとともにお肉。お肉とプロジェクションマッピングは相性が良いのかしら。どうなのかしら。


五感で焼肉を味わえる客席 - プロジェクションマッピング

www.e-aidem.com

 

●旬熟成 GINZA GRILL (銀座)

tabelog.com

 

20日にオープンするGINZA SIXに入るお店。目隠しをしながらお肉を食べるそう。ていうかここもお肉のお店。

www.fashion-press.net

 

●暗闇ごはん (浅草)

www.ryokusenji.net

 

浅草のお寺・緑泉寺のイベントとして、アイマスクをして真っ暗な状態で食事をとる「ブランドレストラン」。視覚を奪われることで、他の感覚が研ぎ澄まされるという。

去年、クロスモーダルデザインワークショップで青江さんが講演してくださって、感覚を引き算するというのも、VRなんだなあと思いました。引き算によって、本質が引き出されるという意味で。

【開催レポート】第十二回クロスモーダルデザインWS「感覚の減算で作る新しい体験」

ちなみにバーチャルリアリティ(VR)の定義は「みかけや形は現物そのものではないが、本質的あるいは効果としては現実であり現物であること」。

日本バーチャルリアリティ学会 » バーチャルリアリティとは

 

どれも行きたい。

ハリウッド版攻殻機動隊「ゴースト・イン・ザ・シェル」雑感

だいぶ前に試写で観ました。先週末公開されたので、記憶を手繰り寄せて雑感を。観たのは3D字幕版。

ghostshell.jp

まず冒頭の映像がすごい。香港を思わせる猥雑でネオンに彩られた、高層ビルが立ち並ぶ町並み。ビルと同じ高さの舞妓さんなんかがゆらゆら揺れている。攻殻機動隊の世界に親しんできた私たちがこういうのを観たかったよね、という映像を実写で観せてくれる。ハリウッドで作らないとこれは観られない。

それから少佐を演じたスカーレット・ヨハンソンは彼女以外に思いつかないぴったりな配役。少佐のイメージとしては押井監督版に近い。

過去の攻殻作品へのオマージュが各所に散りばめられている。あの絵もあの絵もあの絵も。。。。原作の士郎政宗さん、押井監督と神山監督へのリスペクトが感じられる、印象的な絵が実写映像で目の前に繰り広げられる。攻殻ファンこそ楽しめる。

人と機械が融合する時代、人間とはなにか、自分とはなにか、生命とはなにか、そういった問いかけが、原作漫画でも押井監督版でも描かれていた。そこが好きな人には、ハリウッド版のストーリーは陳腐に感じられるかもしれない。

ハリウッド版のストーリーは、もっと単純明快だ。勧善懲悪ものでもあり、家族、愛、といったハリウッドが好むテーマが盛り込まれる。

(それいらない・・・)と思ったけれど、前述のとおり、過去の攻殻作品へのリスペクトがすごい。だから、これは攻殻のファンムービーなのだ、と観ると、楽しめる。

攻殻ファンは実写映像の素晴らしさという点だけでも観るのは必須。これまで攻殻観たことない人は、ハリウッド版を入り口に、原作漫画や押井版の認識論の世界に入っていくのが両方楽しめていいのかも。

 

1989年の原作漫画。欄外に筆者のごちゃごちゃした書き込みがあり、一度では読みきれない。難解なので、何度も読む必要あり。

 

 押井守監督によるアニメ劇場映画。これの公開は1995年。ネット普及以前にこの世界観。

 攻殻機動隊関連作品はほかにも多数あるが、まずこの2つを抑えてから。

ちなみに先週号で記事書きました。ウェブで公開されている。

dot.asahi.com

dot.asahi.com

人工知能および自律システムにおける倫理的考察のためのIEEEグローバル・イニシアティブ「倫理的設計」:人工知能と自律システムによる幸福を優先するためのビジョン

人工知能(AI)および自律システム(AS)における倫理規定に関するIEEEグローバル・イニシアティブ」はIEEEのプログラムのひとつで、プログラム名通り、AI/ASの「倫理的設計」ビジョン策定を進めている。

IEEEは電気、通信、情報工学などの技術者による専門家組織で、これらの分野の国際規格の標準化活動を推進している。IEEEグローバル・イニシアティブでは、「倫理的設計」に基づいたIEEE標準化の提案を行うことを目標にしている。なお、すでに一部はIEEE標準化プロジェクトの中に取り込まれている。

昨年12月に公開されたのが以下の「倫理的設計」Version1だ。

The IEEE Global Initiative for Ethical Considerations in Artificial Intelligence and Autonomous Systems.  Ethically Aligned Design: A Vision For Prioritizing Wellbeing With Artificial Intelligence And Autonomous Systems, Version 1. IEEE, 2016.

IEEE-SA - Industry Connections

上のリンクから無償でDLできる。

なお、エグゼクティブ・サマリーはIEEE日本事務所が翻訳している。

(配布していいそうで、ここにアップした)

Version1では、AI/ASの開発に伴う課題と提案の候補が示された。

今年6月にオースティンで開かれるIEEEグローバル・イニシアティブの会合でバージョンアップに向けた議論が交わされ、それを反映して今年秋に「倫理的設計」Version2が公開される予定だ。

 

「倫理的設計」Version1では以下の8セクションに分かれて課題が抽出されている。

1.一般原則

以下の3点の一般原則と、その実現の課題が挙げられている。

1.人権の最高の理念を具現化する。
2.人類と自然環境に対する最大の利益を優先させる。
3.AI/ASが社会技術的なシステムとして進化するのに伴い、リスク及び悪影響を軽減する。

人権が最初に来るのがいいなあと思った。国内でも内閣府とか総務省とかが報告書を作っているけれど、「人権」って文言が最初に入ることってないよなあ、、、と日本残念。。。

 

2.自律知能システムへの価値観の組み込み

以下の3点と課題が挙げられている。

1. AISの影響を受ける特定のコミュニティの規範と価値観を特定する。
2. そのコミュニティの規範と価値観をAIS内に実装する。
3. そのコミュニティにおける人間とAISの間の、これらの規範と価値観の整合性および適合性を評価する。

 

3.倫理的研究と設計を導く方法論

開発主体は、人間の幸福、エンパワーメント、自由がAI/AS開発の中核となるようにすべき、という内容とその実現のための課題。

 

4.汎用人工知能(AGI)と人工超知能(ASI)の安全性と恩恵

 

5.個人情報と個別アクセス制御

個人情報に関する重要な倫理的ジレンマは、データの非対称性として、課題を挙げている。

 

6.自律兵器システムの再構築

以下について提言している。

・ 技術組織が、人間による兵器システムの有意義な管理が社会にとって有益であることを受け入れる。
アカウンタビリティを保証する監査証跡により、そのような管理を確実にする。
・これらの技術を生み出している者が自分たちの仕事の意味を理解している。
・職業倫理規定が危害を加えることを意図した創作物に適切に対処する。

 

7.経済的/人道的問題

ヒューマンテクノロジーの世界的なエコシステムを形成する主な要因の特定、経済的および人道的な影響への対応、重要な難所を解消することによって実現できる解決に向けた重要な機会の提案をすることが、このセクションの目標。

 

8.法律

 

 

なお、AIと倫理や社会、開発原則といったドキュメントは国内外・官民学問わず各方面からいろいろと出ていますが、今年にはいってから出たものを以下にまとめておきます。

 

2017/01 ASILOMAR AI PRINCIPLES, future of life (FLI)

futureoflife.org

 

2017/01 REPORTwith recommendations to the Commission on Civil Law Rules on Robotics, Committee on Legal Affairs, The European Parliament

REPORT with recommendations to the Commission on Civil Law Rules on Robotics - A8-0005/2017

 

2017/01 人工知能と人間社会に関する懇談会 報告書、内閣府総合科学技術・イノベーション会議 

www8.cao.go.jp

 

2017/02 人工知能学会倫理指針、人工知能学会倫理委員会

ai-elsi.org

 

 

トヨタ(製造業偏重でソフト産業軽視の日本の産業構造)をディスりつつエールを送る「ひるね姫」がとても良かった

エンジニア必見のアニメ映画と聞いていた「ひるね姫」。とても良かったです。自動車産業を中心とした日本の産業構造の課題を知った上で観ると、あーあれか、という楽しみ方ができます。

 

wwws.warnerbros.co.jp

 

2020年、瀬戸内海に面した岡山県倉敷市のある町。自動車の改造や整備をする父親と二人暮らしの高校3年生のココネの夢と現実を行き来しながら、物語が進む。

ココネがみる夢は、24時間体制で機械をつくる国とその姫で「魔法」を使うエンシェンの物語。エンシェンは「魔法」をかけて、機械やぬいぐるみ、ロボットに命を吹き込む。「魔法」というのはソフトウェアのプログラミングのことだと示唆される。ところが、この王国では「魔法」は忌み嫌われ、エンシェンはガラスの塔に幽閉されている。

この夢と、現実世界がリンクしつつ、物語が進む。

少年と少女の冒険、勧善懲悪、ハッピーエンドのストーリー。ファンタジーの顔をしたSFもしくはロボットアニメとしても楽しめる。だが、なによりも今の日本の産業構造の風刺が効いている。

ココネがみる夢の中の王国は、第三次産業革命以降の内燃機関自動車産業が牽引した経済成長から脱却できない、今の日本の産業構造のようだ。ソフトウェア産業が必要でありながら、従来の産業構造を変えられないために、前へ進めない。

ココネらの現実世界では、その象徴として、トヨタ自動車を示唆する日本を代表する自動車企業が登場する。ハードウェアを重視するあまり、ソフトウェアを軽視し、自動走行の開発に遅れを取る。これは現実の日本企業が陥っているジレンマそのままだ。

そもそも、トヨタ関連だけでも300万人の雇用があると言われる自動車産業だが、内燃機関(エンジン)を主要技術として成り立っているため、モーター駆動の電気自動車(EV)に移行することで、これまで維持してきたシステムと大量の雇用を失いかねない。自動走行の多くはEV。そこで、自動車などの製造業の影響が強い日本の産業構造では、従来型システムからの移行がままならないのが現状だ。

ひるね姫では、ココネがみる夢も、ココネたちの現実も、この課題を強調して描いているのがわかる。ジレンマに陥り、全体的に沈没しつつある日本の産業構造を批判し、皮肉りながらも、エールを送っている。

 

映画の舞台の2020年には、VRが一般に普及している様子がサラッと描かれていました。ココネの友人で大学生のモリオとその友人は、ヘッドマウントディスプレイ(HMD)を付けながら、やり取りをしている。タブレットは出てくるが、PCは出てこない。ホロレンズのようにHMDをかぶりながら空中で手を動かすインターフェイスが、PCにかわって普及しつつあるようだ。

 

 なお、ココネの夢の中でロボットとカイジュー(鬼)が戦うということで、パシフィック・リムだって言う人もいたけれど、どうでしょうか。

 

 

あと、ココネの夢に出てくるロボットの足は、これを思い出しました。


Cassie - Next Generation Robot

 

あとあと、ココネこと高畑充希さんがうたう「デイ・ドリーム・ビリーバー」がとてもいいです。


高畑充希が歌う「デイ・ドリーム・ビリーバー」PV映像/映画『ひるね姫』主題歌

共感と”あざとさ”

先月、突如としてTwitterのTLが「すっごーい、たーのしー、おもしろーい」に染まった。けものフレンズを観ている友人は少ない。にもかかわらず、Twitterのやりとりに「すっごーい、たーのしー、おもしろーい」が入ってきたのだ。

アニメ、漫画、ゲーム、グッズなどメディアを組み合わせて計画的にマーケティングをして売っていくメディアミックスが常套手段となる中、少し前の日経MJの記事によると、けものフレンズはそうではないと言う。むしろゲームは打ち切りになり、マンガ連載も終了。ところが2月にはいって、Twitter上で視聴者が勝手に盛り上がり始めたという。制作サイドが綿密なマーケティングができなかった一方で、たつき監督のコメントとして、「手のひらの上で転がされるのを嫌う今の消費者に受けたのかも」と分析している。

モノが売れない今、ビジネスから何から何まで世間のキーワードは「共感」だ。理屈ではなく、感情を掻き立てて共感を呼ぶ人が受ける、お金が集まる、購買行動につながる。

何から何まで多かれ少なかれ、私たちは企業が敷いた綿密なマーケティングに囲まれて生きている。節分の恵方巻き、バレンタインデーのチョコレート、ホワイトデーのクッキ・・・すべて食品メーカーのマーケティングのためだ。ところが私たちは、知らず知らずのうちに、それらの企業のマーケティングやPRといった情報によって無意識のうちに行動が操作されている。

そうやって「共感」を作り込もうとする「クリエイティブ」をうたう広告代理店や広報PRやマーケティングの人たちの行動には、とても「あざとさ」を感じて、私は逆に拒否してしまう。コンテンツビジネスだって同じことだ。メディアミックスでも、原作漫画は好きだけれど、それ以外には惹かれない。というのは少なくない。

最近では「クリエイティブ」をうたう、手を動かさず口だけ動かす人たちは、みんなマーケティングとPRでありお金儲けのしもべに見えてくる。(被害妄想かしら。まあだけどだいたいあってると思う)

そういう「あざとさ」を嫌悪するのは、「共感」を作り込まれることで、自分が企業側に「操作されている」感じがするからだ。だから気持ち悪いと感じる。

数年前に、sence of agencyという単語を知った。心理学や認知科学の分野で研究対象として注目されているという。「自分がやっているという感じ」を指す。行為主体感とか自己主体感、自己帰属感といった訳をするそう。

人が何かを選択するとき、sence of agencyがあるのかどうか、つまり自分自身で本当にそれを選択したという実感を持てるかどうかが「あざとさ」を感じるかどうかの分水嶺だ。

枠組みやシステムを作る人は本当にすごいと思うのだけれど、クリエイティブという点に関しては、手を動かしてものを作る人達が本当にかっこいいと惹かれる。とはいえ、産業規模が大きくなると素朴にものづくりで手足を動かす人以外のステークホルダーがどんどん大きくなり、システムとして肥大化する。そうすると、システムの上の方を感じ取ってしまって「あざとさ」を感じて興ざめしてしまうんだろうなあ。

自分で選択したのではなく、選択させられている、操作されているという感じがしてしまう。でも、そう思うからと言ってそれを拒否するのもまた、他者によって自分の意思がコントロールされているとも言えるのかもしれない。

人が自由意思を持ちそれによって行動をするのはウソだというのは、神経科学や心理学、認知科学などが明らかにしてきたことだ。ただし、それでもなお、自分が何かをしている、自分が選択しているという実感であるsense of agencyを人は持つし、その有無によってパフォーマンスも意欲も変化する。

こわいなーと思うのは(おもしろいなーと思う方が勝るけれど)、sense of agency研究対象となっているということは、いずれはそれを征服する(操作する)こともできるようになるのだろう。いや、すでに経験的に行われているのかもしれないな、ということ。

 

 

 

刀削麺はなぜ食べても食べても減らないのか

取材後、辛いものが食べたいと、カメラマンさんとふらりと入った中華屋さん。ランチで最も辛いものはこれ、ということで、刀削麺を食べました。

胡椒と山椒の効きが悪くいまいち。普通においしかったけど。

しかし、刀削麺はなぜ、食べても食べても麺が減らないのだろうか。刀削麺と言えば辛いと思いこんでいたけれど、辛い以外の刀削麺もあるのだろうか。

減らないよーと思いながらも結局完食できてしまうのは、辛さと香辛料の刺激による食欲増進効果だと思われる。ということは、辛くなくて香辛料の効きが悪いと完食は難しいのかもしれない。途中で飽きそう。

刀削麺を知ったのは社会人になって東京に来てからで、職場近くに西安があって先輩の時々連れて行かれたからだけれど、それ以前には刀削麺の存在を知らなかった。特別好きというわけではないけれど、お昼に辛いものを食べたい時には手軽だ。麺類は早く食べられる。

ところで、少し前に食べた東銀座の刀削麺園は、山椒が癖になる効き具合でおいしかったです。また行こ。

小児科医とVRーテクノロジーが社会に入ってくプロセスについて

小児科医をやっている同級生が、Facebookで以下の記事をシェアしていた。彼女が勤める病院での取り組みだそう。

www3.nhk.or.jp

VRなんて単語を知らないままに社会人になり取材で知って早10年。昨年は「VR普及元年」と言われ、PSVRの発売もあって、ゲームをする人の中ではそれなりにVRは知られるようになった。それでも、取材関係者以外から「VR」という言葉を聞くことは、これまでなかった。

なので、この取り組みは、初めて取材関係者以外の身近な友人からVR活用の具体例だった。

テクノロジーが社会に入っていくというのは、こういうふうにちょっとずつ、身近な人たちに浸透していく過程なのだなあと思った。

アラビア料理とベリーダンス

広尾のアラビアレストランへ。ベリーダンスのショーもありました(金曜土曜の夜)。初めてのアラビア料理、初めてのベリーダンス。美味しかった、楽しかった。シリア人の方がやっているお店だそう。場所柄、外国人のお客さんも多く、日本語よりも英語で話していました。

広尾のアラビアレストラン ゼノビア Arabian restaurant Zenobia

3人で行って、コース料理(2900円)を3つ頼んでそれぞれシェア。コース料理には、サラダ、スープ、ディップ?3種類、メイン(4種類から1種類選ぶ)、ナンが付いてきます。結構ボリュームたっぷり。

香辛料がたっぷりでおいしかったです。トマトソースと乳製品のソースに、それぞれ香辛料で味付けをしている感じ。煮込みが基本のよう。ラムのトマトソース煮込みが特に好き。煮込みやソースにナンを付けて食べる。

食後のコーヒーを頼んだら、このセットで出てきました。

銃!?チャッカマンです。

デザート二種類。料理名を見てもわからず、店員さんに聞いてもわからず、食べてもよくわからなかった。

煮込みと香辛料、というだけで好き。

金曜と土曜の夜はベリーダンスのショーがあります。一緒に行った方もベリーダンスを習っていますが、私はベリーダンスを観るのは初めて。

最初は圧倒されたけれど、楽しかった。それと、女性の身体をのびのびと見せることの、生命感というか肯定感がいいなあと思いました。ベリーダンスの「ベリー」は腰。腰で踊るダンス。女性らしい腰って、ある程度肉付きがあって、厚みがある。筋肉の上を、脂肪が覆っている。それを美しく見せる踊りなんだなあと。

アラビア料理は癖になりそう。