人間とテクノロジー

人間とテクノロジーについて、人と話したり、議論したり、思ったりしたことの備忘録

ERATO池谷脳AI融合プロジェクトキックオフシンポジウム池谷先生講演のメモ

昨日、ERATO池谷脳AI融合プロジェクトのキックオフシンポジウムがあった。立ち見がたくさん出て部屋に入れなくなるほどの盛況で、五月祭中の本郷キャンパス内ということもあってか、学生のほか一般の方も多くいらしていたようだ。


まず同プロジェクト研究総括で東京大学教授の池谷裕二氏がプロジェクトの概要を紹介し、プロジェクトのメンバー4人がそれぞれのプロジェクトの内容を紹介、招待講演として「ERATO稲見自在化身体プロジェクト」を統括する東京大学教授の稲見昌彦氏と「メカ屋の脳科学」著者で東京大学准教授の高橋宏知氏が講演するという盛りだくさんのシンポジウムだった。以下は冒頭の池谷先生の講演のメモ。

「脳を目一杯使い込みたい」「AIを用いて潜在能力を引き出す」

ERATO池谷脳AI融合プロジェクトは、「脳とAIをハイブリッドするプロジェクト」だと池谷氏は言う。同プロジェクトのコンセプトを以下の言葉を示して紹介した。

脳にAIを埋め込んだら何ができる
AIに脳を埋め込んだら何がおこる
脳をネット接続したら世界はどう見える
たくさんの脳を繋げたら心はどう変わる
せっかく脳を持って生まれてきたのだから
脳を目一杯使い込みたい
未知なる「知」に戯れる童心と憧心

このプロジェクトの背景として、「脳は何%使われているのか?」というのが根本的な問いにあると池谷氏は言う。脳は本当に有効活用されているのだろうか?そうでないならその潜在能力はどれほどあるのか?

ところで、人は道具を作り、それを使いこなすが、道具を使うことによって脳の使い方も変化する。例えば、「文字」という道具は、人類史上では最近の発明だ。人類史の99%は文字のない生活を送っている。文字という道具が発明されたことで、脳の使い方も変わってきた。脳の使い方は、環境に依存しているのだ。

身体や環境の性能が、脳の能力を制限してきたとも言える。「せっかく脳を持って生まれたのに、身体は環境のリミッターに縛られて一生を終えるのはもったいない」と池谷氏。脳の能力は、環境の変化に応じて発現が変化してきた。ということは、未来の環境にもすでに適応する準備ができているということだ。「でも、未来なんて待っていられない。AIを用いて潜在能力を引き出す」(池谷氏)。

そのために同プロジェクトで進める4つのアプローチを池谷氏は紹介した。

ひとつは、「脳チップ移植」。環境情報を検知するチップを脳に埋め込むことで、どう人間が変化していくのかを調べるという。2つ目は「脳AI融合」。脳が使いこなせていない大量の情報を、AIを使って開放するのが狙いという。3つ目は「インターネット脳」。ネットやIoTなどのデジタル情報を脳にインプットする。4つ目は「脳脳融合」。個人ひとりの脳だけでなく、複数の個体同士の脳と脳で情報をシェアすることで、新しい対話のあり方を模索する。

これらのアプローチから4つのグループに分かれて動物実験、人での研究を、約70人の研究者らが進める。また同プロジェクトはGoogleGoogleクラウドから協力を得ている。なお、シンポジウム会場では、Google音声認識で講演の音声をリアルタイムで文字起こしし、更にそれをGoogleの翻訳機能を使いリアルタイムで英語翻訳するというデモンストレーションがサブスクリーンを使って行われたが、音声入力も自動翻訳もいずれも講演内容をリアルタイムでサポートするにはまだまだった。「まだまだ使えないが、(同プロジェクトが終了する)5年後にはどうなっているのか見どころだ」(池谷氏)

本来脳に備わっている潜在能力を、AIを使って顕在化する

池谷氏は、プロジェクトを推進するグループのひとつである「基盤グループ」で動物実験をもとに基礎研究を進めている。池谷氏はこれまでの研究や、論文を紹介をした。

最初に紹介したのが「ネズミに英語をスペイン語を識別させる」という研究。音は、聴神経を介して電気信号に変換され脳に伝わる。この神経データを記録し、機械学習させることで、英語を聞いたときとスペイン語を聞いたときのそれぞれの特徴を識別し、これをさらに脳に戻す。音の認識でマウスの脳内で本来はつながっていない領域を接続し、識別することができるようになるという。

もし、こうした研究が将来人で可能になると、何ができるようになるか。例えば誰でも絶対音感の習得ができるようになるだろう。脳の神経活動自体は絶対音感を感知しているが、本人は認識できていない。「その資産を活用できていない。それをAIで読み解いて活用できるようにする」と池谷氏。

本来脳に備わっている潜在能力を、AIを使って顕在化するというこうした考え方に基づくと、いまは暗黙知とされている直感や審美眼といった、プロの技を誰でもできるようになるかもしれない。「一言で言うと、新たな能力を移植しようということだ」(池谷氏)。

脳の活動をうまく利用することで、意図的に人の認知を操作する

脳の活動をうまく利用することで、意図的に人の認知を操作する研究はこれまでも多くある。例えば、2010年にCurrent biologyに掲載された「Disrupting Reconsolidation Attenuates Long-Term Fear Memory in the Human Amygdala and Facilitates Approach Behavior」では、脳機能イメージングを活用することで、トラウマなどの恐怖を和らげることに成功している。また、2016年にNature human behaviorに掲載された「Fear reduction without fear through reinforcement of neural activity that bypasses conscious exposure」では、fMRIによるニューロフィードバックで恐怖を軽減することができることを示している。

恐怖だけでなく「好き」なものの選択も操作可能という。2016にPlos biologyに掲載された「Differential Activation Patterns in the Same Brain Region Led to Opposite Emotional States」では、「好き」に関わる脳活動を誘導しながら顔写真を提示すると、好みが変化することが示されている。

センサーが脳に埋め込まれ、地磁気を感知できるマウス

人は視覚、聴覚、嗅覚、触覚、味覚の五感で環境情報を感知しているが、環境中には他にもたくさんの情報がある。そのひとつが「地磁気」だ。地球中を移動する際に、地磁気を感知することができれば目的の方角を見失わないですむ。実際、渡り鳥は地磁気を感知しているという論文もあるという。

では、哺乳類には地磁気センサーはあるのだろうか?池谷氏は、地磁気を情報として活用してマウスが迷路の中で餌にたどり着けるかどうか実験したところ、できなかったということから、マウスには地磁気センサーはないとした。

一般に、人間にも地磁気センサーはついていない。だが人は方位磁針を発明し、さらに現在ではそれがセンサーチップとなりスマートフォンに内蔵されている。ではこの磁気センサーを脳に埋め込み神経と接続すれば、地磁気を認識できるようになるのではないか?池谷氏らはそこで、ネズミの脳に磁気センサーのチップを埋め込んだところ、地磁気を情報として活用して餌にたどり着けるようになったとして、2015年にCurrent Biologyに「Visual Cortical Prosthesis with a Geomagnetic Compass Restores Spatial Navigation in Blind Rats」を発表した。興味深いのが、センサーのスイッチがオフになっても、方位がわかる能力が持続していることが示された点だ。一時的にセンサーと脳を接続してセンサー情報をもとに認識する状態を作るとセンサー情報がなくても、脳内に潜在的にあったとみられる感知能力が顕在化する可能性があるのだ。

この論文は各国で話題になり、多くのメディアで報道された。一方で、「これは感覚と呼べるのか?単に大脳皮質を刺激しているだけなのでは?」という批判もあったという。だが、もともど人間の知覚の仕組みも、神経細胞の刺激によるものにすぎない。

環境情報や自己の状態情報を感知できるようになると、身体の自己制御が可能になる。例えば、「血圧を10下げてください」と言われてもたいていの人はできない。一方で、血圧計で計測しながら現状の血圧を本人に提示すると、意識して血圧値を制御できるようになる。これらは「バイオフィードバック療法」として身体状態の自己制御として活用されている。

科学的に可能なことと、社会として可能なことは異なる

テクノロジーを使って人間の機能を拡張したり強化したりするバイオハッキングやトランスヒューマンという考え方は近年様々なところで語られるが、最近に限ったことでもなく、10年前から各国で進められていると池谷氏は指摘。バイオハッキングが最も進んでいるのがスウェーデンで、個人IDやカード情報などを入力したマイクロチップを体内に埋め込んでいる人はすでに1万人ほどいるという。

一方、技術として実施可能なことと、社会として可能なことは異なる。オーストラリアでは交通系ICカードのチップを手に埋め込んだバイオハッカーが逮捕された。オーストラリアではこれらは違法のためだ。「科学的に可能なのと、社会制度がどうなるかは別問題だ。社会に許される範囲で、これらの研究を進めていきたい」と池谷氏はまとめた。

 

 

以下は上記の講演を聞いて、週末もやもや考えていたこと。

「人間のソフトウェアをアップデートする」

少し前に、PFNフェローの丸山さんの「高次元科学へのいざない」が話題になった。要素還元主義はここ400年くらい続く科学のお作法だが、全体を要素に分割して検証していく低次元モデルに限定されているのは、人間の認知限界のためだ。一方で、現実世界は複雑で、要素還元主義によっては扱いきれない事象が世界には多数ある。そこで、世界を理解するためには「複雑なものを複雑なまま扱う」必要があるが、ディープラーニングを手法として、要素還元主義によらない新しい科学のお作法を作っていけるのではというのが高次元科学」だ(と理解したんだけどあってる??)。

人間の認知限界という制約を取り除く高次元科学では、人間の知性による理解なしで、世界をモデル化して理解しようとする。「科学」は、客観的であり人間個人に依存しないものなので、理想的には非常に正しい科学のお作法のように見える。だが、現実的には「科学」はそれに取り組む人間の知性なしでは存在し得ないもので、人間の知性抜きの「科学の究極の目的」のためというのは何かひっかかる。上手く言えないけれど。

それよりも、人間の知性レベルが制約となっているのなら、池谷先生のプロジェクトのようにそれを拡張するのが根本解決になるのでは、と単純には思った。

人間の脳を目一杯活用したい、と池谷先生はおっしゃる。特にデジタル環境での情報の増加が著しい昨今は、丸山さんのおっしゃるような科学のテーマでもなくても、単に日常のことでも人間の認知限界が制約となって、できることもできないのでは、と感じることが日々多い。計算可能なデジタル情報の増加は、テクノロジーによるものだし、それが人間にとって何らかの課題になっているのなら、その課題克服もテクノロジーによってなされる、というのは納得がいく。

人間は環境の変化その相互作用で遺伝的に進化してきたが、特にデジタル環境を含む環境の変化が遺伝のスピードよりもはるかに速い現在では、遺伝による進化を待っていたら、人間の能力が環境変化に追いつけない。そこで、技術によって人間の能力の変化を促す、というのは、情報系・工学系の研究者の間でよく聞く。こうした技術による人間の能力変化について、前に鳴海さんが「人間のソフトウェアをアップデートする」という表現を使っていたが非常にしっくりきた。

研究と社会実装は同じ延長線上にあるとは限らない

池谷先生の講演の最後にも言及されていたが、科学的に可能なことと、それが私たちの身近に社会実装されることとは、また別問題だ。池谷先生のプロジェクトが描く未来は、現在の人間の価値観では受け入れられないものもあるかもしれないし、少なくとも現在の社会システムそのままでは受け入れられないだろう。

ただし、「正しさ」の基準は社会によっても、時代によっても変わる。

テクノロジーによって人間の身体や知性の増強するトランスヒューマニズムはハラリの「ホモ・デウス」が売れたように、共感する人も反発する人も含めて話題になりやすい。SFでは定番にしても、それが実現可能であるとの認識が一般の人の間に広まってきた現在では、議論は避けられない(実際に実現可能かどうかはともかく)。

「AIの遺電子」作者で漫画家の山田胡瓜さんにインタビューした際に興味深かったのが、未来の人間として、技術によって能力が拡張された「トランスヒューマン」をヒューマノイドに託して描いているという話だった。トランスヒューマンは良い面もあるが、現在の倫理観や価値観からすると、受け入れられない部分も出てくる。例えば、記憶を都合良く書き換えることなどは議論を呼ぶだろう。山田さんは言う。

「漫画家は読者に理解してもらうために、現在の人に共感してもらえることを描きます。人間は環境によって価値観が変わるので、本当の未来の人間は、今の人間からすると共感できず、嫌だな、気持ち悪いなと思うような価値観も出てくると思う。それをど直球に漫画に描いても、『気持ち悪いな』で終わってしまう」

「AIの遺電子」は、人間の脳を忠実に再現したAIを持つヒューマノイドが国民の1割となった近未来を舞台に、ヒューマノイドの医師を描くSF作品だ。ここで描かれるヒューマノイドは、人間とほとんど相違がないが、人間とは異なるものとして描かれる。だが、ここで描かれたヒューマノイドとは、未来の人間の比喩だという。比喩として描くことで、今とは価値観の異なる未来を考える余地が出てくるという仕掛けだ。

今の価値観で、何十年もさきの未来の価値観や社会を安易に語ることはできない。でも、今どんなにあらゆる手を考えても、今考えていること、今想像できることとは異なることが、必ず生じるということを考慮しておくことは必要ではないか。

脳科学の見果てぬ夢と研究者

脳科学」も「AI」もともに、研究者がまじめに研究に取り組む一方で、社会はそれを拡大解釈し、ブームが巻き起こる、という現象が定期的に起こる。現在は第三次AIブーム(ももう終わりかけか)と言われるが、AIブームと同期または少し遅れていわゆる「脳科学」の研究分野(研究分野としては神経科学とか別の名称で呼ばれるが)にまた予算が付きつつあるように見える(なお、前回の「脳科学」研究ブームは文科省の脳プロが始まった2000年代後半で、当時よく取材していたが見聞きした限りはいろいろ焼け野原になった感)。

科学研究の営みは、ひとつひとつレンガを積み重ねていく取り組みだと例えられる。ひとつひとつのレンガ(論文)は、それひとつで科学の真実に到達するわけではなく、ひとつひとつ積み重ねて、時には再現性がないと否定され、全く別の仮説が出てきたり、(または研究不正で取り下げられたり)するものだ。1本の論文の意義はあるけれど、それがすべてではない。

でも人間の性質上(これも認知限界だ)、目を引く話や面白い話を拡大解釈してしまう傾向がある。論文発表をもとに記事を書く私たちだって、ただ論文の内容だけではなく、それがどう社会にとって意義があるのか意義付けを書くのがルールだ。最も昨今では、今回のERATO然りだけれど、「どんな意義があるのか」「なんの役に立つのか」といった社会貢献や経済貢献をうたわないと基礎研究であっても研究費がつかないので(そんな研究費の制度がそもそもおかしいが)、研究者自身が研究成果の誇大広告を吹聴しがちな傾向になりがちだが。

科学研究のシステムで研究者のインセンティブ設計にバグがあり、頭のいい研究者がそれをハックしている(せざるを得ない)のが現状とはいえ、またそれらの情報にいちいち踊らされるメディアや一般人も共犯者だ。

何が言いたいかというと、1本1本の論文に一般人が簡単に一喜一憂して踊らされるのはいかがなものかというのと、そうした吹聴をする研究者もいかがなものかと思うが、もっと問題は研究者自身がそうせざるを得ない、国の科学技術政策・高等教育行政で、インセンティブ設計が何とかならないと永遠にこの状況は変わらないんだろうなあ。。。

 

 

シド・ミード展がよかった

アーツ千代田3331で開催中の、シド・ミード展へ行ってきた。楽しかった。工業デザイナーについて無知な自分にとっても、その仕事の偉大さを感じることができた。

sydmead.skyfall.me

6/2までやっています。

シド・ミードは1933年生まれのアメリカの工業デザイナーで、1970年代は自動車業界や航空宇宙業界のインダストリアルデザインを、1980年代に入るとハリウッドのSF映画作品の中の車やセット、都市などのデザインを手がける。「ブレードランナー」、「スタートレック」「トロン」などで、これらのデザイン画はこの展覧会でも展示されていた。

シド・ミードの仕事の3割は日本からの発注だという。この展覧会でも日本コーナーが設置され、宇宙戦艦ヤマトガンダムなどのデザイン画が展示されていた。

会場は基本的にスマホタブレットでの写真撮影はOKだが、奥に行くほど撮影NGの作品が増え、映画コーナーと日本コーナーは多くがNGとなっている。また、QRコードWi-FiのPWが表示されていて、専用アプリをDLして作品にスマホをかざすとARでその作品のデッサンやCGモデルが表示されるしかけもあった。

それぞれの作品もさることながら、1970年代のインダストリアルデザインから1970年代後半以降のハリウッドのSFX映画、1980年代以降の日本のアニメ作品と、それぞれの時代の空気を感じることができた。自動車から宇宙へ。

一方で、2019年現在から見ると、それらはとてもかっこいいのだけれど、今はなき古き良きものへの憧憬の念も感じた。

平日昼間ということもあり人はそれほど多くもなかったが、客層はひとりで来ているおじさん、おにいさんがほとんどで、真剣に一枚一枚を見て、スマホに写真におさめていく。居心地のいい空間でした。

以下はいくつか写真にとったもの。

2040年の東京だそう。1991年の作品。それから約50年後の東京としてこの黄昏の風景を描くという未来予想。当時はまだエヴァ放送前だけれど、第三新東京市ぽく見えなくもない。

1979年の作品でMOON2000というもの。赤道上のベルトは月面基地だろうか。2000年時点では全然実現しなかった未来予想。

アプリでスケッチをARでかさねたもの。

チャットボットがごみ分別案内をしてくれる

文京区がチャットボットによる「ごみ分別案内サービス」を始めたので、使ってみた。

www.city.bunkyo.lg.jp

ブラウザからのほかLINEでも使うことができて「文京区資源環境部リサイクル清掃課」で検索すると利用できる。

こんな感じで教えてくれる。これまで分別一覧表を冷蔵庫に貼っていたが、そこから探すよりもLINEで入力するだけと思えば利便性は上がるのかな?

せっかくなら、住んでいる地域のゴミの日も表示してくれるといいのに。

しかしこうやって項目ごとにチャットボットが増え続けていくと利便性は下がる。個別最適は全体最適につながらないのだ。

カール・レーフラーは実在するか

しません。

おととい、東洋英和女学院は記者会見を開き、院長で同女学院大教授の深井智朗氏を同日付で懲戒解雇になったと発表した。深井氏はドイツ宗教学が専門で、2012年に出版したドイツ宗教学の専門書の中で神学者「カール・レーフラー」が書いたとする論文を取り上げている。ところが、同学院が設置した調査委員会は、この「カール・レーフラー」という人物は存在せず、この人物が書いたとする論文は深井氏による捏造と判断したという。

www3.nhk.or.jp

ただの研究不正というにはあまりにも稚拙なのか逆に手が込んでいるのか、いずれにしても私のように想像力の乏しい凡人からしたらなかなか想像を絶するというか、事実は小説より奇なりというか、深井氏の頭の中を覗いてみたい。

なお、カール・レーフラー氏においては、昨日さっそくTwitterアカウントが作られてました。

なかなか趣深い。

ところで現実の世界では実在しない人物がTwitterの世界ではあたかも実在しているかのように振る舞われるのはよくあることですが、今回のニュースを知って、SF作家の樋口さんたちによるエメーリャエンコ・モロゾフを思い浮かべました。エメーリャエンコ・モロゾフ現象そのものが作品のようですばらしい。

twitter.com


存在しない作家エメーリャエンコ・モロゾフの作品を翻訳するという体で、みなさんが次々に作品を書いてUP、それをツイートすることで、あたかもエメーリャエンコ・モロゾフが存在しているかのように振る舞われる。

docs.google.com

togetter.com

虚構新聞にしろエメーリャエンコ・モロゾフにしろおもしろいなあとニヤリとできるのは、それが虚構であること、「ネタ」であることをそれを知る人が認識できるように、当人たちが工夫をこらしているからだ。

空想はいい。妄想もいい。でも、それを空想でもなく妄想でもなくファクト(事実)であるとして、パブリッシュすることはNGだ。それが研究なら研究不正となる。

アタリマエのことだ。でもこのアタリマエのことが、研究不正にしろ不正統計にしろ虚偽答弁にしろあまりにも目について、このアタリマエの線引きが、どこかで崩れているのは、ただ個別個人特有の問題なのか、もっと社会に広く共有される世界線でもあるのか、もやっとします。

リニア・鉄道館雑感

ちょっと前、あおなみ線終点で取材があったので、ここが閑散としていると話題のレゴランドの地か、と感慨深かったけれどレゴランドには寄らずリニア・鉄道館に、閉館間際に駆け込みました。

あおなみ線の終点駅から降りてすぐですが、結婚式場?かなんかを迂回して行くので間違いやすい。

エントランス入ってすぐのシンボル展示はC62蒸気機関車、955形新幹線試験電車、超電導リニアMLX01-1。

超電導リニア(右)は95年製造で2003年に山梨リニア実験線で当時の世界最高速度581km/hを記録したそう。速いな。しかし、その隣の1994年製造の955形新幹線試験電車は96年に電車方式による当時の世界最高速度の443km/hを記録しているそうで、リニアにする必要性がそんなにあるのか、私にはよくわかりません。

メインの展示室にはひたすら車体が展示されている横に、超電導リニアに説明展示が多数あり、超電導リニアの宣伝かというしつこさでしたが、まあ超電導リニアの宣伝なんでしょうね。あったらあったで便利なんだろうけど、それほど魅力的に感じないのなんでかしら。

それよりもなによりも面白かったのが、島秀雄氏と十河信二氏をクローズアップした東海道新幹線プロジェクトのパネル展示。技術と政治の世界はおもしろい。

 

名古屋市科学館雑感

先日名古屋へ行ったついでに寄ってきた名古屋市科学館。子供の頃何度か行った記憶はあるけれど、ファンタジーのフィクションばかり読んでいて妄想の世界で生きていた子供時代の自分は、物理法則に現実が縛られていることが気に入らず理科が嫌いで科学館には嫌々行かされたという記憶しかないので、大人になって自分から科学館へ足を運ぶことになるとは、新鮮な気持ちでした。ずいぶん遠いところまで来てしまった。

こんなんだったっけ、全く記憶にないわと思ったら2011年にリニューアルしたらしい。直径35mドームのプラネタリウムは世界最大でギネス認定されたらしい。たしかにでかい。手前の円柱状のなにかは、H-ⅡBロケット開発試験で使われた機体ときぼう予圧部構造試験モデルらしい。

ここにもあるフーコーの振り子

ボタン押すと渦巻き発生させる装置は楽しいな。

「ものづくり都市」ジオラマが名古屋って感じだ。良くも悪くも。

シールド工法って小学生の頃男子の間で流行っていたが、それって名古屋だけなんだろうか。全国どこでも小学生男子の間ではシールド工法が流行るんだろうか。

時代らしく、数学、電波、情報など目に見えない「コト」展示でワンフロア。こうした「コト」の物理的な展示のあり方は難しいと思った。例えば科博が好きなのは昔のコンピュータとか望遠鏡とか物理的な実物を見られる点だけど、モノに本質があるわけではないことを物理的に展示しなければならないという制約があるミュージアムという場で、「コト」を展示することの必然性ってなんなのかしら。「伝えること」が目的ならば、ミュージアムという物理的な場でなければならぬ理由はなんなのかしら。みたいなことを思ってつぶやいていたけれど、よくわかりません。

それはともかく2フロアぶち抜いた吹き抜けを使った水の展示は、水使って面白そうなこととりあえずやってみたという感じの狂気じみた展示でよかった。

 

かわいいロボットは市場を形成するか

取材でロボットは見慣れているし、「かわいいロボット」という子供だましも見慣れている。理屈の上ではそのとおりだが、感情としてはやはり、「かわいいロボット」は強い。

GWにエマちゃんたちとひでまんの実験室にお邪魔した。その実験室は、部屋の四面をプロジェクションマッピングを投影できる部屋で、さらにタブレット端末を使って誰でもそのプロジェクションマッピングのコンテンツを生成できるようになっている。タブレット端末を使ってそれぞれ一通り遊んだあとに、机の上に謎のロボットが登場。

左がその謎のロボット。ニョロニョロのように伸びたり縮んだりする。このロボットと一緒にタブレット端末を操作してコンテンツを選んで生成すると、自分ひとりでタブレット端末を操作してコンテンツを生成するよりも楽しい。はるかに楽しい。

最後に「えいっ!」とロボットが言うと、生成したコンテンツが壁に投影されるのも楽しい。

このロボット、別に役に立っているわけではない。タブレット端末のタッチパネルを操作するのはいずれもユーザーだ。ただタブレット端末の隣で伸びたり縮んだりしながら「ふむふむ」とか「えいっ!」とか言うだけだ。それでも気持ちとしてははるかに楽しくなるのは何なのか。

豊橋技術科学大学の岡田美智男先生は「弱いロボット」として必ずしもとても役に立つわけではないが、人間に必要とされるロボットを提唱している。例えばティッシュを手渡すロボットは、強引ではなく消極的にそっと差し出すことで、人は受け取りたくなってしまうのだという。

産業ロボットに代表される現在市場があるロボットは基本的には「役に立つ」ロボットだが、多くは工場などの管理された空間で働いている。一方で、消費者向けの家庭などで働くロボットは、長く試行錯誤が続けられていながらも、大きな市場として定着していない。現状の技術水準では家庭に導入できるのはルンバのような特化型のロボットと、対話式のコミュニケーションロボットくらいのものだが、コミュニケーションロボットは未だキラーアプリがなく、普及しているとはいいがたい。スマートスピーカーをロボットと呼ぶかどうかは議論があるにしても。

消費者向け・家庭向けで本当に「役に立つ」ロボットの実現には、技術的ハードルが高すぎる。そこを今できる技術水準ということでコミュニケーションロボットと言われているが、それはわかりやすく「役に立つ」わけではなく、ただコミュニケーションをするだけのロボットはなかなか普及しない。そこに、人の感情に訴えかける要素があることで消費者に受け入れられやすくなるのでは、というのは誰でも想像できるし実際いくつも取組事例があるが、アフェクティブ・コンピューティングをうたったJiboの撤退など現実に市場に受け入れられるまでのハードルは高い。

「かわいい」「弱い」はたしかに一時的に人の感情に訴えはかけるけれど、それが市場を形成するまでにはいかない、そのギャップを埋めるには何が必要なのかしら。現状何が不足しているのかしら。

「シナスタジア X1 – 2.44」雑感メモ

以下はFBに書いたもの。とりあえずメモ。


先週MATで「シナスタジア X1 – 2.44」(シナスタジアラボ feat. evala (See by Your Ears))を体験させていただいて、すごく衝撃を受けて、一方で何が面白いのか、何がすごいのかを言語化できず、ここ1週間もやもや考えていて、先週末トークイベントを聞きに行ってもまだ言語化できず、でも体験した友人たちの話を聞いたり、他のことを考えていたりして、さっき寝ようとしたらふと思ったことがあったので忘れないうちに書き留めておきます。

特に触覚の体験で感じたのが、サイエンス(仕組みの探求として)としてもエンジニアリング(プロダクト化という方向を持つものとして)としても、触覚研究でまだまだ探求・追求できる新しい可能性を見せてくれたということです。

VR研究者方のところによく取材に伺っていた、記者になったばかりの10年以上前、視覚は4K・8Kと高精細化が進み、聴覚も同様で、それぞれすでに高精細化・高解像度化に方向性が決まっていて(あまり面白くなく)、五感を独立に扱う研究としては、触覚・力覚の検出と提示で様々な方向性の可能性がある面白い研究に興味を惹かれました。一方で、リアリティ追求として複数の感覚を組み合わせたマルチモーダルが流行り(?)、続いて注目されたクロスモーダル(感覚感相互作用)研究にとても惹かれました。その中で触覚・力覚の研究は、当初はスパイダーとかTELESARの手みたいに、ハイスペックで研究室の中で閉じたものが多かったところから、techlileのツールキットのように比較的安価で研究室の外に飛び出して誰でも扱える「民主化」「オープン化」が進みつつありました(並行して触覚提示もよりクロスモーダルよりになっていったような)。

触覚の研究がハイスペックな「特別」なものから、より一般化していくように見え、それはそれでとても面白い動きだったのですが、その状態が比較的長く数年続き、正直、いろいろ取材させていただいて一通りもう十分見聞きして体験した、とここ数年は思っていました。もう新しいサイエンスとエンジニアリングはあまり出てこないのかなと。

でも今回の作品は、それらとは異なる、触覚をめぐり、サイエンスとしての探求のツールとして、また新しいプロダクトのエンジニアリングの可能性の両方を示してくれたように思いました。もしかしたら、私はそこに一番興奮したのかもしれません。

多分その触覚を巡っての新しい可能性は、前作のシナスタジアスーツでも示されていたのだと思うし、実際当時体験させていただいたときも、すごい!と思ったのですが、今回椅子という形態になったことで、サイエンスとしてもエンジニアリングとしても広がりが出たようにも思いました。

ってまだ全然言語化できてないけど、あとは今眠いのでまた今度考えます。はなみつさんありがとう!

体験を分解していった時にもうひとつ論点として、いわゆるウェルビーイングの文脈でフロー状態のようなものを感覚提示で作り出せるかと言うのがあって、一歩間違えると危険な方向行くけど、それを検討する余地・可能性があることも感じました。この点全然考えまとまってない。
本来は体験全体として言語化すべきことがあると思うんだけど、そこが全然たどり着けていない(のでとりあえず分解して考えてる)。

 

医療AIって言うのをやめたい

世間でのAI(人工知能)ブームに少し遅れて、医療分野でも医療×AIがブームになった。医療は皆保険制度のために厚労省による規制産業でもあるが、その厚労省が保健医療分野でのAI活用についての方針を示したのが2017年6月。まず推進する分野として「ゲノム医療」「画像診断支援」「診断・治療支援」「創薬」に加えて、今後の推進分野として「介護・認知症」「手術ロボット」の計6領域を重点領域とし、研究開発予算配分などを進めてきた。

この重点6領域が作られるにあたり重視されたひとつが、役所のこうした議論でいつも出てくる「日本の強み」。CT/MRIなどの画像診断が各国と比べ群をぬいて多く、また、ディープラーニングの流行も相まって、特に画像診断支援はデータベース構築から国策として推進されることとなった。

それからもうすぐ2年。医療とAIについてここ3年くらい取材していて思うのは、現状画像診断支援の研究開発はレッドオーシャンになっている一方で、医療現場の人たちが本当に必要としているのは、必ずしもそこだけではないということ。

医療×AIというテクノロジー主導で考えると、重点6領域の設定はリーズナブルだ。一方で、医療現場がそれを本当に必要としているかどうかはまた別の問題。

なので私がここ1年近く周りの人たちに言っているのが、医療AIではなくて、医療の現場の課題解決をテクノロジーを使い、いかに進めるか、ということ。医療AIとか医療×AIって言うの、もうやめようよ。それとも、まだ「AI」っていう言葉はバズワードとして予算取りや注目得るなどもろもろに効き目あるから使ったほうが良いという話なの?

目的と手段が入れ替わってはいけないが、テクノロジー主導型になるとテクノロジー導入そのものが目的化しがちになる。だが、医療のようにシステムが複雑で、多数の多様なステークホルダーからなる領域では、テクノロジーが目的化すると実装は進まない、のだと思う。

 

↓「なんでもかんでも“人工知能”って呼ばない。」ステッカーをじゅんじさんが作って配っていたのはもう3年前のこと。

f:id:katsue-nagakura:20190224112103j:plain

 

アルスエレクトロニカと東京ミッドタウンによる「未来の学校祭」

アルスエレクトロニカ東京ミッドタウンによる「未来の学校祭」が2月21日から今日まで東京ミッドタウンで開催されている。テーマは「ギリギリ」。アルスエレクトロニカは、オーストラリアはリンツを拠点に、毎年開催されるアートとテクノロジーの祭典「アルスエレクトロニカフェスティバル」の主催機関だ。東京ミッドタウン内に展開される展示のほか、ワークショップやトークイベントなどがある。昨日、展示を少し見てきたのでメモ。

地下2階、人だかりの中にあるのは、立つソファ。ジェイコブ・トンスキーによるBalance From Withinという作品。行ったときはちょうど調整中で、ソファが自立すると、周囲の観衆から拍手がもれた。

反対側から見ても立っている。

メディア芸術祭でも観た、Ryo KishiさんによるObOrOは子供たちに人気。

行ったときはやっていなかったけれど、気になった展示。SFCって・・・。

ガレリア地下1階のアトリウムへでは、藤堂さんのSEERの周りに人だかりが。

行ったときはパフォーマンス時間でなくて動いていませんでしたが、時間になるとゴムチューブが曲がりくねって動き回るとのこと。

筧康明さんと細尾真孝さんらによる、西陣織にテクノロジーをかけ合わせた作品たちも。こちらは温度によって変色する織物。

 

LOVOT体験会に行ってきた

12月18日に発表されたLOVOTの体験会に年末に行ってきた。LOVOTは、元ソフトバンクでペッパーを手がけた林要さんが設立したベンチャーGROOVE Xが開発した家庭用ロボットだ。なおGROOVE Xは2015年の設立だが、2017年末までにLOVOT開発のために80億円を資金調達している。それだけ資金を集められるという点で、LOVOTへの期待は大きい。

 

lovot.life

体験会は日本橋浜町の同社で行われた。会場は5−6畳ほどの部屋を模したLOVOT体験スペースが複数あり、ほかに展示スペース、技術含めた解説スペースがある。体験時間は5分間で、待っている間に他のスペースを閲覧する。それぞれのスペースにスタッフが複数いらっしゃって、丁寧に説明していただいた。

展示スペースにはLOVOTがたくさんいる。

キャリーバッグや、きせかえの提案も。

LOVOTはきせかえが前提なので、きせかえグッズもたくさん展示してありました。

 

解説ブースは手書きでのパネルで覆われていました。楽しそうな様子が伝わってきますが、これを見るだけではわからないので、その場にいらっしゃったスタッフのかたたちに聞きながら閲覧しました。生活リズム、とあるのは1回の充電で45分間稼働して15分間充電が必要になります。45分後にネスト(巣)を呼ばれる充電器に自動的に戻り、充電する仕組みとのこと。

体験スペースでは、2台のLOVOTと触れ合えます。名前を呼ぶと近づいてきたり、抱っこしてと両手を上げたりします。

「抱っこして」のときは、近づいてきて両手を上げ、車輪を格納します。移動時は車輪(前輪2つと後輪1つ)が出ています。

 

手前が車輪出て移動している状態。奥は車輪が格納されている。

LOVOTは人が好きで触れ合うためのロボットということで、なにかの「役に立つ」というものではありません。実際の体験でも、名前を呼ぶと来てくれるとか、抱っこするとか、コミュニケーションといっても対話コミュニケーションはほぼない。

そのため、触ったり抱っこしたりといった人と触れる点に多くの工夫が見られました。例えば温度。触れてすぐに気づくのは温かいこと。小さい子供くらいの温度があります(製品版ではもう少し温度を低くすることを検討しているとか)。ロボットのイメージから温かいというのは意外性があり、印象的でした。

一方で、抱っこを前提としていながら、重さがやや重い(3kg台)のが気になりました。人間の赤ちゃんと同じ重さですが、サイズの大きさもあり持ったときによろっとなる。なおaiboは2.2kg。それともう一つ気になったのが角。カメラなどが格納されているということですが、これがないほうが触ったり抱っこしたりするには適しているように思いました。

LOVOT体験会は1月も開催され、事前に予約すれば誰でも体験できる。

コンピューティングの学会が基調講演にバノンを呼び炎上、中止

研究者とその周縁の境界があいまいになり、人々の交流・相互作用が進むのは不可避である一方、異なる多様な価値観を持つ人間の交流は、ポジティブだけでなくネガティブな側面も引き起こす。(研究者はネットに生息する人が多いためか)研究者とその周縁で観測されるいわゆる「炎上」案件もネットで容易に可視化されるようになってきました。先日別の炎上のかおりのする案件の話題からACEの話が出て思い出したので、去年の話ですが以下メモ。

昨年12月に予定されていた、ACE2018というエンターテインメントコンピューティングの国際学会が中止になるという、ちょっとした騒動があった。10月末、ACE2018の基調講演にトランプ大統領の元側近で右派メディア「ブライトバート」を経営するスティーブ・バノン氏が招かれたことが明らかになり、もうひとりの基調講演のスピーカーは辞退、ツイッター上では「#boycottACE」のハッシュタグでボイコットを呼びかける声が広まり、採択された研究者たちも論文取り下げた。以下のWIREDの記事にもあるように、ACE2018でバノン氏を招待したのはACE2018の大会長だ

Why Is Steve Bannon a Keynote Speaker for a Gaming Conference?

 

なお、過去のACEの設立に、エンターテイメントコンピューティング関連の日本の研究者も関わっており、情報処理学会エンターテインメントコンピューティング研究会では、以下のようにACE2018についてツイートしている。

 

結局、11月15日にはACE2018のトップページが更新され、「ACE2018はfanatic left-wing anti-free speech protests(狂信的な左翼の反自由な言論の抗議)によってシャットダウンされた」というメッセージが掲載され、ACE2018は中止となった。

クイーンと大きな物語

ボヘミアン・ラプソディ」を観た。同じ映画館で年末と年明けに2回。どの曲も知っているし、なんなら口ずさめる。周囲の人を気にしながらも、音楽が流れると体が自然に動き出す。


映画『ボヘミアン・ラプソディ』最新予告編が世界同時解禁!

20年前の高校生の頃、クイーンのアルバムを数枚、輸入盤CDで購入した。購入したお店はたまに寄り道するHMVか、ほぼ毎日帰りに寄っていた近所のブックオフで中古だか、とにかく輸入盤CDだった。

バイト禁止の高校生のお小遣いでは1枚3000円以上する国内盤を月に何枚も買うわけにいかず、中高生の頃は自ずと海外の、それも昔の音楽を聴くようになっていた。輸入盤が安かったし、近所のブックオフでは中古CDがたくさんあった。

クイーンを知ったのは何でだったか覚えていないけれど、70年代はこの音楽を抑えないといけない、という、教科書的使命感から、T-REXとかボウイとかを聞いていたのと同じように、片っ端から視聴していた中に当然入っていた。

「70年代はこの音楽を抑えないといけない」という教科書的使命感は、中高大くらいまでの自分のあらゆる消費行動を規定していたし、90年代くらいまでの音楽ではそういった誰もが共有できる評価指標がなんらか、あった。オリコンチャートとか、MTVとか。

大量にある情報の中から選択をするのは、非常にコストがかかる。社会全体が共有している評価指標がある中では、ヒットチャートとかアルバム販売とかライブ動員数といったわかりやすい指標が選択を助けてくれて、自分が好きなものも良いものもわからない中高生の自分には、それらはおおいに助けになった。

クイーンが好きなのか良いのかは未だわからない。ただ、10代の頃に繰り返し繰り返し聴き(多くは勉強中や移動中のながら聴きだけれど)、なんなら意味がわからないままに歌詞もうたえるようになっている耳馴染みのいい曲がたくさんある、ということ。そしてそれを繰り返し聴きたくなる、ということ。

CDアルバムはあれどもプレイヤーがない自宅でも、YoutubeでもAmazon musicでもクイーンの音楽は聴けるし聴いている。でも、「ボヘミアン・ラプソディ」を2回観たのは、ひとえにクイーンの音楽を映画館で聴きたかったからだ。


Queen - Live AID 1985 Full Concert (Best Version) (HD)

もうひとつ、ライブ・エイドの映像に感動するのは、何億人もが同時に共感する共通の音楽への憧れなのかもしれない。誰もが知っている、誰もが口ずさめる、そういった音楽が世の中から消えて久しい。社会は大きな物語を失って、それに変わるものがないままに、私達は自分で自分の物語を作っていくこと、選択していくことを強いられている。それは個人が尊重されている、選択肢が多い(のはいいことだ)とも言える一方で、大変めんどくさい現実だから。

2018年まとめと2019年抱負

年が明けてしまったけれど2018年まとめ。1月に今の会社に転職し、医療関係者向けウェブメディアの編集(と記者)が本業になりました。医療AI(という言葉が私は嫌いなのだけど、「医療現場の課題解決をテクノロジーで解決する」という話だと思っています。要は医療でのIT活用や研究の話)の新しいメディアを立ち上げから編集・運用までやっているので、そちらにかかるエフォートが大きく試行錯誤の一年でした。

医療と(いわゆる)AIについてはここ2〜3年見ているのですが、2018年はプレイヤーが増えたという点でも大きく動きがあった1年でした。一方で技術以外での課題が大きく、そのあたりも含めて冬休み中にもう少しまとめたいなーまとめられたらいいなあ・・・。

ともかく以下、会社外での活動についてまとめます。

AIと倫理、社会

IEEE EADv2WS

いわゆるAIと倫理や社会を議論していくにあたって、現状を整理したいという目的で1〜3月に計6回のワークショップを開催し、レポートをまとめました。IEEEのグループが作成し2017年12月に公開した報告書Ethically Aligned Design(EAD) version2の項目を参照にして12人の講師に講演していただき、議論をしました。

IEEE “Ethically Aligned Design” Workshops in Japan - EADv2 Workshop

EADのversion1は2016年12月に公表されていますが、公表したものをたたき台にしてバージョンを更新し、version3を最終版として2019年に公開する予定です。なお、version1への意見インプットのために2017年にも数回のワークショップを行っています。今回はその流れからversion2の公開に際して企画しましたが、前回とは異なり、version2へのインプットではなくあくまでもEADをインデックスとして使い、現状の事実関係の整理をしたいというのが狙いでした。前回に続き、エマちゃんと企画して実施しています。

前回のversion1のときのワークショップ案内はこちら。

IEEE “Ethically Aligned Design” Workshops in Japan - Workshop In Japan

「情報法制研究」

上述のEADv2WSに関連して、情報法制学会誌「情報法制研究」に報告と考察をエマちゃんが寄稿していまして、以下から読むことができます。

http://alis.or.jp/img/issn2432-9649_vol4_p003.pdf?fbclid=IwAR025jMgqtkenJVUp4QVgyv70U_UCzaHD-uiZFSwnreWqUmQZUOLcgLMC-c

「ジャーナリズム」

AIと社会という観点では、朝日新聞の記者向け媒体「ジャーナリズム」7月号の「AIと社会」特集に「AIでどんな社会をつくりたいか 記者も当事者として議論に参加を」として寄稿させていただきました。

publications.asahi.com

研究者とSF

ディストピアWS

エマちゃんと2−3年前から続けている「ディストピア」の議論のひとつで、研究者など色んなステークホルダーの人たちが、「ディストピア」の社会について議論をするワークショップというものがあります。その3回目として、GWに1泊2日で「作家が研究者にインタビューしてディストピア作品を作るWS」をしました。

一日目にインタビュー、一晩たって次の日のお昼頃に作品を完成、講評というなかなか無理のある企画でしたが、3人の作家と演出家1人によって小説1作品、演劇シナリオ2作品が完成しました。

ディストピア企画」の趣旨は、2017年の人工知能学会全国大会でエマちゃんが発表しています。

jsai2017:4G2-OS-14b-3 人工知能と社会について考える場づくりの実践

なお、「ディストピア」という枠からは少し外れるのですが、研究者×SFという枠組みで引き続き勝手プロジェクトを進めています。アウトプットまでにはもう少し時間がかかりそうですが、ご協力してくださるたくさんの方たちのおかげで面白い企画になりそうで、がんばります。

安全保障とAI

人工知能学会倫理委員会

人工知能学会倫理委員会では、今年の全国大会では安全保障技術とAIに関するセッションを企画しました。

ai-elsi.org

安全保障技術とAIを巡っては倫理委員会では倫理綱領策定にあたり当初から議論に出ていましたが、倫理綱領に何らか言及して盛り込む議論をするには、安全保障についての我々の知識がないために理解が浅いという理由で見送られました。そこで、倫理綱領策定後もたびたび勉強会を開いてきたのですが、そうした中、国連ではLAWSの議論もあり注目が集まりました。そこで、海外の安全保障関連の情報提供として佐藤先生と南さんに講演していただきました。

開催報告は上記の倫理委員会のサイトにも載せていますが、ほぼ同じ内容を人工知能学会誌11月号にも載せています。

【会誌発行】人工知能学会誌 Vol. 33 No. 6 (2018/11) – 人工知能学会 (The Japanese Society for Artificial Intelligence)

なお3年続けた人工知能学会倫理委員ですが、任期ということでめでたく退任したんですが、安全保障とAI関連については、現状の整理をするという点でしばらく取り組んでいきます。クローズドでの勉強会を12月中に2回開催したのですが、年明けから春にかけてももう2−3回は続けていく予定です。

全体的に

2018年は新しいテクノロジー(AIなど)と社会との関連、境界面を見て整理していくという点でこれまでと同じように取り組んできました。一方で、本業の試行錯誤と取られるエフォートが大きく、課外活動が思うようにできなかったのが反省。もっとできたことはあったはず・・・。

2018年の大きな変化としてはこれまでテクノロジーと社会と言った時にステークホルダーとして主に研究者、行政、事業者を見てきたのですが、そこに作家、クリエイターとの関わりに積極的になってきた点。もちろん作家、クリエイターの重要性は以前から理解はしていたのですが、ハードルが高いという思い込みのためになかなか突っ込めていませんでした。ディストピア関連の企画などで関わることはあっても、一緒になにかに取り組むということには及び腰になっていました。研究者×SFの企画をやってみよう、これはできそう!と思って前へ進めるようになったのは大澤さんとの議論が大きいです。議論なのか大澤さんのキャラなのかはわかりませんが。

ということで2019年は引き続き新しいテクノロジーと社会との関連、境界面を見ていきつつ、ここ数年の目標である「定点観測ブイかつ船になる」もあり、当事者として企画を作っていきます。

人が関与せず攻撃するAI兵器の規制は可能か?―国会議員、政府、市民団体、専門家らが議論

 人間の関与なく、敵を攻撃し殺傷する兵器をいかにして規制していくか――。このような「自律型致死兵器システム(LAWS)を呼ばれる兵器の開発・使用の規制に向けた議論が昨年から国連で議論が進められている。こうした中で日本はどのような役割を果たしていくべきか、国際NGOなどと超党派の議員が主催する「キラーロボットのない世界に向けた日本の役割を考える勉強会」の第2回会合が11月20日に開催され、AIやロボット、安全保障の専門家や政府関係者を交えた議論がなされた。 

 LAWSは明確な定義はないが、人間の関与なく目標を攻撃する兵器とされ、現在のところ存在していないものの、今後開発が進み実用化すれば核兵器のような強いインパクトを持つと懸念されている。なお、AIにより自動化された兵器は1990年代ごろからすでに実戦配備されているが、これはLAWSではないとしている。

 2013年ごろから国際人権NGOヒューマン・ライツ・ウォッチなどの国際NGOがLAWS反対キャンペーンを展開してきた。こうした流れを受けて、対人地雷やクラスター爆弾などの規制を進めてきた国連の「特定通常兵器使用禁止制限条約(CCW)」の枠組みで2017年11月から公式の政府専門家会合が開催され、LAWSの開発・使用の規制に向けた議論を進めている。今年4月に開催された第2回政府専門家会合では、オーストラリア、中国、ブラジル、イラクパキスタンなど26カ国がLAWSの禁止を表明した(中国は使用禁止のみ)。


 こうした国連での議論を受け、勉強会の主催団体のひとつであるヒューマン・ライツ・ウォッチの土井香苗氏は「世界ではLAWSは受け入れられないで一致しているが、問題はどのようにしてLAWSのない世界を実現するかだ。我々としては、LAWSの開発・生産・使用を禁止する条約交渉を2019年から国連で開始すべだ」と提案した。


 「キラーロボットのない世界に向けた日本の役割を考える勉強会」はヒューマン・ライツ・ウォッチと遠山氏のほか小野寺五典議員(自民党)、小林史明議員(自民党)、山内康一議員(立憲民主党)、小熊慎司議員(国民民主党)、遠藤敬議員(日本維新の会)、認定NPO法人 難民を助ける会(AAR Japan)、認定NPO法人日本国際ボランティアセンター(JVC)、認定NPO法人ヒューマンライツ・ナウ(HRN)、特定非営利活動法人地雷廃絶日本キャンペーン(JCBL)が主催しており、第1回会合は今年4月に開催された(「「殺人AI兵器にNOを」―超党派の国会議員が議論」を参照)。

www.huffingtonpost.jp


日本政府としては「LAWS開発しない」「兵器利用は人の関与が必須」

 遠山氏はこれまでも国会質疑で日本政府としてのLAWSに対する見解を質問してきたが、勉強会ではまず外務省担当者が「人間が関与しない完全なLAWS開発の意図はない」「兵器を使う場合は人間による関与が必須だ」との日本政府としての見解を確認した。その上で、「人間が全く関与しないようなシステムは禁止されていくべきと考えている。この考え方は今後も国際会議等で主張していく必要があると考えている」(外務省担当者)と説明した。一方で、これまでのCCWの専門家会合の議論では、規制の対象とすべきLAWSの定義が各国で大きな隔たりがあり、共通の認識を得られる状況にないと説明。さらに、規制の枠組みについても「直ちに法的拘束力のある文書の検討を始めるべき」という意見がある一方で、「今の時点では政治的にLAWSに対する宣言を採択してはどうか」という意見があるなど、LAWSに対する対応についても各国の意見の隔たりは大きいという現状を述べた。

 また防衛省担当者も、LAWSに対する政府見解は防衛省も同様だとしたうえで、「人間か関与しない形のLAWSは禁止すべきで、自衛隊でも現存していない。今後開発を行う予定はない」と説明した。

存在しないLAWSをいかに規制するか?

 こうした政府見解を踏まえたうえで、遠山氏のほか、専門家らによる議論がなされた。まず遠山氏は、「LAWSはまだ存在しないものだが、存在しないものを禁止するのは難しい。LAWSの定義付けも合意できていない。LAWSを規制すべきと言うのは、NGOも政府も同じ立場だが、そのために一足飛びに禁止までできないのが現状だ。まだ存在していない兵器を禁止することはできるのだろうか?」と問題提起した。

 これに対し脳科学者の茂木健一郎氏は、「規制することに対しては悲観的だ」と述べた。核ミサイルの防衛システムを例にとり、「人間の関与というのはボタン一つの問題で、包括的に禁止するというよりは、最後の”味付け”の問題だ」として「LAWS」としての禁止が難しいことを説明した。これに対し遠山氏は同意を示したうえで、自身がイージス艦に乗った経験を振り返り、「イージス艦は”AI”をすでに搭載しているが、敵のミサイルが日本に向けて発射される様子をとらえたら人間のその場での判断を介さないで防衛するとなると、LAWSに相当近いシステムになっているのではないか?だからといってイージス艦ミサイル防衛がLAWSに含まれるとなるとすでに存在することになり、日本はLAWSを規制するとは言えなくなる」としたうえで、「ボタン一つの問題と茂木先生はおっしゃったが、すでにそこまで来ている」とした。

 一方、ロボット研究が専門で千葉工業大学未来ロボット技術研究センター所長の古田貴之氏は、LAWSの定義や「人間関与する」としたときの定義を明確にするべきだと主張した。その前提として、LAWSを規制すべきとする理由として「大量殺戮兵器ができた時に、一般市民が巻き込まれるリスク」「戦争が気軽になる簡易性」の2点を挙げ、後者に着目して、LAWSの議論の前提としてAIをベースにするのではなく、「無人で動く殺戮兵器という定義にして、こうした兵器をNGとするとした方が良いのではないか。AIの有無が問題ではなく、ゲームのように気軽に戦争ができるようになることで、戦争を起こすハードルが下がるのが問題なのではないか」と述べた。

 LAWSの定義として言われる「人間が関与しないで攻撃をする」と言う点について、「人間が”どこの段階で”関与しているかが重要だ」とした古田氏に対し、AI研究が専門で慶應義塾大学理工学部教授の栗原聡氏は、「”関与”と言った時に(攻撃をする判断の)トリガーを直接引くことだけでなく、そのAIのプログラムを書くのは人間なので、人間の関与がないわけではない。直接トリガーを引くだけでなく、(プログラムを書くなどして)間接的にトリガーを引く方が楽だ。殺すことの閾値が下がることが問題だと思っている。これは人道的なのだろうか?」と述べた。

 LAWSの技術的な側面について、古田氏は自動走行のレベル分類を例にとり、「同様に、完全自動なのか、人が最終判断を加えるのかなど、技術の点からフェーズ分けをすべきだ」とした。

 これらの議論を踏まえて、これまで国連のCCWでのLAWSに関する専門家会合に日本政府団の一員として参加している、安全保障が専門の拓殖大学教授の佐藤丙午氏は「これまで出た論点はすべてCCWでも出ている。フェーズ分けについては米国が出している論点。米国はCCWでの議論の流れが『LAWSを禁止する・しない』に偏っていて、本来あるべき議論がないことに対して不満を示している」と話した。また、もともとCCWでの議論自体が、人権団体などによるキラーロボット反対のキャンペーンから始まった背景を踏まえ、「規制の議論とキャンペーンのあり方が錯綜しているが、そこは区別して慎重にすべきだ」とくぎを刺した。