科技メモ

テクノロジーと人間について、取材の備忘録とか思ったこととか

「AIご神託」はありかなしか

昨日放送のNHKスペシャル「AIに聞いてみた どうすんのよ!?ニッポン」が、周囲のAIに詳しい専門家の方々に不評だ。非常に不評だ。

www.nhk.or.jp

何が不評か、というと、人が解釈してアジェンダ設定している内容を、「これはAIが提言しているんです。私たちの意見じゃありません。AIがこう言っているんです」という責任放棄をしつつ、提言を押し付けてくる点なんじゃないでしょうか。

ちょっと話が飛ぶと、エセ科学って、「エビデンス」がないわけじゃない。論文を書いたり、学会発表をしたりして、それを「エビデンス」とする。でも本来科学の世界は、論文ひとつはブリックひとつであって、それらをどんどん積み重ねていき、ひとつの家というコンセンサスの得られたエビデンスが形成されていく。だから、論文ひとつではコンセンサスが得られたエビデンスとは言えない。

ところで、エセ科学の人たちや、マーケティングで「サイエンス」を権威付け重み付けとして使う人たちは、そうしたコンセンサスの得られていないエビデンスをもっても、「こうしたエビデンスがある」として商品やサービスのマーケティングをする。

AIご神託って、そういうマーケティングのためのエビデンス至上主義と近い気がするのよね。

それを言っている、提言しているのは特定の人間で、その責任をAIという人間以外に負わせる形で、権威付け重み付けをする上に責任回避までしている。

もちろん、データに基づいた意志決定・政策決定は必要で、むしろこの国ではそれが行われてこなかったことが異常な自体だった。だが、アジェンダをどう設定するか、データを選別すること、何をどう解析するか、その結果をどう解釈するか、そこにはすべて人の手が入る。それを、「AIがこう言っている」というAIご神託になってしまうと、それはデータに基づいた意志決定ではなく、特定の人間の意志や見解を重み付けするためのデータ分析の活用という本末転倒になってしまう。

AIご神託が悪いと言っているわけじゃない。そもそも宗教と政治はまさにそうして政策決定をしてきたわけだから。

ただ今回のNスペは、「AI」という権威をたてにして特定の人(びと)が提言をすることの懸念や危機感を考えるにはよい機会だったんじゃないでしょーか。

ところで、NHKが独自開発したAIという触れ込みなので、AIって何?と思ったら番組サイトにはこうある。

東京大学・坂田一郎教授、京都大学・柴田悠准教授など、様々な研究者のアドバイスを受けながらNHKが独自に開発した「社会問題解決型AI」です。学習させたのは、経済産業省総務省などの公的な統計データから、ハンバーガー店やラーメン店の数といった民間のデータ、さらには20代から80代までの個人を10年以上追跡している大学や研究機関の調査など700万を超えるデータです。
番組で紹介する"社会構造のネットワーク"は、膨大なデータの中から特徴を見つけ出すことができる「パターン認識」や「機械学習」という手法を用い、さらに、WikipediaNHKのニュース原稿など、100万本を超える記事を「ディープラーニング」によって学習させることで、社会に関する5000もの情報の「近さ」や「つながり」を描き出した図です。数値的な振る舞いがただ「似ている」だけなく、現実世界で私たちが共に語る"近しい関係"といった概念もネットワークには色濃く反映されています。そのため、明らかに相関のないものがつながることもあります。
AIは、残念ながら因果関係は提示してくれません。このネットワーク構造を人間が読み解き議論することで、社会問題の背景を考え、解決の糸口を探ろうというのが番組の趣旨です。番組で紹介した"AIの提言"は、このような形で、AIが出してきた分析結果を人間が読み解き平易な言葉で表したものです。

これって数年前ならビッグデータ解析と呼ばれていたやつですね。そういえばビッグデータという単語をここ数年は全く聞かなくなりました。何でもかんでもAIって言うようになったから。

データ分析から相関関係をネットワーク化させるのはよく見かける手法です。ただし、擬似相関があるので、一見相関関係があったからといってそれだけで考察はできない。また、相関関係と因果関係はことなり、相関関係だけから因果関係については何も言えない。

この番組では相関関係があっても因果関係を提示しないということを言いながらも、人の解釈を入れた提言を「AIの提言」としているところに、うーん、となったわけです。。。

 

第二フェーズ

「倫理委員会」という委員会名は適切ではないのかもしれないという議論は常にある。実際、数年前にこの委員会が設置されたときには、別の名称も検討されていたという。それでも、「倫理」という単語を入れたことで、誤解をされながらも様々な人から関心を持たれやすくはなった。それは、色んな人達と対話をするために、という委員会の趣旨からしたら、願ったり叶ったりの方向だった。

医療系などで倫理委員会というと、倫理規定に即しているかどうかを判断する場という位置づけが強い。ところが、私たちの倫理委員会はそうした判断をするものではない。倫理規定に相当するものも当初は持たなかったし、全員でざっくばらんな議論をして構成的に作り上げていく場だった。

「倫理委員会」なのに委員に倫理の専門家がいないというご批判を受けることがある。倫理の専門家のご意見を伺うことはある。だが委員にはいなくてもかまわないと私は個人的に思っている。いてもいいけれど。

倫理の専門家はいなくても、多様な分野を専門とする多様な顔ぶれが集まっている。それぞれの専門家が、人工知能と倫理について議論をするという場になっている。

委員会ができて2年半ほど、私が参加して2年弱。数ヶ月前に、ひとつの目標としていた倫理指針の公開にこぎつけた。そもそも、倫理指針の作成をアジェンダ設定とするところから議論を始めた。なので実質倫理指針の作成にかかっていたのは1年ほどだった。

いずれにしても、第一フェーズが終わり、第二フェーズをどうするかという段階に来ていた。とはいっても、活動をしていると自ずとアジェンダが形成されてくるもので、倫理指針を公開したころには、すでに次のアジェンダとなるものの原型が見えてきていた。それをもっとくっきりさせて積極的に進めていく、というのがひとつのあり方で、今のところそちらへ進もうとしている。

今後の進め方として、私はここが、誰もが人工知能と倫理について議論するためのコミュニティを形成する場になればいいと思っている。もちろん意志決定をするためのコアは持つべきなので固定の委員は必要だけれど、コア以外はゆるくオープンにつながる仕組みがあるといいと思っている。メインには情報共有を、そして議論ができる場を、そこから人のネットワークが形成されていけばいいと思っている。

もやもやを抱えている人、課題を抱えている人、もしかしたらそれ自体が何か別の解決策になるかもしれない人、何かひとこと言いたい人、そういう人たちがどんどん入ってきて、場が合えばそこにとどまり、合わなければ通過していく、そういうゆるい場ができればいいと思っている。

というのは、実際、私がその委員会に入るきっかけは、そんなところだったからだ。飲み会で言いたいことを言った、記事を書いた。それでじゃあ委員をやって、と言われた。言いたいことがあるならやって、とばかりに。

でもそこで2年近くで、ルーチンではなくて、議論をする中から当初は想定もしていなかったアウトプットが出来、更に周辺環境が形成されていった。これはとてもおもしろい。

さて第二フェーズだ。

「挑む! 科学を拓く28人」(日経サイエンス編集部 編、日本経済新聞社)

日経サイエンスの巻頭インタビュー連載「フロントランナー 挑む」に2014年〜2017年前半の間に掲載された中から28本をまとめて編集した本が明日発売されます。

www.nikkei-science.com

 

「挑む」はその分野のトップ研究者にインタビューをしてまとめる「人もの記事」で、研究成果とその背景、生い立ち、今後の取り組みについて書く中で、その分野の最新動向についてもわかるようにまとめています。私はこの中では松尾先生(AI)、萩谷先生(DNAコンピュータ)、武部先生(再生医療)、江面先生(ゲノム編集)を書いてます。

書籍化にあたって、分野ごとに編集されているので、人ものを読みながらもその分野で何が話題になっているかも追いやすいんじゃないでしょうか。1冊読むとかなりお腹いっぱいになると思います。もともと文字数制限が厳しい雑誌向けの記事なので、コンパクトにぎゅっと詰まって読みやすいと思います。

人もの記事は書くのも読むのも好きです。

メディカルジャーナリズム勉強会

先日、メディカルジャーナリズム勉強会へ行ってきました。市川さんが主催する勉強会です。今回が5回目ということでしたが、私は初参加でした。

主にメディア関係者と医療関係者からなる勉強会です。医療健康情報をめぐっては、WELQ問題のように必ずしも正しいとは言えない情報が流通しているのが現状です。医療を正しく、必要な人にちゃんととどくように。もちろんほとんどのメディア関係者も医療関係者もそう思って日々仕事をしていますが、世の中はみんなそういう人ばかりではないのですね。

医療情報は人の命に関わるものなので、こうした問題提起は何も今始まったわけではなくて、ずっと色んな人たちが議論してきました。私も先輩が関わっているメディアドクター研究会に何度か参加をしたことがあります。ここでは新聞などのマスコミ報道をテーマに研究会でみんなが議論をするという会です。

こういう枠組みづくり、場作りそのものに、特に興味があります。

歩きながらVR体験をするとVR酔いになりにくい

VR体験ではかぶらないといけないHMD(ヘッドマウントディスプレイ)。だいたい数分で耐えられないほど疲れるし、気分が悪くなります。HMDは重いし、酔うし、疲れるのです。(ついでに女性にとっては髪の毛が乱れる、化粧が落ちるという欠点もあります。私は髪も化粧もいつも適当なので別にいいけど)

VRそのものは好きなので体験したいが、身体的な負担が大きくて長時間無理、できればHMDかぶりたくない、というジレンマにいつも陥っています。

ところが、HMDを付けながら歩き回るコンテンツを先日体験して、酔わないし疲れないしで、びっくりした。5分くらいのコンテンツでしたが、終わった時に、え、もう終わりなの?まだ全然大丈夫だよ、って思いました

このコンテンツでは数メートル四方の部屋の中を、HMDとヘッドフォンをつけて、PCをリュックのように背負って、さらに左手にランタンを持ち、右手で輪っかを持ってペアの人と一緒に歩きます。その輪っかは2人手持ちます。

こうしたウォークスルー型の体験だと、HMDの身体的負荷をあまり感じないようです。多くのVR体験ではHMDとPCを接続する関係から、あまり広範囲に動き回ることがありません。一方、PCを背負って自由に動き回れると、ぜんぜん違う体験になります。

 

こちらは赤坂BLITZで体験できます。

赤坂サカス|デリシャカス2017 GOURMET & FUTURE TV

 

そういえば、以前、


Unlimited Corridor

でもあまり気持ち悪くなりませんでした。身体ってすごい。

 

勉強会と人狼会

先日KOMADで勉強会と人狼会をやりました。勉強会は、エマちゃんが先月出張してきたIEEE-SEASの報告会。

IEEE “Ethically Aligned Design, Version 1” Workshops in Japan - A report on Attending The IEEE SEAS Conference

その後、人狼会をやりました。人狼会というのは、ただ人狼をする会です。

先々月の人工知能学会全国大会でとりとりさんに人狼をやりたい、と言ったところ、じゃあ企画してとなり、企画をしました。去年、謎研究会のあとの懇親会で人狼をする会を2回ほどしまして、ただうるさすぎてお店に迷惑がかけるという難点から、飲み会じゃなくて、ちゃんと人狼だけをやる会をやろう、となったのでした。

人狼知能の方たちを中心に情報系研究者、それと人狼好き法学クラスタの皆様10数人が集まりました。それとKOMADにいた学生さん捕まえて。

せっかくおもしろい友人たちが集まるなら、ということで最初にそれぞれ10分ずつくらいとりとりさん、おおさわさん、ひでまんさんに話題提供をしてもらいました。人狼と研究について。

その後人狼。たのしかった!感想戦もおもしろかったです。

次は法クラ人狼会にお邪魔することにしました。

 

 

半歩先

一歩先や二歩先ではだめなんだよね。半歩先じゃないと。

ジャーナリストである友人が言ったそのひとことについて考えている。

彼女が言うのは、多くの人の共感を得て、人を、社会を動かしていく。そのためには、今目先のことではもう遅い、一歩先や二歩先では早すぎる、現状から半歩先くらいのアジェンダを書く、という話だ。

現状から半歩先を書くというのは、今はまだ言語化されてはいなくても多くの人がもやもやと感じていること、それを言語化して可視化していくということだ。1−2年後くらいにはそのことについて多くの人が関心を持って議論している、それを今書く。そうしてアジェンダ形成に関わっていく。

半歩先、というのが重要だ。一歩先でも二歩先でも共感を得ない。5年の、10年後に確実にそれが問題になると言っても、多くの人の共感を得ない。

科学技術の話を書く時の難しさはそこで、1〜2年後の社会に影響を与える科学技術というのは、すでに開発段階で社会実装されているものだ。それはすでにプロダクトでありサービスであり、研究の段階ではない。科学技術の話を書くのは未来の話。そこに当事者意識を持って共感を得るのは難しいが、その中で半歩先になりうる切り口を探す。

半歩先を書く。そうしてアジェンダ形成につなげる。メディアとしてはそれは重要なこと。ただし、科学技術の研究そのものは、必ずしもそこを見てはいけないのだと思う。

久しぶりに自分のウェブサイトを作った

自分のウェブサイトを作りました。

https://sites.google.com/view/katsuenagakura/

ここ最近いろいろなことに手を出しすぎていて、いったい自分は何をやっているのかなーと最近の活動や、自分の関心に沿って書いた記事を書いだしてみたら、案外一貫性があったので、せっかくなら自己紹介サイトを作ることにしました。

以前はwordpressで作っていて、まだドメインレンタルサーバーもそのままにしているからwordpressで作ろうかと思っていましたが、ちょっと前にイベントサイトをグーグルサイトでつくった所、インターフェイスがとても使いやすくなっていたのでこっちで作ることにしました。

仕事をしている中での問題意識や人との繋がりから生まれた、でも本業とはちょっとそれた、でも何か仕事につながるかもしれない、そういうはぐれものの活動をいくつかやっています。そういう活動がここ数年徐々に増えてきました。そういう活動のかけらをまず集めています。

もうひとつは、科学記者やライターとして書いた記事の中でも、もともと関心があって書いたもの、もしくは降ってきたけれど進めていくうちに関心につながったもの、そういう記事の一覧を集めました。

仕事は、自分の関心じゃないこともたくさんやります。もちろんその中から、あ、おもしろい、と自分の関心になることもまた、たくさんあります。そういう中から、自分の関心にあうものを集めていくことで、次へと進む指針にもなるのかなあと思った次第です。

それと、自分の関心って、自分の中からは生まれてこない。人との関わり、相互作用から生まれてくる。そうして、これが自分の関心だ、と言えるなにかになる。そういう人との相互作用のためにも、今の自分はこういうことに関心がある、ということを表明しておくことには、次の対話や相互作用のために良いのかなという狙いもあります。

本当は、自己紹介とか自分のことを表明するのがめちゃめちゃ苦手で嫌なんだけど。

情報大航海プロジェクトは情報大後悔プロジェクトだった(のかも)

10年前、経産省の「情報大航海プロジェクト」という研究開発プロジェクトを取材していた。3年間で予算150億円、企業が主体となり研究開発と社会実装を進めるということでまあまあ話題になった。

プロジェクト開始2006年はGoogleが巨大化しつつある時期だ。そこで情報大航海プロジェクトは「日の丸検索エンジン」開発プロジェクトとも呼ばれていたが、実際は情報提示の最適化、当時各社がさかんに使っていた単語で言えば「リコメンドエンジン」開発というのが多かった。つまり、今では当たり前の情報提示のパーソナライズだ。検索から買い物、ニュース、広告など今やなんでもかんでも実装されている。

ただ当時取材していた記者1年目の素人の私は、「それあって嬉しいか?」って思っていた。素人のいち利用者として。

もちろん、企業側としては情報提示をパーソナライズすることで利用者にサービスに対してアディクテッドな状態にして、囲い込むのはビジネスモデルとしてリーズナブルだし、当然の戦略だということは理解していた。でも、利用者としては、いやまあああれば便利だろうけれど、いやなくてもいいし、っていうか全然ワクワクしないし魅力的じゃないんだよなあ・・・って思っていた。ディストピア感しかただよってなくてさ。

ビジネスモデルとして猫も杓子もパーソナライズを進めた結果、今となっては立派なフィルターバブルという社会課題が生み出されたし、そこをベースにフェイクニュース拡散の一因にはなるし、post-truth時代なんて呼ばれるようになってしまった。もちろんそれらの原因はパーソナライズだけではないにしても、みんなが一斉にひたそちらに走ったのは、見逃せない重要な原因のひとつだ。

いまひとつ反省するのは、どのみち素人新人KY記者だったんだから、思ったこと率直に書いておけば良かったなーと。

プロジェクト終了付近には「情報大航海プロジェクトは情報大後悔プロジェクトだった」と揶揄する声も少なくなかったが、それは主にこのプロジェクトに投資された税金によって企業が実証実験を行った研究開発の結果、社会実装にどれだけつながっているのか見えなかったからだ。実際、GAFAといった海外巨大IT企業にボロ負けの状況が悪化している現状を鑑みれば、その通りなんだけど。

でも、それ以上に大後悔なのは、どのみち海外から遅れを取っていたんだから、GAFAがみんなやっていたパーソナライズ以外のオルタナティブを模索しておくべきだったんじゃないのかなあと今なら言える。今言ってもしょうがないけど。

ちなみに、このプロジェクトの経産省担当課の課長の八尋さんはソニーから転職して経産省で管理職についた方で、その経歴がまたちょっと話題にはなっていた。ちなみに八尋さんはプロジェクト終了から数年後に経産省を退職し、情報大航海プロジェクトの事務局を務めた日立コンサルティングの役員になられた。いろいろわかりやすい。

味覚の麻婆豆腐

ランチに新橋の味覚へ。激辛麻婆豆腐が食べたくてずっと行ってみたかったが機会がなく、新橋を通りかかった時にお昼だったのでひとりでふらりと地下の店舗へ。

激辛を頼もうとしたら、「残したら500円追加料金だよ」と言われて、中辛にしました。日和りました。

熱々で辛かったけれど、とろみちゃん(片栗粉)的なトロトロ感が過多なのと、中国山椒の効きが悪く、いまいち。

川国志の激辛中国山椒たっぷり麻婆豆腐に舌が慣れてしまったので、あの刺激を求めてしまうんだなあ。。。

第1回AI・人工知能EXPOに行ってきました

いろいろな意味で話題の第1回AI・人工知能EXPOに行ってきました。AI・人工知能って人工知能人工知能かよ。第何回まで続くんでしょうか。とりあえず来年のブースはほぼ完売していたようなので第2回はあるみたいです。もちろんコンシューマ向けではなく、商談のための展示会です。

とりあえず大混雑で、身動きをとるのが大変でした。混雑した場所が苦手なので吐きそうになりました。

AI・人工知能といっても、そもそも今の人工知能ブームの本質といっていいディープラーニングについての出展よりも、チャットボット系が目立っていました。何でもかんでも人工知能と名付け、そこに大量のビジネスマンがむらがる様にブームを感じとることができました。まあそれだけでも行ってよかったかな。

一方で、併設していたコンテンツ東京では、AR/VRの出展が目立っていました。HMDなどのデバイスはだいたい出揃っているので、あとはコンテンツやアプリケーションです。デバイスではパナソニックHMDを出展していたのが興味がありましたが、体験が長蛇の列で断念。

東京五輪ビッグサイトが使えなくなることの弊害を憂うかもめから。

 

「信じてはいけない 民主主義を壊すフェイクニュースの正体」(平和博、朝日新書)

 

信じてはいけない 民主主義を壊すフェイクニュースの正体 (朝日新書)
 

 昨年の米大統領選挙で問題となったフェイクニュース。朝日新聞記者の平さんは、個人ブログ「新聞紙学的」で、米大統領選をめぐるフェイクニュースの現状、それに関連した国内外の動きを追っていた。それらをまとめた大幅に加筆したのが本書だ。

kaztaira.wordpress.com

主にアメリカにおけるフェイクニュースの現状とその背景、それらに対する対応といった今知っておくべきことがまとまっている。日本の報道ではなかなかわかりづらい、アメリカを中心とする海外の動向が詳しい。

フェイクニュースが政治や社会を動かすほどに存在感を増す背景にあるひとつが、インターネットというインフラだ。だが、こうした問題は何も今突然出てきたわけではない。

本書でもたびたび引用されるが、アメリカの政治学者、キャス・サンスティーンは、2001年の著書「インターネットは民主主義の敵か」で、メディア空間の分断と、真偽不明な情報の氾濫の影響をすでに指摘している。

「インターネットの父」ティム・バーナーズ=リーは今年3月に来日して行った講演で、分散型から中央集約型になりつつあるネットの現状において、合わせて個人情報の扱い、フェイクニュースへの懸念を示したが、10年以上前から警鐘を鳴らしてきたという。

今後克服していくためにも、まずは現状把握が必要であり、本書はその大きな助けになる。

 

人工知能と安全保障技術研究ーその議論の素地を作っていく

日本では安全保障に関連する技術の研究や開発ー「軍事研究」と呼ばれることもあるーについて、イデオロギーなしでフラットに議論ができないものか、っていうか議論したいということを前に書きました。

kaetn.hatenablog.com

同じように感じている人は私の周りの研究者やメディア関係者にはちらほらいて、そういう人たちとよく一緒に議論をしています。

こういうことを言っていると、あなたは記者なんだからあなたが書けばいいと、よく言われます。

それについては、前に弊誌でも書いたけれど、そもそも議論がないので、取材ができないという問題があります。議論があるところはイデオロギー論争をしている。私が知りたいのは、実際に手と頭を動かしている、工学系や情報系の研究者がどう考え、具体的にどうしているか、今後どうしていくかです。

dot.asahi.com

議論がないから取材ができない。取材ができないと記事が書けない。そうするとますます議論にならない。

ならば、ないなら作ればいい。と、工学系や情報系の研究者の人たちと議論の場のための素地をつくろうと、ここのところ畑を耕しています。工学系や情報系の研究者の方たちと、安全保障技術をめぐる国内外の現状について、クローズドで勉強会をするとか、議論をするとか。

少しずつ種も蒔いています。

そのひとつが、先月の人工知能学会全国大会での倫理委員会の公開討論です。エマちゃんと2人で企画したこの公開討論で、AWS(Autonomous Weapon Systems)の議論をすることを念頭に置きました。

なお、公開討論のレポートは↓

ai-elsi.org

これに関連して、日経コンピュータの浅川さんが先日、以下の記事を書かれました。

itpro.nikkeibp.co.jp

倫理委員会の公開討論のほかに、中で出てくるIEEEのワークショップもまたエマちゃんと一緒に企画と運営をしたものです。ちなみに、浅川さんはワークショップにも来ていただいてありがたい。

ワークショップの詳細はこちら。このワークショップは、倫理に配慮した人工知能の設計についてのIEEEのレポートへのインプットのための意見抽出が目的でしたが、8項目のうちもっとも議論になったのが、AWSの項目でした。なお、このページの一番下にはレポートもあります。

IEEE “Ethically Aligned Design, Version 1” Workshops in Japan - Workshop In Japan

こうやって少しずつでも議論の素地を作っていければなあと思っています。

最良の友は犬か猫か

先週の大特集は、犬と猫の特集でした。冒頭のトップストーリーと匿名座談会のページを担当して、記事はウェブでも公開されています。

dot.asahi.com

dot.asahi.com

犬か猫か論争はきのこたけのこ戦争並に永遠に噛み合わない論争なので、どちらかの陣営に与することはよろしくないと思いつつも、私は断然犬派です。正確に言えばレオナルド派。実家で飼っていた今は亡きゴールデン・レトリバーのレオナルドが一番なのです。犬とか猫とか犬種とか以前に、レオナルド。

f:id:katsue-nagakura:20170624153653j:plain

とてもかしこい子でした。

 

 

辛いもの

また川国志。取材の後に。

情報系研究者は、四川好きが多い。取材のあと、打ち合わせのあと、イベントの懇親会、普通に飲み会・・・。何かにつけて四川を食べに行くのに付いていきます。辛いの好き。

もともと辛いもの好きだったのが幸いして、すっかり中毒。

ただし、世の中には2種類の人間がいる。四川が好きな人と、四川がダメな人だ。エマちゃんは残念なことに四川がダメなのだ。これだけはとても残念です。