AAAIのAIと倫理・社会の会議（AIES）に参加してきた
ニューヨークで2月7〜12日に開催されたAAAI-20に併設して、2月7日～8日に同じ会場で開かれたThird AAAI/ACM Conference on Artificial Intelligence, Ethics, and Society (AIES 2020)に参加しました。いつものような学会取材ではなく、エマちゃんとたくせんさんとやっているプロジェクトの論文が採択されたのでその発表のために３人で行ってきました（発表したのはエマちゃん）。AIESはAAAIとACMが主催しているとはいえ社会科学分野の専門家の方たちの発表が多く、内容も多岐にわたっており、なんでもありのるつぼ感がありました（実験などの自然科学系の論文発表形式に慣れた身としては、人文系の発表は単語もわからないし何が新しいのかもわかりにくいし難しかった）。多様な分野からの参加者が多いというのは、特に米英ではAIの倫理や社会の研究に予算と人が流れているようで、これらの一専門分野が形成されつつあるように感じました。忘れないうち簡単にAIESのメモを。
情報系のほか人文系も、高い女性比率
AIESはAAAIの中でもAIの倫理や社会に特化したセッションで、今年で3回目の開催。投稿は211本あり査読を経て、ペーパー発表が35本、ポスター発表（とスポットライト発表）が37本採択されました。200人くらいの規模のメイン会場1ヶ所とポスター用のその隣室で、2日間にわたってキーノート、ペーパー発表、ポスター発表（とそのスポットライトの発表）が。AAAIは情報系である一方で、AIESは情報系だけでなく法学、社会学、心理学など人文社会科学系の発表者が多いようだ。そのためか情報系のカンファレンスにしては女性比率が高く、会場の3分の1位は女性。年齢層も若手・中堅が中心。ペーパーもポスターも質疑・議論が活発だった。
ペーパー発表は15分のプレゼン、ポスター発表は2分のスポットライト発表後にそれぞれのポスターの前で説明するという流れ。ペーパー発表のセッションは「FAIRNESS」「EXPLANATION」「ETHICS ON THE SURFACE」「FUTURE OF WORK」「FAIRNESS AND VALUE ALIGMENT」「POLICY AND GOVERNANCE」「AI PAST AND FUTURE」に分かれており、このうち「FIARNESS」は2セッションあったので計8セッション。
ここ数年、「AI倫理」はバズワード化していて、AIの倫理や社会の話題はそれぞれで視点も問題意識もバラバラで、なんだかよくわからないことも少なくないけれど（AI＝IT、デジタルとした議論も散見されますが。まあいいけれど）、今回のAIESではAI＝機械学習として、その社会導入に際しての課題や配慮する点、またそれらを克服するための技術の提案などの発表が多く見られました。
顔画像認識の利用における課題、ブラックボックス問題への対応
最も目立っていたのが顔画像認識の利用における課題とその解決に向けた提案。機械学習による顔画像認識では、学習データの偏りのために人種や性別によってその認識精度が異なることが以前から課題になっており、こうした顔画像認識技術を適切に利用するためにはどうすべきかという課題に対して、制度やルールによるものから技術による解決まで様々な提案がなされていた。
顔画像認識でちょっと異色でかつ流行りのテーマを盛り込んでいて興味深かったのが、清華大学の研究グループによる発表で、医療用に患者動画を利用する際にプライバシーに配慮するために顔画像認識とディープフェイクを組み合わせて、患者の顔をフェイク画像に切り替えるというもの。ところで発表者は無事中国から米国に入国できたのかしら？と気になったが、ちゃんと発表していたので入国制限前から渡米していたのかしら？？（なおAAAI全体では約4000人が参加登録したが、800人はコロナウイルス関連またはVISAの関連で参加できなかったとのこと）。
機械学習のブラックボックス問題と説明可能AIも一大テーマ。機械学習ではデータを学習させてパラメータを調整しているため、結果を出してもその結果を出した理由を説明できない「ブラックボックス性」が問題視されており、技術的には説明可能なAI（Explanable AI, XAI）の開発がひとつのトピックスとなっている。AIESでもブラックボックス問題に対して技術面から解決を試みる提案がいくつかあった。
AI導入による労働への影響を、タスクごとに評価する
AI導入による労働などへの影響もまたよく議論される話題ですが、そのまんま労働に関するセッションもありました。MITのグループが複数発表していたが、中でもMIT-IBM Watson AI Labによる「Learning Occupational Task-Shares Dynamics for the Future of Work」では、職種ではなくタスクごとに、画像認識や自然言語処理といったそれぞれのAI技術の影響を詳細に見ていて興味深かった（論文はここから読める）。
AIの労働への影響は、2015年にハーバード大学のオズボーンらが出した報告書が当時話題になった。オズボーンらの報告書では、職業別にAI影響を見ていたが、現実的には職業全体が影響を受けるというよりは、タスクが影響を受けるのだし、AIと一言で言っても、具体的な技術によって影響を受けるタスクも変わる。AIというのは結局は自動化による効率化・最適化に過ぎないので、どのタスクをどの技術によってどの程度自動化し、それによりどの程度効率化・最適化されるかというのを詳細に見ていくのはとても合理的だし納得がいった。
世界中で作られるAI倫理の報告書
AI倫理が話題になったのは、2015年ごろからだった。2016年ごろからは政府機関や大学などの様々な国や組織・団体が、AI倫理についての報告書を次々と出し、最近では企業も出すようになってきた。こうした大量に出ているAI倫理に関する報告書をレビューした発表もあった。「What’s Next for AI Ethics, Policy, and Governance? A Global Overview」では、2016年以降に20以上の国で出された100以上のAI倫理に関する報告書について分析。
また「Policy versus Practice: Conceptions of Artificial Intelligence」では、政策文書に出てくるAIを調べた上で、AI研究者にアンケートを取り、政策文書に出てくるAIとAI研究との乖離について報告している。中でも、政策文書ではAIの定義として「human like」としているものが多いが、これはAI研究者の考えからもかけ離れていて問題視するとしていた。たしかに、社会導入にあたっての現実的な技術としてのAIを考えると、事実上は機械学習なのだから、これをhuman likeとするのは違和感がある。
AIと倫理や社会についての一研究領域が形成されつつある
学会というのは特定の専門領域の研究者が集まるコミュニティだが、AI倫理や社会は既存の研究領域ではないので、情報系にしても社会学にしても心理学にしても、これまでそれぞれの専門領域で研究をしてきた研究者たちが、AIと倫理や社会について新たに開拓をしているという状態なのだと認識しています。そのため、ペーパーとポスターを合わせて70以上の今回の発表でも、分野も内容も多岐に富み、玉石混交とも言えるかもしれません。
一方で、武田先生が指摘していてなるほどと思ったのが、博士課程の学生による発表も多く、ということはPhDを取ることを想定した発表をAIESに出しているということなので、研究として成り立っている。また、AIと倫理や社会をテーマにした研究で研究費が獲得できるということも意味しています。発表は米英が多く、ここ数年で特に米英ではこの分野に予算と人が流れて混んできているのかもしれません。
日本からの採択は私たちの発表のみで（1回目から参加しているJSTの方曰く、これまでも日本の発表は採択されておらず初では？とのこと）、マイナーな会議なのでそもそも存在をあまり知られていないとはいえ、米英と比べると日本ではこの領域に予算も人もそれほど集まっていないんだなあというのは、まあ実感通りです。
そもそも米英でこの分野に関心が集まるのは、人種や経済格差などの社会のまだらさの程度がもともと大きいこと、情報開示や議論といった民主主義の成立のためのたゆまぬ努力をすること、という土壌がそもそもあるので、機械学習の社会実装を進めていくにあたり、アルゴリズムの公平性やアカウンタビリティ、透明性などが問題として浮上しやすいかならなのだと思います。機械学習の安易な利用は、何も対処しなければ格差や偏り、人の偏見を強化する方向に向かうので、もともと格差や偏りがある社会、またそれらを是正しようとする社会においては、その具体的な対処法としての「AIと倫理や社会」について知見を深めていく必要があるのでしょう。これまでこうした問題に真っ向から向き合う緊急性がそれほどなかった日本人は幸せなのか平和ボケなのかその結果何も考えない無能状態になっているのかよくわかりませんが、ちゃんと向き合っていく訓練も必要だし、まあなによりこの辺の議論や取り組みは見ていて面白いなあと思いました。
「表現の自由」炎上を巡る、大島さんの4分類
「あいトリ」「宇崎ちゃん」「東大最年少准教授」のネット炎上をして、2019年三大「表現の自由」炎上と、とりとりさん曰く。「表現の自由」とネット炎上が話題になることがここ数年増えたけれど、その内容や「炎上」の種類もそれぞればらばらで、一言に「表現の自由」とか「炎上」とかでくくるのはどうなんだろうか、と思っていたところ、弁護士の大島さんが「表現の自由」炎上の問題を分類されていて、大変興味深かったです。
昨日、弁護士の大島さん（ばべるさん）の講演「表現の自由と適切な行政手続きを考える」を聞きに行ってきました。大島さんは2009年に弁護士登録、弁護士の仕事を経て2012〜14年に消費者庁で情報公開請求などを担当。今は長谷川法律事務所で市民の行政訴訟などを担当している。「憲法ガール」などの著作でも知られる。
まず大島さんは、「表現の自由」を巡る2014〜2019年の「炎上」事例を紹介。2014年5月「妹ぱらだいす！２」事件は、2011年の東京都青少年の健全な育成に関する条例改正で追加された近親相姦に関する基準（新基準）が初めて適用され、「妹ぱらだいす！２」が不健全図書指定されたもの。指定によってはゾーニングが義務付けられるだけだが、出版社は自主回収し、Kindleからも削除されるなど、自主規制が起きた。
新基準適用による不健全図書指定について大島さんが情報公開請求したところ、指定図書を選ぶ都の会議では、「妹ぱらだいす！２」を指定非該当としたメンバが、該当としたメンバを上回っていたが、それにも関わらず会議では「指定該当」との答申をしたという。
2015年の事例では、三重県志摩市の萌キャラ「碧志摩メグ」問題と、岐阜県美濃加茂市コラボポスター「のうりん！」問題を取り上げた。「碧志摩メグ」は志摩市PRのための公認キャラクターだったが、性的に強調されすぎなどとして批判が集まり、11月には公認を撤回し、以降は非公認キャラとして活動している。一方の美濃加茂市の「のうりん！」コラボポスターは、胸元が強調されすぎなどとして批判され、修正した新しいポスターが作られた。
2016年は10月に起きた東京メトロの公式キャラクター「駅乃みちか」問題を紹介。萌え絵化した際にスカートが透けているなど批判され、画像を修正する自体となった。2017年7月には「ゆらぎ荘の幽奈さん」のジャンプ31巻巻頭カラーで「露骨なポルノ描写」などとして批判された。2018年3月には研究書である「エロマンガ表現史」が北海道青少年健全育成条例の規定により有害図書類に指定された。学術書の類が有害図書類指定されたことで、物議を醸したという。2018年10月、NHKのノーベル賞解説サイトで聞き手役としてVTuber「キズナアイ」が起用されたことが批判された。
大島さんは、「2019年は表現の自由の抑圧が注目された年」として、8月のあいちトリエンナーレ「表現の不自由展・その後」問題、10月の「宇崎ちゃん」献血コラボポスター問題、11月の「宮本から君へ」問題、11月の「娘の友達」問題、11月の「秋葉原アダルトゲーム大型屋外広告」問題を取り上げた。「あいトリ」「宮本から君へ」はそれぞれ、公的な助成金が決定または内定していたにもかかわらずそれらが取り消しとなった。「秋葉原アダルトゲーム大型屋外広告」では女性キャラの露出が大きいなどとして都民からの電話申し出があり、東京都と千代田区が実地調査を行い、店舗が自主的に広告を撤去したとされたが、行政過程の不透明さが問題視されたという。「娘の友達」は、アラフォー男性と女子高生の「年の差恋愛」を描く内容が「犯罪を助長する」などとして連載中止を求める声がネット上であがった。「通常問題とされたこなかったこうした作品も問題にされた」と大島さん。
これらは、問題の内容も性質も異なる。大島さんはこれら「表現の自由」を巡る問題を、「公権力による規制」「公権力による助成の撤回」「公権力による公認等の表示の撤回」「私人による表現物への批判」の４つに分類。これまでの事例を当てはめると以下のようになる。
- 「公権力による規制」：有害図書指定、屋外広告物規制等。「妹ぱらだいす！２」問題、「エロマンガ表現史」問題。「秋葉原アダルトゲーム大型屋外広告」問題。
- 「公権力による助成の撤回」：補助金不交付。「あいトリ」問題、「宮本から君へ」問題。
- 「公権力による公認等の表示の撤回」：「碧志摩メグ」問題、「のうりん！」問題。「駅乃みちか」問題。
- 「私人による表現物への批判」：「キズナアイ」問題。「宇崎ちゃん」問題。「ゆらぎ荘の幽奈さん」問題。「娘の友達」問題。
大島さんはこれらの分類の上で、2014〜19年の間に問題パターンが変化、「公権力の直接的な規制が問題になっていたが、今は公権力だけでなく私人にも広がり、また公権力の助成の問題にも広がってきた」と指摘する。2014年は有害図書指定と言う形での、「表現の自由」に対する直接的な公権力規制が問題となったが、2015年には自治体による公認取り消しが問題に、2016年は公共機関が問題にされ、2017年以降は（講談社のような）私的な組織も問題とされるようになった。2019年には助成金不交付のような、受益的行政の問題も発生した。
講演は、このうち特に青少年の健全育成の観点から行われる行政規制に関する表現の問題でしたが、上記の4分類は興味深かったです。
ところで、最近は「話題になる」とか「バズる「とか「賛否両論」くらいの意味合いで「炎上」ということが多いようで、「炎上」がインフレ気味になっている気もします。あと自ら「炎上」と称する「自称炎上」も聞くから、「炎上」がマーケティング的な成功を意味するポジティブな使われ方をしているのかしら。
「デジタル・ミニマリスト 本当に大切なことに集中する」を読んで、デジタル片付け中
ネット依存やらスマホ依存やらゲーム依存やら言われる昨今、スマホを手放せなくなってしまった現代人に向けて、著者は「有益かどうかは問題ではない。主体性が脅かされていることが問題なのだ」として、テクノロジーの行為依存のメカニズムからその弊害、そこから主体性を取り戻し健全に生きるための具体的方法を提案する。ただし、著者の視点は決してテクノロジーを否定するテクノフォビアのそれではなく、テクノロジーに支配されるのではなく、主体性を持ってテクノロジーを便利なツールとして使いこなすという極めて実用的なもの。
スマホ依存・Twitter中毒を自覚していたので、「デジタル片付け」を実践してみることにしました。
スマホからSNSアプリを削除、push通知をゼロにした
デジタル片付けの方法は以下の通り。
①30日のリセット期間を定め、必ずしも必要でないテクノロジーの利用を休止する。
②この30日間に、楽しくてやりたいのある活動や行動を新しく探したり再発見したりする。
③休止期間が終わったら、まっさらな状態の生活に、休止していたテクノロジーを再導入する。その一つひとつについて、自分の生活にどのようなメリットがあるか、そのメリットを最大化するにはどのように利用すべきかを検討する。
①ではまずそのテクノロジー（具体的にはスマホアプリなど）が自分の生活や暮らし「必須」かどうか判断します。「必須」というのは「便利」ということではなく、不可欠という意味です。不可欠ではなくても「便利」だから必要というものは、運用ルールを定めます。
「SNSの消費時間削減」「日常でわからないことがあったら何でもかんでもその場で条件反射でググる癖を抑制する」という観点から、iPhoneとiPadからChrome、Twitter、メッセンジャーを削除（Facebookアプリはもともと入っていない）。その上で自宅用のMacbookからはTwitter、Facebook、Instagramをログアウトして、基本的にiPhone、iPad、自宅PCからはSNSは見ないルールにしました。一方、仕事に支障が出るため、会社用PCでのみTwitterとFacebookを利用することにしました。四六時中会社PCを持ち歩いているので、必要なときにはSNSにはアクセスできます。
SNS利用はTwitterが多いので、Twitterで何を見ているのかを考えてみたら、もともとはニュースなど仕事用情報収集でした。かつてGoogleのRSSリーダーがあったころはRSSで情報収集していたのが、GoogleのRSSリーダー亡き後当時のFeedlyが使いづらくて、それまでほそぼそとやっていたTwitterとGoogleアラートへの依存度が高まったんでした。ということで、Feedlyを今一度見直して使いやすく整理整頓して、Twitterのフォローを大幅に減らしてほぼ友人・知人のみにしました（Twitterのもう一つの利用は友人・知人と雑談のため）。
また数日だけれど特に不便なく、極めて快適です。スマホは常に持ち歩いていますが（万歩計兼ねているので）、元々メール、slack、LINEの通知は切っていて電話としての通話機能もなくしている上にその他SNSを削除したため、push通知は基本ゼロになりました（防災アプリだけはあり）。push状態がゼロというのは邪魔される可能性がゼロのため、これまでもpush通知はメッセンジャーくらいだったものの、それがゼロになるのはストレスフリーです。だいたいPCを開いている時間が一日の中で少なくないので、メッセンジャーにしてもリアルタイムで対応する必要も特にない。。
自己決定権を取り戻す
デジタル・ミニマリズムとは、「自分が重きをおいていることがらにプラスになるか否かを基準に激選した一握りのツールの最適化を図り、オンラインで費やす時間をそれだけに集中して、ほかのものは惜しまず手放すようなテクノロジー利用の哲学」とのこと。そもそもミニマリズムは「少ないほど豊かになれる」という考え方で、モノのミニマリズムについてはこんまりだとか断捨離だとかでしょっちゅうブームになっています。デジタルでも同様に、1日とか数日とかスマホを一切持たないという「デジタル断食」だとか「デジタルデトックス」だとかもしばしば雑誌の特集になるけれど、ここで言うデジタル・ミニマリズムは、それともまた一線を画する。スマホを一時的に使うのをやめましょう、という話ではない。著者は書く。
デジタル・ミニマリズムの実践は、基本的に実用主義の実践と変わらない。デジタル・ミニマリストは、新しいテクノロジーを大事な目標に向けた歩みを支援するツールとみなす。テクノロジーそのものには価値を見出してはいないのだ。何らかの小さなメリットがあるというだけでは、人の注意をむさぼり食う小鬼のようなサービスを生活に取り入れる正当な利用とは考えない。代わりに、大きなメリットを生むような限定的で意識的な方法で新しいテクノロジーを応用しようとする。
これは、いったん私達から奪われた自己決定権を取り戻す取り組みとも言える。では、スマホやアプリなどの新しいテクノロジーを使い、それにどっぷり浸った日常を送る私達は、それを自ら選択し、決定してきたのではなかったのか？
スマホアプリ、SNS、ウェブなど新しいテクノロジーの多くのビジネスモデルは広告モデルで、つまりサービス提供企業にとっては、そのサービスの利用者・利用時間が多ければ多いほど儲かるという仕組みだ。当然、ユーザーがそのサービスへの依存度を高めるように設計されている。
そこで著者は引用をして以下のように書いている。
①新しいテクノロジーは行為依存を助長するのに適したツールになる。
②新しいテクノロジーへの依存に認められる特徴は偶然ではなく、巧妙にデザインされた機能によって引き起こされている。
ということで、これらのテクノロジーをその真新しさと利便性を持って使いこなしているつもりでいる私達は、サービス提供企業の目論見通りに行為依存の状態に陥り、自己決定権を奪われた状態に簡単になりうる。重要なのは、自分にとって必要なことを自分で見極めた上で、自身の行動を自身で選択し、決定すること。テクノロジーを否定しているのではなく、それをうまく使いこなすためのデジタル・ミニマリズムの提案だと理解しました。
「マスタースイッチ」（ティム・ウー）
コロンビア大学法律学教授で、「ネットワーク中立性」を主張したことで知られるティム・ウーの2011年の著作（日本語訳は2012年発売）。20世紀米国での情報通信産業、メディア産業について企業とキーマンの物語を描く中で、同産業で繰り返されてきた「サイクル」を浮かび上がらせ、情報通信産業、メディア産業における「独占」と「自由」のあるべき姿を考察する。
nkgw先生にだいぶ前におすすめされたのが積ん読になっていたので年末に読みました。ただ、インターネット業界についての記載もあるものの、書かれたのが2011年と比較的古いので、最近の課題として明確になっている巨大IT企業によるデータ占有やアテンション・エコノミーなどは言及されず、ネット以前の話を中心に読む方が学びがあります。情報通信産業、メディア産業について歴史的事実を抑えてそこから学びを得るという点で「思考のための道具」と並んで読んだほうが良い本でした。
本のタイトルのマスタースイッチとは、主電源スイッチのこと。メディアは人々の情報源となり、言論の生殺与奪の権を奪いかねない。著者はメディアは「世の中のマスタースイッチ」だとする。マスタースイッチは、情報通信産業、メディア産業が握る。なぜマスタースイッチが重要なのか。著者は書く。
このマスタースイッチが牛耳られると、ジョージ／オーウェル著『動物農場』の一節ではないが、「ごく一部の市民がその他大勢よりも“特別待遇“なのに平等と言ってはばからないような独裁政治」が生まれるのだ。
著者は、情報通信・メディアに関連して、新しい情報技術の発明→新しい産業の誕生→開放期→産業界の強力な力による支配（独占）の4段階の「サイクル」を繰り返しているとして、20世紀米国での電話、ラジオ、テレビ、映画を振り返り、最後に目下のインターネットもこの「サイクル」に当てはまるのかと考察する（が、前述の通り2011年時点での考察なのでインターネットについてはかなり古く感じる）。
産業の担い手である企業とその共同体などは、経済性・機能性などの理由から最終的に「独占」に至る。経済思想だけではこの「独占」の問題は十分に吟味されておらず、経済合理性だけを考えると「独占の何が問題？」ともなりかねない。だが、著者は「情報」が一般的な商品・製品とは異なるとして、「独占」の弊害に「表現やイノベーションの抑圧」を挙げている。ただし著者は「独占」そのものを否定しているわけではなく、表現やイノベーションが抑圧されないように「独占」と「自由」の適切なガバナンスが重要とし、そのための「分離原則」と「基本的な倫理原則」を説く。
というのがこの本の要旨だが、読んでいてためになるのはそれよりも、情報通信・メディア産業の豊富な歴史的事実の具体例でした。
郵政省などを経てベルの会社に入り電話普及に努め、新規参入する振興電話会社を買収したり駆逐したりしながら、政府を巻き込んでAT&Tの独占市場を作り上げたセオドア・ヴェールらAT&Tの物語は、新しい技術が市場を形成し社会に普及していくのは、技術の真新しさや利便性といったそんなナイーブな話ではなく（もちろんそれもあった上でだけど）、ときには（というかしょっちゅう）法廷をも戦場とした仁義なき戦いなのだと改めて実感しました。技術の普及というのは、決して「良い技術は売れる、普及する」という単純な話ではない。
AT&Tを始めとする独占企業による占有は、言論やイノベーションを阻害する。その一つの例として取り上げられたのが、通話者の声が周囲に聞こえないように、100均で売っていそうなカッブ型器具を消音器として電話機につける製品を開発した「ハッシュ・ア・フォン」がAT&Tの裁判によって最終的には市場から撤退することになった攻防。ハッシュ・ア・フォンは非純正品パーツを導入というイノベーションであり、著者は「最新のイノベーション理論の先駆け」と書く。なおハッシュ・ア・フォンには、後にインターネット、ARPANETを推進するベラネックとリックライダーが関わっていたというのは興味深かった。
このように、時代と形、登場人物を変えて何度も描かれるのが、情報産業・メディア産業において、独占企業が、ありとあらゆる手段を使って新規参入する企業を市場から排除していった歴史的事実だ。政府による規制を受ける情報産業では、そのためには独占企業と政府との緊密な連携が図られる。
興味深い事例のひとつが、「競争促進による規制緩和で、独占市場を形成した」1984年に分割されたAT&Tの復活劇だ。情報通信を担う企業が一社独占であることは、情報統制が国家安全保障につながる政府にとってもメリットがある。著者は書く。
2008年に国家安全保障の法案に、米国民に対するスパイ行為に関してAT&Tとベライゾンは過去にさかのぼって訴追を免除されるという法案が議会を通過、この問題は話題に登らなくなった。訴追免除のおかげで、過去も含めて政府のスパイ活動が明るみにでににくくなった。
その代わりに教訓が残った。通信メディアへの依存度が高い時代になって、情報やコミュニケーションに権力が集中すればするほど、政府は独裁的に振る舞いやすくなる。すべての人々がネットワークで結ばれる世の中だ。電話会社がここまで減少して、簡単に話がまとまるようになれば、我々のリスクは大きくなる。
情報通信産業・メディア産業の20世紀を振り返り、著者は「長期的に情報産業が競争状態にあることが例外的で、独占が状態である。新発明の出現食後や反トラスト法による企業分割で生じた短期間の開放期を除けば、この産業の歴史は、大部分が支配企業の物語だ」と言う。では、やはり「独占」からは逃れないのか。そこで著者は、公権力と同様に、特に情報の「創造」「伝送」「展示・公開」に関わる部分での、企業という私権力をしっかりと統制することの必要性をとその具体的方法としての「分離原則」「倫理原則」を最後に提案する。
2019年振り返りと2020年抱負
2019年はあいかわらず編集と記者をしていながらもいずれも会社仕事のエフォートがやたら高くなり、もう少し”あそび”としての仕事やらないと・・・と思った1年でした。自分以外の人にお仕事をお願いする（人を雇ってもらうとか外注とか）というのが前年にも増して増え、必要なことなんだけど、まだ試行錯誤が続いています。ということで、調整やらマネジメントに気を取られたフシもあり、2020年は個人的に満足のいくアウトプットをもっと増やしたい。つまりいろんなたくさんの人と会って話して議論して企画立てて取材して原稿書くというベースの仕事に割くエフォート増やしたい。そのベースがあってこその、セミナーにしろ他の企画やら調整やらだと思っています。
”あそび”の仕事、というのは誰かに頼まれたわけでもmustな仕事でもないけれど、なんでか気付いたらやってる仕事のことを指します。遊んでいるわけではなく仕事だと私は思っているけれど、会社仕事のようにお金をもらってやるという点での仕事の範疇に含めるためにはその意義付けを説明する必要がありある程度の作文が必要になるというやつで、作文するのがめんどくさい場合はもう趣味として割り切ります。作文できるものは、”あそび”の仕事を会社仕事の中にねじ込むということはやっていて、エマちゃんとたくせんさんと1月から始めた医療×AIセミナーシリーズはそのひとつ。
これについては具体的なアウトプットもいくつか出ていて、”あそび”と会社仕事の両立は可能だし、なんなら当初誰も期待していなかった新しい価値生み出せるんだな〜という学びがあり、その点は自信になりました。やりたいことをやりたいようにやることが結果的に価値につながるんだなあと。
会社仕事では編集者または記者として（つまりただの観察者・傍観者として）医療とAI（というよりIT）まわりをずっと見続けている中で、編集者にしろ記者にしろ傍観者に過ぎないのだけれど、一国民としては当事者でもあるわけで、見ているだけでまじいいんかい自分というもやもやが続いています。現状のままではこの国の保険医療制度が破綻（なんなら国家財政破綻）するのは確実なので。
なぜ医療でのAI導入というかそれ以前の問題としてデジタル化とIT活用がうまく進まないかという問いについては、概ね技術の問題ではなくレギュレーションとビジネスモデル、それと業界の既得権益構造の問題ということは誰もが認識しているところですが、じゃあその課題を克服してどのように具体的に進めていくのか、またそれ以前の問題として、デジタル化・IT化・AI化の推進はなぜすべきなのかの整理はしたい。技術の社会実装は、往々にしてそれ自体が目的化しがちで、でもそれって全然合理的でもないしナンセンス。技術は目的に向かうための手段にしか過ぎない。その視点から今一度整理した上で、ではどうすすめるのかをみんなと考えていけたらなあと思っています。
ということで（？）、2020年に各論として興味があるのはデータ、プライバシー、メディアです。あと毎年言っている「定点観測ブイかつ船になる」ということで、本業は編集者・記者ですけど、観察者であるだけでなく当事者の立場からできることはやっていく所存。当事者に含まれるのかどうか知らないけど、データ、プライバシーについて議論したいけど社内で議論相手がいないとTwitterで愚痴っていたところ、諏訪先生からOS・シンポジウム企画しない？とお誘いいただいて、諏訪先生がやっている社会情報システム学シンポジウムでPHR/PLRについてのOS・シンポジウムを企画しました。楽しい議論になりそうで司会のワタシ得。
「VERTIGO／めまい」と生身の人間
9月、原宿のVACANTで、俳優の森山未來さん、音楽作家のKAITO SAKUMA a.k.a BATIC、写真家の岩本幸一郎さんによる「VERTIGO／めまい」というインスタレーション＆パフォーマンス作品を観た。サブタイトルは、情報化社会において「個人を取り戻すこと」にまつわる模索。普段大量の情報を浴びてそれをやりくりしながら過ごす中で、記号化されたデジタルの情報ではない、アナログで生身の人間の動きのその強さを感じるパフォーマンスだった。
金曜夜、事前知識がほぼないままにVACANTへ行くと、１Fでドリンクをいただき、２Fへ上がるとそんなに広くない薄暗い空間に、観客が数十人、空間の中には写真などのインスタレーションがあった。
時間になると部屋の中央を取り囲むように観客が部屋の周縁に集まり、その中央部分に森山さんがひとり立つ。
パフォーマンスの後半で、自分を全身スキャンしたアバタをVR空間でうまく動かせず関節が不自然に動くときと同様の動きがあり、生身の人間なのにVRアバタみたいだ、とふと思った自分を客観的に見ると、情報化社会にどっぷりつかっていて、情報空間のほうが物理社会よりも馴染みがあるかのようだと思った。生身の人間のパフォーマンスは、情報空間が霞むほどに、圧巻でした。
「未来と芸術展：AI、ロボット、都市、生命ーー人は明日どう生きるのか」メモ
不快感がない、おしゃれ、ハイソできれいな未来が詰まっている。全体的にそんな印象を受けた。内覧会で観たから、会場にいる人たちもおしゃれでハイソな雰囲気をまとっていて、余計にそう感じたのかもしれない。
展示は、「都市の新たな可能性」、「ネオ・メタボリズム建築へ」、「ライフスタイルとデザインの革新」、「身体の拡張と倫理」、「変容する社会と人間」の5つのセクションから構成され、AIやロボット、バイオなどテクノロジーとその影響を受けて作られた作品100点以上が並ぶ。気になった作品をいくつかメモ。
最初の「都市の新たな可能性」から。会田誠さんの作品「NEO出島」は、霞が関や国会議事堂の上空に作られた架空の都市空間。そこは「国際人であり、かつ立派な人物」しか入れない「国際社会」だ。それが、日本の政府機関の上に構成されるのが皮肉がきいている。
aiboとLOVOTもいました。
セッションで最も気になったのは「身体の拡張と倫理」。
身体拡張（人間拡張、Human Augmentation）は、研究者をずっと見ていたから面白いなあと注目していて、そろそろ一般社会でも話題になっていいんじゃないかしらと、AERA時代に「2018年これが来る！」という新年特集でフューチャーしたことがありました。特集のトップに人間拡張の話を持ってきて、個人的には思い入れがあったけれど、まあ2018年にはそんなに来なかったよね。
ともかく、「身体の拡張と倫理」セクションでは、「MITのモラルマシンや、原材料ジェルを３Dプリンタやロボットを使って整形して食事を創るOPEN MEALS、ソニーCSLの遠藤さんの義足などの展示が。
「OPENMEALS」
このセクションではっとしたのは、ロボットアームが人のポートレートを写生をするパトリック・トレセ＜ヒューマン・スタディ #1.5 RNP＞。
5体（セット？）のロボットアームがそれぞれ机の上に鉛筆でポートレートを描いている。5体それぞれの動きはバラバラで描いている絵もうまかったり下手だったり、まるで小学校の美術の時間のようだ。そういった不規則性が、ロボットを生物らしく感じさせた。描かれるのが本物の生物である人間というのもおもしろい。
「変容する社会と人間」のセクションでは、進化したAlter（オルタ）がいました。以前メ芸で見た時よりも、ずっと生き物らしくなっている。
オルタがしゃべるようになっていました。
それと、視線追従しているような気がしました。オルタはしゃべると言っても、日本語にならない唸り声を上げるだけ。でも、視線が合うから、なんとなく対話しているような気分になる。生物らしさを感じる。
写生ロボットは顔がないけれど、その所作から生物らしさを感じた。一方でオルタは、その顔、特に目線と発話タイミングで生物らしさを感じた。「生物らしさ」は考えるネタが尽きなくて楽しい。
10年近く前に、デスクの企画で「らしさの科学」という夕刊連載を担当したことがある。生命とは？現実とは？性別とは？など毎回テーマを変えて、その定義がゆらぐような研究事例を紹介していく企画だった。また「らしさ」について考えてみたいなと思い出しました。
いわゆるメディアアートというのを、東京に来てから10年以上、いろいろなところでたくさん観て、体験してきた。アートとテクノロジーとか、アートとサイエンスはいつも興味がって、（無理やり）仕事として取材していた時期もあったし、展示やイベントがあれば観に行く。
作者がアートとして作ろうとそうでなかろうと、ある種のロボットのように、その技術とその存在だけで体験者や鑑賞者の認識を殴って揺さぶりをかけてくるようなテクノロジーは、もうそれだけで強いアート作品だ。でも、サイエンスやテクノロジーを「使って」アート作品を作ろうという恣意性が垣間見えると、どうも揺さぶられない。作者の意図を読み取ろうとしてして興ざめしてしまうみたい。
医療AIといえば画像診断支援なのか？
今年3月、オリンパスは「内視鏡分野のAI技術において国内初の薬事承認を得た」とする、AI搭載大腸内視鏡画像診断支援ソフトウェア「EndoBRAIN（エンドブレイン）」を発売した。同社の超拡大内視鏡で撮影中に利用し、リアルタイムで「腫瘍性ポリープ」または「非腫瘍性ポリープ」の可能性を数値として表示することで、医師の診断を支援するソフトウェアだ。
EndoBRAINで言う「AI」とは機械学習のひとつであるサポートベクターマシン（SVM）を指す。AMEDの研究費助成を受けた昭和大学、名古屋大学などの共同研究で開発された。約6万枚の内視鏡画像を学習させ、多施設臨床試験で正診率98％、感度97％の精度としている。
医療分野のAIというと、こうした画像診断支援がよく挙げられる。EndoBRAINが使える超拡大内視鏡は大腸内視鏡の検査として一般的に普及しているデバイスではないので影響は限定的だが、がん検診などでも使われる一般的な内視鏡画像診断支援AIへの期待は大きく、薬事承認に向けた研究開発も複数の企業で進んでいる。内視鏡画像の他にも、X線やCT、MRI、病理画像と、画像診断支援AIが活躍するだろうと考えられる医用画像は多い。
今のAIブームで技術的なブレークスルーが起きたと言われるディープラーニング（深層学習）が画像認識に秀でているため、画像診断支援への適用が注目された。
では、医療AIといえば画像診断支援なのか？
AIとは「ディープラーニング」「機械学習」「IT全般」
ところで、AIの話題となると「AIとはなんぞや」問題がいつでも起こるので、ざっくりとAIが何を指しているかをおさらいしておく。現在のAIブームにおいて「AI」が指すものは、狭義には「ディープラーニング（深層学習）」、ディープラーニングを含む「機械学習」を指し、広義には「IT」「デジタル化そのもの」を指すと考えることが多い。これら3点は以下のようにそれぞれの部分集合で表すことができる（図は適当に作ったので面積比に意味はなし）。なお、松尾先生はこれを「IT系」、「ビッグデータ系」「ディープラーニング系」と3分類している。
IT全般というとIT化・デジタル化すればなんでもありになってしまうが、AIブームにおいてはマーケティング用語として「AI」を多用する向きもあり、現実問題としてそうなっている。
「ビッグデータ系」は従来から用いられていた機械学習や自然言語処理を中心とする技術だ。統計や検索、レコメンデーションなどのために従来から用いられてきたが、近年は大量のデータの蓄積とともに有用性が増している。IBMの「ワトソン」、日立製作所の「H」、NECの「NEC the Wise」、富士通の「Zinrai」などのサービスはここに入る。
「ディープラーニング系」は、そのまんまでディープラーニングを用いたものだ。今回のAIブームのきっかけは、ディープラーニングという技術の台頭にある。ディープラーニングとは、膨大なデータから学習し予測を行う技術である機械学習の手法のひとつで、入力したデータからそれらのデータの特徴量を自動的に抽出することでそれを認識したり生成したりするようにするプログラム。同様の技術は以前からあったものの、昨今のコンピュータ性能の向上とデータの地区せきによって一気に有用性が増し、特に画像認識精度は人間の目の精度を超えるほどに飛躍的に向上した。
このうち、大量のデータから学習させる機械学習やディープラーニングは画像認識精度を向上させるため、医療においては医療画像からがんや病変を検出する画像診断支援に有用とされている。2017年6月の厚生労働省「保健医療分野におけるAI活用推進懇談会報告書」の中で「AIの実用化が比較的早いと考えられる領域」の4領域のうちのひとつとして「画像診断支援」が挙げられ、画像診断支援の開発に向けた研究開発事業がいっせいに立ち上がった。
とはいえ同報告書の中では他に診断・治療支援（問診や一般的検査等）、ゲノム医療、医薬品開発、介護・認知症、手術支援も挙げられたほか、同報告書をまとめた会議の続きの会議が今年6月にまとめた「保健医療分野AI開発加速コンソーシアム報告書」の中では以下のようにより広範な領域に広がっている。
AIが医療に導入されるのは「不可避な未来」
第三次AIブームが始まって久しいが、私が最初に「医療×AI」を見出しにとった記事を書いたのは2016年だった。その頃から「医療AI」だとか「医療×AI」をうたう記事がメディアでも増えてきた。最近はデジタルトランスフォーメーション（DX）だとか、AI社会だとか、データ駆動型社会だとか、AI以外にも様々なバズワードが氾濫しているけれど、「医療AI」「医療×AI」だとかもそういったバズワードの類で、それが何を指しているのか、何を意味しているのか、だから何なのか、誰もが共有する定義はない。先日取材に行ったある医学系学会のAIセッションでは、某先生が医療AIについて「あまりにも浮ついているAIという言葉を使うのはやめましょう」と仰られた。
それにもかかわらず、多くの医療関係者は今後AIが医療に導入されると考えているようだ。
少し古いアンケートだが、2016年5月に医師専用コミュニティサイト『MedPeer』が医師を対象に実施したアンケートでは、回答した3701人の医師のうち90％が「AIが診療に参画する時代は来る」とした。このうち最も多かったのが「10〜20年以内に来る」と回答した医師で、全体の33％を占めた。米『WIRED』創刊編集長のケヴィン・ケリー流に言えば、AIが医療に導入されるのは「不可避な（inevitable）未来」だろう。
その医療AIとは、まだ見ぬ未来の得体のしれない何かにすぎないのだろうか。技術の進展に伴い、自ずと臨床現場に実装されていくようなものなのだろうか。
たぶん、現実にはそんなに簡単にことは進まない。特に日本では、国民皆保険制度という世界に誇る医療制度が整備されており、法制度のもとに厳しく管理されている。また国内31万人の医師ら医療従事者は複雑なヒエラルキーと利害関係に基づき、保守的な体制が脈々と守られている。
一方で、少子高齢化による社会保障費負担増のため、世界に誇る医療制度を維持するのが難しくなってきているのも現実。そこには、医療の対象が従来の急性疾患（感染症など）から慢性疾患（生活習慣病など）への遷移、医療技術の進歩による高コスト化など様々な要因も絡みあう。また、様々な情報が膨大になるにつれ医療現場の複雑化とその処理のため、医療従事者の事務作業や労働量は膨らみ続けている。
こうした中、医療の質の維持・向上と医療制度の維持には、とにかく膨らみ続ける業務に対する、「効率化」「最適化」が必須だと、多分現場のほとんどの人たちが感じている。
「効率化」「最適化」をもたらす
ところで、AIというかAIを包含するIT化、デジタル化によって私たちが享受するメリットは基本的には「効率化」「最適化」だ。増え続ける情報量を紙などのアナログツールだけで処理していくには限界がある。情報量がある程度以上に増え続けていくと、IT化・デジタル化したほうがずっと処理しやすく効率的だ。また、情報収集自体をIT化・デジタル化することで、さらに効率よく収集できるようになる。もちろんIT化・デジタル化には対象が定型化されていることが前提になる。
IT化・デジタル化はそれ自体では必ずしも新たな価値は創出するわけではなく「効率化」「最適化」するのが主な利点だが、一方で「効率化」「最適化」することで、余剰を生み出し、そこから新しい価値創造につなげることができる。ただしそれは使う人の工夫次第だ。
医療でも同じで、IT化・デジタル化は「効率化」「最適化」をもたらす。というか、もたらすはずだった。が、実際のところ医療従事者にとっては、余計に仕事が増えた上、患者満足度が下がった一例が、電子カルテの導入だ。
医療現場はIT化・デジタル化に伴い業務が増大
1999年の厚労省 「法令に保存義務が規定されている診療録及び診療諸記録の電子媒体による保存に関するガイドライン」以降、それまでの紙カルテだけでなく電子カルテが可能となった。電子カルテは当初記録作成の効率化を目指して導入されたが、現実には入力作業が増大し、医師の労働負荷が高まった。それだけではなく患者満足度も下がった。電子カルテを使うようになり、「医師はパソコン画面ばかり見ていて患者を見なくなった」とよく揶揄される。全ての医師がブライドタッチにたけているわけでも、ITに詳しいわけでもないので当然のことだ。UCSFのグループによる2017年の研究では、電子カルテの利用で患者満足度が下がったとしている（Association Between Clinician Computer Use and Communication with Patients in Safety-Net Clinics. JAMA Intern Med. 2016 Jan 1; 176(1): 125–128.）。
ただし単にIT化・デジタル化だけが問題ではない。2000年代には医療法改正で患者同意説明や診療情報提供、医療事故調査、地域連携のため、また個人情報保護法等で電子カルテが追い付かないほどの、医療現場での記録や書類が膨大になっていった。その上、2017年ごろからデータヘルス改革との名のもとに、医療データ解析や活用を進めるとのことで、さらに現場の負荷が高まっている。
単にIT化・デジタル化するだけでは必ずしも「効率化」「最適化」につながるわけではない。そもそもIT化・デジタル化すること自体に、経済的・人的・時間的コストがかかる。また個別最適が必ずしも全体最適につながるわけではない。
話をAIに戻すと、今なぜ医療でAIへの（過剰なまでの）期待があるのかといったら、医療現場のニーズから言えばひとつは、まずいIT化・デジタル化で増大した業務の「効率化」「最適化」だ。さらにはひいてはそれが患者満足度向上や医療の質の向上につながるという期待だ。一方で、医療現場がどうであれ、IT化・デジタル化は社会のあらゆる場面で勝手に進むので、それは翻っては医療現場での情報量が膨大にあふれることにもつながる。そこへの対応という点でも、「効率化」「最適化」のためになんらかのツール（単なるIT化・デジタル化には散々がっかりさせられてきた医療現場からしたら、AIへの期待が高まるのもまた不可避）を使うというのは、不可避な方向だ。
もちろん患者からしたら、「正しい答えを出す」「間違わない」「疲れない」という”イメージ”のあるAIが医療現場に入ってこれば、医療ミスもがんの見落としもなくなるという期待も大きい。ただ、これは半分は正しく、半分は正しくない。詳しくはまたいずれ。
「表現の不自由展・その後」のその後を見にあいちトリエンナーレへ行ってきた
8月1日から始まったあいちトリエンナーレ内の「表現の不自由展・その後」が8月3日に展示中止となった、「その後」を見るために11〜12日にあいちトリエンナーレへ行ってきた。1日目は名古屋市美術館、メイン会場の愛知県芸術センター、2日目は豊田市美術館など豊田市の会場と那古野エリア（四間道・円頓寺）と2日間でほぼすべて回れました。
「表現の不自由展・その後」のその後
愛知県芸術センターの「表現の不自由展・その後」の展示中止の案内。行ったときは隣のCIR（調査報道センター）も調整中で見れませんでした。
写真の奥が展示中止の展示室。
その先へ進むと、イム・ミヌクの展示中止の張り紙の周りには、ちょっとした人だかりができていた。イム・ミヌクは「表現の不自由展・その後」の展示中止に伴い、3日に出品自体を申し出た。
ほかに、同様の経緯からパク・チャンキョンの作品が展示中止となっている。
また、現地に行くまで知らなかったが、豊田市駅周辺の小田原のどかの作品も展示取りやめになったとの8月6日付けの張り紙があった。
ほかには、愛知県芸術センターの8階展示会場入り口で、展示中止になった「平和の少女像」のほぼ等身大パネルを持った方（帽子、メガネ、マスクで顔を隠していた）がひとりで立っていました。静かに立っていて、周りの人はほぼ気にしないで通り過ぎ、一方で会釈をして写真を撮っている方もいました。
なお、「表現の不自由展・その後」の展示中止を受け、他に9作家が12日付けで「ARTNEWS」宛のオープンレターを公開し、自らの作品展示中止を要求しているという。
メインビジュアルに作品が使用されている豊田市美術館のウーゴ・ロンディノーネや、名古屋市美術館でメインクラスの展示がされているモニカ・メイヤーも含まれる。
名古屋市美術館のモニカ・メイヤーの展示。
豊田市美術館のウーゴ・ロンディノーネの展示。これらは展示中止になる（としたらその）前に見に行けてよかった。
「表現の不自由展・その後」展示中止の看板が作品のようになっていたり、イム・ミヌクの展示中止の張り紙の前に人が集まっていて、その張り紙そのものがあたかも作品のようにもなっていたりと、「表現の不自由展・その後」のその後展とかできそうだな、と思いました。
展示のレポートと感想はまた別途書きます。多分、そのうち。後日別件（お仕事）でもう一度行くことになったので、その時までに考えまとめよう。
エボラ感染疑いで村山のBSL-4施設で検査中
追記(17:55)
15:00の厚労省の発表でエボラ陰性との結果
エボラ出血熱がアウトブレイク中のコンゴ民主共和国から7月31日に帰国した70歳代の女性が帰国後発熱し、エボラ出血熱の感染疑いがあるとして、国立感染症研究所（村山庁舎）で検査中だと、8月4日に厚労省が発表した。
「患者の検体を国立感染症研究所（村山庁舎）にて検査中です」と厚労省の発表文にサラッと書いてあるが、これは歴史的な出来事。村山がBSL-4施設に指定されるまで、たとえエボラ出血熱疑いがあっても国内施設で検査をすることはできなかった。
エボラ出血熱は感染症法で、感染力と感染したときの重篤性の観点から最も危険度の高い「一類感染症」に分類され、その病原体を扱うためには、もっともバイオセーフティーレベルが高い施設であるBSL-4が必要だ。ウイルスが含まれるかどうかわからない段階での検査であってもBSL-4施設で行う必要がある。
感染研の村山庁舎は感染症法改正で2015年8月に国内で初めて稼働するBSL-4施設として指定された。それまで国内で稼働しているBSL-4施設はなく、エボラウイルスのように一類感染症の原因病原体を扱うには、BSL-4施設を持つ海外の施設を利用させてもらうしかなかった。つまり、今回のようにエボラ出血熱感染疑い患者が国内で見つかった場合、検体を海外施設に輸送してそこで検査をすることになった。
同様に、エボラなど一類感染症の治療や予防を研究する研究者は国内ではウイルスを扱うことはできなかったので、海外で研究をするか、ウイルスを模した偽ウイルスを作るなどしていた。高田先生なんですけど。
ともかく、BSL-4施設稼働は感染症コントロールに取り組む行政や専門家にとって悲願だったが、施設周辺住民の反対という問題もあって長く稼働してこなかった。
BSL-4対応の施設は村山が1981年に整備されたほか、筑波の理研にも設置されていた。ただ危険な病原体を扱うとして住民の反対があり、BSL-4施設として稼働していなかった。それがアフリカでのエボラ出血熱のアウトブレイクが相次いだことから、国内でのBSL-4施設稼働の議論が進み、2015年の法改正に至ったという経緯だ。なお他にBSL-4施設としては熱帯感染症研究が活発な長崎大にも現在建設中だ。
今回まだ検査中で陰性の可能性ももちろんあるが、BSL-4施設の利用例として今後の振り返りも注目してみていきたい。
「天気の子」と狂った世界を生き抜く私たち
雨が降り続く、狂った異常気象の東京。それをして「世界はもともと狂っている」と須賀さんはうそぶく。
人は科学技術によって自然を征服し、コントロールしようとしてきたのが近代の歴史だ。だが、自然や環境はそんなに簡単に人間にコントロールされるわけではない。異常気象の報道は「観測史上初めて」という言葉を使いたがるが、たかが数十年の「観測史」で初めて観測されたということに一体なんの意味があるのか。46億年に及ぶ地球史上にとってはなんてことのない自然や環境の事象も、自然を征服したい人間からしたら予測も制御もできない「狂った世界」と捉えられているにすぎない。つまり「世界はもともと狂っている」というのは実は圧倒的にリアリティがあり、映画の中の東京のひとびとは、その狂った世界でしたたかに、力強く生きていく。それでいいんだと。
「天気の子」の舞台は東京五輪後の東京。毎日降り続く雨、狂った異常気象の東京で、祈りを捧げると局所的に必ず晴れ間が訪れる「100％の晴れ女」である天野陽菜と、家出して東京にやってきた高校生・森嶋帆高のボーイ・ミーツ・ガールの物語だ。「君の名は。」以前の新海誠作品と同じ空気感が漂う。
自分たちの行動によって世界が「狂った」と考える主人公はいかにも中二病的だ。でも、自分もアラフォーともなると、たかだか自分の行動で世界はびくとも影響を受けない、ということをよく知っている。だから、主人公の行動による世界の変化を否定し、「世界はもともと狂っている」とうそぶく須賀さんの言葉に共感をする。そうした点で、「大人」にも「（中二病的な）子供」にも配慮され、どちらの視点からでもある程度は共感できる。
終盤、主人公は世界の調和よりも、自身の感情を選択する。論理的に帰結される全体最適という「正しさ」よりも、主観的な感情による選択だ。主人公の主観的にはその自分の選択によって、世界は狂ってしまい異常気象が続き、東京の一部は水没する。それでも、その東京を生きる人たちはそれなりに生き生きと、したたかに、楽しんで生きている。それでいいのだと、そういうものなのだと言わんばかりに。
テクノロジーが発達した現在は、ロジックによって世界を構築し、コントロールしようとする向きが強い。全体最適のためにはコントロールが必要だが、それは個人の選択を全体のために向かわせる、全体主義的な息苦しさも併せ持つ。そうした主人公の行動と、その結果に対する大衆の反応は、今の社会の現状へのアンチテーゼであり、またそして多くの人たちが感じている違和感を表しているようにも見えた。世界はもともと狂っている。それをコントロールするよりも、狂った世界を生きていくことが大事なのだと、というよりも、そうするしかないのだと。
電源と酸素
某シンポジウムの会場に着くなり、Oさんは「電源、電源」と言い、各席に電源があるのを確認すると、PCを出して充電を始めた。某シンポジウム会場は大学内の施設なので、最近では各席に電源があることが多い。Oさんが電源を求めているのはいつものことで、先日の某講演会は会場が教会で各席に電源はなく、「教会の椅子に電源がない」とツイートしたのを私たちは大いにネタにしてOさんをいじったものだ。一般には教会は大学のようにPCを持ち込んで作業をする場ではないとされている。
とはいえ、そういう私たちだってOさんのことは全く笑えなくて、日々オンラインで情報のやりとりをしている私たちにとって、電源とWi-Fiは今や酸素のようなものだ。ないと生きていけない、とうそぶく。
便利さと不自由さは、セットだ。電源とWi-Fiによって私たちは日々オンラインにアクセスする便利さを手に入れたけれど、それが通常の状態になると、電源とWi-Fiなしでいることに不便さを強く感じるようになった。私たちは電源とWi-Fiに支配された、不自由な状態を受け入れざるを得ない。
最近は役所も企業もサイバーフィジカルシステムだとか第４次産業革命だとか勇ましい。だが、いずれにしても技術依存の状態を作り出すことにほかならず、個々人にとっては技術（とその支配的立場にある人々）に隷属することに等しく、ある種の自由が奪われるということは誰もが自覚しておきたい。
VRと「『現実』は脳の中にしかない」
「『現実』は脳の中にしかない」（「あなたのための物語」長谷敏司）
SF作家の長谷さんの作品「あなたのための物語」の中に出てくる言葉で、先日の、鎌田さんと三菱総研が主催する「22世紀に向けた人類のチャレンジ」WSで心理学者の四本先生の講演タイトルになっていた。
バーチャルリアリティ（VR）という単語は、「VR普及元年」と言われた2016年くらいからの今のVRブームでは、主にヘッドマウントディスプレイ（HMD）を用いた体験に使われるけれど、日本バーチャルリアリティ学会初代会長の舘先生によると、以下のように定義されている。
バーチャルリアリティのバーチャルが仮想とか虚構あるいは擬似と訳されているようであるが，これらは明らかに誤りである．バーチャル (virtual) とは，The American Heritage Dictionary によれば，「Existing in essence or effect though not in actual fact or form」と定義されている．つまり，｢みかけや形は原物そのものではないが，本質的あるいは効果としては現実であり原物であること｣であり，これはそのままバーチャルリアリティの定義を与える．
本質的あるいは効果として現実であり現物であること、というのは脳の中では、ということだろう。「『現実』は脳の中にしかない」となると、現実とVRの違いは、みかけや形が現物として物理的に存在するか否かの違いに過ぎない、ということになる。
私の師匠である桂さんは1990年代にVRを「人工現実感」と訳し、VR研究者はその訳を支持する。みかけや形が現物そのものではないが、本質的あるいは効果としては現実であり現物であることは、人工的に作られる。
桂さんの「人工現実感の世界」が先日、「VR原論」とし改題し加筆修正の上、再版されました。
HMDは視覚と聴覚を刺激して人工的に現実であり現物である効果を作り出すが、その同じ効果は五感の認知だけではなく、物語によっても作り出される。その意味では、小説を読むという体験はVR体験と同じだ。
冒頭のWSで鎌田さんに「今後リアルとバーチャルが共存、ネットで達成感、リアルでうまくいかないということもある。バーチャルの自分の方が存在感大きくなるかもしれない。人間はどう選択していくか？」と問われた長谷さんは、「作家はペンネームを使う。すでにバーチャルな自分が何人も存在する。自分を表すアバタ増えるのは有利。積極的に使って一番いいところを自分の足場にする。適性でできる人は4-5もアバタをつかう。アバタ作るのは起業のようなもの。作家は当たり前にやっているが、それがもっとされるようになるのでは」と答えた。
先日お話しをお伺いした、30年以上前からVR研究を見てきた研究者の方は、今のままだと今のVRブームはまた下火になる、という話をされていた。その理由のVRがHMDによってなされるものという世間の理解の中で、HMDの使い勝手が（だいぶ良くなったとはいえ）どうしても不可欠というものではないということ、もうひとつがHMDに適したコンテンツ制作がまだまだ不十分であるということだった。
今のブームは手軽になったOculusDK1から始まり、スマホを使ったHMD、最近ではOculus GoやRiftといったスタンドアロン型など比較的安価で手に入りやすくなったHMDの進歩の影響が大きい。とはいえ、上記のような壁がある以上、VRをHMDを使った体験として狭くとらえると、その行き詰まり感は想像に難くない。
ただ、VRの定義に立ち戻ると、VRの研究は、物理現象を超えた人間の認知の本質に迫る探求であり、私が10年以上も（担当でもない時期も含めて）アカデミックのVR研究をおもしろいなあと見ているのはその点にある。そしてそこには、五感という感覚を超えた、認知も含まれると思っていて、そこに魅力を感じている。小説はVRだし、想像力で世界を構成する作家自身（のうちの分身である自身何人か）はVRなのかもしれない。
ということで（？）最近またSFに触れ、SFについて考えを巡らせることが楽しくなってきました。
長谷さん
「AI医療機器」の承認・審査は「プロセス評価」に
本文大量のデータを学習させることで、認識精度が向上する機械学習などのAI技術を活用して開発される、いわゆる「AI医療機器」の 開発が進むが、国の審査・承認といった現行制度はこうした技術進歩に追いついていない。こうした中、AI医療機器の開発を進める医療系ベンチャー企業などが「AIを活用した医療機器の開発と発展を目指す協議会」を設立、5月31日に設立総会を開催した（https://www.m3.com/news/iryoishin/679634参照）。
診断や治療などに使われる医療機器は、薬機法（医薬品、医療機器等の品質、有効性及び安全性の確保等に関する法律）に基づく審査・承認を得ないと基本的には医療現場では使うことができない。「医療機器」というと、ハードウェアを思い浮かべるが、2016年から「医療機器プログラム」という領域が新たに作られ、ソフトウェア単体で薬機法に基づく審査・承認を得られるようになった。なお、それ以前はソフトウェアはハードウェアに付随するものとして審査・承認を得るため、ソフトウェアをアップデートするならハードウェアとセットで新たに審査・承認を得る必要があった。
一方2016年以降は「医療機器プログラム」としてソフトウェア単体でも審査・承認されるようになったが、いわゆる「AI医療機器」も実体はアルゴリズム（ソフトウェア）なので、臨床現場で使用するために医療機器プログラムとして審査・承認を受ける。
機械学習ベースで作ったプログラムは、利用する中で新たに生まれたデータを学習に使うことで、認識精度が向上する。例えば、X線やCT、MRIといった画像診断の支援ツールとしてAIを活用する場合、検査画像を入力するとAIが病変を自動認識して医師に提示する。ここで最終的に判断するのは医師のため、医師の判断とAIの判断が異なっている場合、医師の判断結果をフィードバックしていくことで、より画像診断支援ツールとしてのAIの認識精度を上げることができる。
ところが、現行の医療機器プログラムとしての審査・承認体制は、そもそもこうした学習による性能向上や承認後の頻回のアップデートを想定していない。もともとハードウェアとしての医療機器の審査基準に基づいているので、プロダクトとしての性能を評価するため仕方がないこととはいえ、性能変化が速いソフトウェアの性能評価プロセスとしては現実的とは言えない。ディープラーニングを始めとした機械学習ベースでの画像認識ツールの研究が急増したのはここ3年ほどだが、実際に臨床で使うとなるとこの審査・承認プロセスが大きなボトルネックとなってくる。
AI医療機器の開発加速化を目指し昨年設置された厚労省の検討会である「保健医療分野AI開発加速コンソーシアム」（座長：北野宏明・ソニーコンピュータサイエンス研究所社長・所長）では、「AIはアップデートが早い。（再審査など制度上の壁のために）古いものを使い続けるというのは、根本的に違うだろう」という指摘がある。また、より極端なものとしては、「AIは（薬機法上の）医療機器としてなじむものではなく、医療機器としない方がいいものもあるのではないか。（診断支援ツールなどの）アプリは医療機器にはならないだろう」という意見も出ていた（https://www.m3.com/news/iryoishin/672247参照）。
とはいえ国も何もしていないわけではなく、厚生労働省の次世代医療機器評価指標検討会人工知能分野審査WG（座長：橋爪誠・九州大学名誉教授／北九州中央病院院長）は市販後にプログラム性能が変化するAI医療機器の評価について2年前から検討を進め、昨年の中間報告を経て今年4月に「人工知能技術を利用した医用画像診断支援システムに関する評価指標（改訂案）」を公表している。同指標では性能変化に伴う対応として、継続的な性能検証方法を定めておくこと、また性能変化に伴う品質確保の対策をとることとした。また、薬事上の手続きにおける考え方として、一般にはプログラムの性能向上では再度薬事審査が必要となるが、データ学習による性能変化というAIの特殊性を踏まえたうえでの効率的な手続きの検討が必要とした（http://dmd.nihs.go.jp/jisedai/Imaging_AI_for_public/H30_AI_report.pdf参照）。
厚労省は今国会に提出した薬機法改正案が実現すると、AI医療機器の承認・審査がより迅速化・合理化される余地がある(ただ6月末の会期までに成立しなければ廃案になる可能性がある)。
そのひとつが、プロセス評価の採用だ。厚労省が5月8日に開催した「第６回国民が受ける医療の質の向上のための医療機器の研究開発及び普及の促進に関する協議のためのワーキンググループ」（座長：公益財団法人医療機器センター理事長の菊地眞氏）では、「継続的な改善・改良が行われる医療機器の特性はAI等による技術革新等に適切に対応する医療機器の承認制度の導入」が基本方針として提案されている（https://www.mhlw.go.jp/stf/shingi2/0000204801_00005.htmlhttps://www.mhlw.go.jp/content/10801000/000507448.pdf参照）。
具体的な内容はいくつかあるが、「医療機器の改良プロセスを評価することにより、市販後の性能変化に併せて柔軟に承認内容を変更可能とする方策を踏まえた承認審査を実現」するとしている。
