人間とテクノロジー

人間とテクノロジーについて、取材とか思ったこととかの備忘録

「安心して炎上できる場」をつくる

「安心して炎上できる場」をつくりたい、という話を去年の夏くらいからEちゃんと話してきた。で、その議論から出てきたプロジェクトが、年明けから動き出した。

私にとってのきっかけはある研究者の研究。3年近く前、その研究の話を聞いて、2年半前に記事にした。当時、2014年はFacebookがタイムラインをいじって感情操作をするという研究がPNASに掲載されて、それなりに炎上案件として話題になっていた。研究としてはおもしろい。でも、オプトアウトなしでユーザーへの告知なしでタイムラインを操作することによる、ユーザーの感情を操作することの倫理的な是非が問われた。彼の研究は、それと近いことをしていた。ただし、目的は善意だ。情報提示を恣意的に操作することで、よい(とその研究者が考える)行動変容を促す。

エネルギーや物質といった資源に加えて、人間の活動に不可欠な要素として「情報」の循環を提唱したのが、1950年代のノーバート・ウィーナーによるサイバネティックスだ。さらに、情報技術の発展に伴い、またインターネットの普及に伴い、情報操作は容易になり、それによる人への影響も見逃せないほどになったのが現代社会だ。

それをサイバネティックス全体主義と呼び批難する向きもある。個人的には是非の問題ではないと思っている。その状態を認識するか、しないが問題だ。

とはいえ、強調したいのは、情報技術を開発する研究者も社会実装するエンジニアも、動機は善意にあるということだ。社会をよくする、便利にする、人間の幸せに貢献する、そのために情報技術を開発し、社会実装する。だが一方で、その人間への影響は計り知れない。社会実装してみないとその効果はわからない。

情報技術は、多くの人が知らないうちにすでに社会に実装されていく。オプトアウトが可能ではといっても、事実上多くの人には、その選択ができないのが実状だ。

例えばインターネット。もともとはDARPAのアーパネット。それを研究者やエンジニアが民生利用を始め、ボトムアップ式に広く社会で使われるようになっていった。一般のユーザーは、そこで選択権はない。気がついたら広まっている。使わない権利はもちろんある。だが、先進国で仕事をし、生活を送る上で、インターネットを使わないことは今や不可能だろう。

ところで、情報技術の研究のあり方そのものも変わりつつある。ある情報技術の研究者は、今や研究は実験室の中だけで完結することはない、と言う。ユーザーに広く使ってもらい、評価をすることが研究そのものになる。「こういうものを作ったけれど、使ってみてどうですか?」。それに対するユーザーのフィードバックが技術の改良になるし、社会実装にあたっての課題抽出にもつながる。

とはいえ、Facebookの感情操作の実験のように、社会と関わることは批判を受けるリスクを避けられない。人の価値観は、環境や時代に応じて変化するものだ。タイムラインが恣意的に代わることによりユーザーの感情が変容することは、特定の価値観にとっては倫理的に認められないというかもしれないが、別の価値観にとってはそれが便利であり人間の幸福につながるとして受けいられるものなのかもしれない。だが、炎上することで研究ができなくなるとしたら、社会全体の損失でもある。

だから、「安心して炎上できる場」があればいいのにな、と思った。数人なのか、数十人なのか、クローズドな場で、情報系研究者だけではなく、人文社会科学系研究者、企業の人、メディアの人、行政の人、普通の人、いろんなステークホルダーが、自由に議論をする。relfexive であることが重要で、その場の議論が、参加者それぞれにとってのフィードバックになり、持ち帰ってそれぞれの仕事や生活、活動にプラスの影響を与えるものになって欲しい。

もしかして実現できるかもしれない、と思ったのが、昨年6月の人工知能学会のあるオーガナイズドセッションだった。先の研究者が自身の研究の発表をしたあと、全体討論の話題はほとんど彼の研究と倫理についての議論になった。とても不思議なOSだった。人工知能学会は、もともと様々な分野の研究者が集まっている。とはいえ、情報系研究者が多い。その彼らが、ひとりの研究者の研究について、倫理的な側面も含めて議論になったのだ。でも、研究を批判しているわけではない。

そんな話をEちゃんとずっとしてきた。私はそれを、Project EMAと名付けた。EMAは、EMerging technologies And socistyから。

それが具体化してきたのが昨年末。Eちゃんとのお好み焼き屋さんでの議論から、その後別れて帰宅してから「ねーねー思いついちゃった!」との長電話がかかってきてから、Eちゃんがリーダーをつとめるプロジェクトが動き出した。そのプロジェクトの目的はまた別なのだけれど、「安心して炎上できる場」をつくる、そして情報技術の研究者によい相互作用が得られる場にしたいと思い、Eちゃんのサポートをしてそのプロジェクトを一緒に進めていくことを、決めた。

その時のお好み焼き。2016年12月3日の夜@渋谷。