人間とテクノロジー

人間とテクノロジーについて、人と話したり、議論したり、思ったりしたことの備忘録

倫理

AAAIのAIと倫理・社会の会議(AIES)に参加してきた

ニューヨークで2月7〜12日に開催されたAAAI-20に併設して、2月7日~8日に同じ会場で開かれたThird AAAI/ACM Conference on Artificial Intelligence, Ethics, and Society (AIES 2020)に参加しました。いつものような学会取材ではなく、エマちゃんとたくせん…

人工知能に関わるISO/IEC JTC 1国際標準化が始まるそうで

人工知能に関わる国際標準化がスタートするけど日本から意見をインプットするので検討メンバーを募集します、というプレスリリースが情報処理学会から1/10にありました。 人工知能に関わる国際標準化がスタート-情報処理学会 ISOの中でもITの関わる国際標準…

テンセントが注目する、世界のAIやロボットをめぐる法的、経済的、社会的、倫理的な課題についての議論

人工知能(AI)ブームの中でもここ1−2年は、AI導入の大きなカギとなる法的、経済的、社会的、倫理的な課題についての議論が、世界中で進んでいます。中でも昨年は、それらの議論がまとまって報告書や法案などの具体的な形で相次いで公開されました。そこで…

「わたしを離さないで」はディストピアSFだ

カズオ・イシグロさんが、ノーベル文学賞を受賞した。これまでに「日の名残り」も読んだが、7年前に初めて読んだ「わたしを離さないで」は強烈だった。 わたしを離さないで (ハヤカワepi文庫) 作者: カズオ・イシグロ,土屋政雄 出版社/メーカー: 早川書房 発…

人はAIの指示に従って、たとえ自身に不利であってもそれを選択する

ドライブ中、AIがこの道へ行くように指示をしたら、たとえそれが合理的には不利な選択肢だったとしても人はそれを選択するか?これをゲーム画面で実験してみると、多くの人はAIの指示通りに不利な選択肢を選ぶという実験結果が、先週のFITでの発表であった。…

AIについて語るということ

AIブームはともかく、人はAIについて語りたいようだ。だいぶ前に、AI研究者某M氏が「AIマインドがない人はAI研究者ではない。AIマインドとは、AIについていかに深く語ったかどうかだ」と仰っていて、はあ、とよくわからなかったんですが、何となく分かるよう…

「AIご神託」はありかなしか

昨日放送のNHKスペシャル「AIに聞いてみた どうすんのよ!?ニッポン」が、周囲のAIに詳しい専門家の方々に不評だ。非常に不評だ。 www.nhk.or.jp 何が不評か、というと、人が解釈してアジェンダ設定している内容を、「これはAIが提言しているんです。私たち…

第二フェーズ

「倫理委員会」という委員会名は適切ではないのかもしれないという議論は常にある。実際、数年前にこの委員会が設置されたときには、別の名称も検討されていたという。それでも、「倫理」という単語を入れたことで、誤解をされながらも様々な人から関心を持…

人工知能と安全保障技術研究ーその議論の素地を作っていく

日本では安全保障に関連する技術の研究や開発ー「軍事研究」と呼ばれることもあるーについて、イデオロギーなしでフラットに議論ができないものか、っていうか議論したいということを前に書きました。 kaetn.hatenablog.com 同じように感じている人は私の周…

なぜ、人工知能と社会とか倫理とかに興味を持って、いろいろと動きまわっているのか?

人工知能学会倫理委員会の委員をやっています。もちろんノーギャラで。何をしているかというと、会議でわいわい話したり、先日の人工知能学会全国大会での公開討論の企画・準備と当日の司会したり、報告書つくったり、サイトのお世話したり。あと、同じく委…

ALifeと池上先生

昨日は駒場で「Generative Ethics and Society:人工知能、人工生命の倫理とそれを取り巻く社会」というイベントを聞きに行ってきました。岡さん、池上先生たちがやっている、ALife labのイベントです。 alifelab.org 倫理はともかく、、、池上先生の「人工…

人工知能および自律システムにおける倫理的考察のためのIEEEグローバル・イニシアティブ「倫理的設計」:人工知能と自律システムによる幸福を優先するためのビジョン

「人工知能(AI)および自律システム(AS)における倫理規定に関するIEEEグローバル・イニシアティブ」はIEEEのプログラムのひとつで、プログラム名通り、AI/ASの「倫理的設計」ビジョン策定を進めている。 IEEEは電気、通信、情報工学などの技術者による専…

インターネットの父の憂い

「インターネットの父」ティム・バーナーズ=リーの講演に行ってきました。慶應大から栄誉博士号を受けるということで、昨日、その記念講演会があった。 ティム・バーナーズ=リーはCERNにいたときにWorld Wide Web(WWW)を考案し、ハイパーテキストシステム…

電王戦の終わりと、人工知能と共に生きていく人間と

コンピュータ将棋とプロ棋士が対局をする電王戦は、今年4月の開催をもって終了するという。 記者会見でドワンゴの川上さんが 電王戦をドワンゴでやっていこうと決めたときから、将棋界のことだけではなく、人間とコンピュータの関係がどうか、人間社会に示…

ノーベル・プライズ・ダイアログ東京2017から

ノーベル・プライズ・ダイアログ東京2017と題した、5人のノーベル賞受賞研究者ら国内外の著名研究者らによる講演会が今日、東京国際フォーラムで開催された。テーマは「知の未来〜人類の知が切り拓く人工知能と未来社会〜」。正直なところ、人工知能をテー…

「倫理」ブームと、「そもそも」から考えるということ

なんだか一部界隈で、「科学技術と倫理」というお題目がブームになっている。ここで言う「倫理」は、生命倫理、環境倫理、情報倫理のいわゆる応用倫理とは少し異なるように見える。倫理、といってもESLI(ethical social legal issue)全般を含む。もっと言…

「安心して炎上できる場」をつくる

「安心して炎上できる場」をつくりたい、という話を去年の夏くらいからEちゃんと話してきた。で、その議論から出てきたプロジェクトが、年明けから動き出した。 私にとってのきっかけはある研究者の研究。3年近く前、その研究の話を聞いて、2年半前に記事…

2016年に書いた記事振り返り

2016年は記者(週刊朝日編集部)から編集者(医療健康編集部)になり、また記者(AERA編集部)に戻るという慌ただしい1年でした。分野も、週朝では政治から経済からなんでもやっていたのが、医療健康編集部では医療や医学部、医師が対象、AERAでは医療や科…

ネクストVRを探しにVR学会へ行ってきた

14〜16日につくばで開催された日本バーチャルリアリティ学会(VR学会)へ行ってきた。 世間はVRブームで、ヘッドマウントディスプレイ(HMD)の発売が相次いでいることもあり、今年はVR普及元年とも言われている。今言われているVRは、HMDを付けて体験するも…

自動運転車の社会的ジレンマ

週末に、NatureやScienceの編集記事、IEEE Spectrumなど海外の研究開発のニュースサイトを見る。ざっくりみていて、自動運転車の話題が多かったなあと。今週のScienceで紹介されている研究紹介記事のざっくり翻訳と動画です。 元記事はWhen is it OK for our…

科学には解けない問題

去年、中国の研究者らが、ヒト受精卵にゲノム編集を施したことが話題になった。その時にNatureにジャーナリストが書いた記事を去年訳したのが出てきたので、以下に貼り付けた。なお、元記事のタイトルにある「CRISPR」は「CRISPR/Cas9」システムに代表される…

ゲノム編集でがん治療の治験へ、NIHが初承認

狙った遺伝子を簡単に改変できる技術が「ゲノム編集」だ。ここ数年で急速に広まっている。そのゲノム編集を、人の病気の治療に使う初めての臨床試験が、米国で始まる。がんの治療として、本来人が持っている免疫を活用するがんの免疫療法として、米NIHが臨床…

研究者が“倫理”を議論したくなる場だった

「倫理セッションよりも倫理的になってきましたね・・・」 と司会者が言った。先日の人工知能学会全国大会の3日目の、人工生命化する社会のオーガナイズドセッション(OS)でのことだ。 このOSはオーガナイザーの一人の池上先生が仰る、複雑化する社会を人…

人工知能の活用と人間の尊厳

中高の6年間を過ごした女子校はミッションスクールで、校訓は「人間の尊厳のために(HOMINIS DIGNITATI)」だった。「人間機械論 人間の人間的な利用」(原題:THE HUMAN USE OF HUMAN BEINGS)を再読して、この奇妙なタイトルの意味することがようやく腑に…

安心して「炎上」できる場が、テクノロジーを進化させる

「議論を呼びそうな研究を安心して見せて、いろんな人のフィードバックをもらって、社会に受け入れられるのかどうなのか、どういう形なら受け入れられるのか、次にどういうふうに研究を進めていけるのか、議論して考えられる場があるといいよね」 と、インタ…

「炎上」して好循環が生まれた、人工知能学会誌表紙問題

前回の続きで、「炎上」によってテクノロジー、研究が良い方向へ向かうサイクルの話。意図せずして議論を呼び「炎上」し、研究者自身が変容し、新しい物事が始まり、結果的に研究者にとっても社会にとってもよい循環に入ったという事例に、人工知能学会誌の…