研究者が“倫理”を議論したくなる場だった

「倫理セッションよりも倫理的になってきましたね・・・」

　と司会者が言った。先日の人工知能学会全国大会の３日目の、人工生命化する社会のオーガナイズドセッション（OS）でのことだ。

　このOSはオーガナイザーの一人の池上先生が仰る、複雑化する社会を人工生命化する社会としてその理論と応用を議論するというのが趣旨だった。はずだった。冒頭の池上先生の講演がものすごくおもしろかった（が多分３割くらいも理解できていない・・・）から、もっとその議論を聞きたかった。が、最後に話題提供をした鳴海さんの話題に引っ張られ、質疑に続いての議論も倫理の話一色になったのだ。

　会場の雰囲気を一気に倫理の話題に引っ張っていたのが、鳴海さんの研究紹介だった。鳴海さんはいくつかの具体的な研究を紹介した。

　例えば、ゲーム初心者でも神プレイができるゲーム。画面を流れてくるアイテムを、ジャンプをして獲得して点数を競うゲームだが、初心者はジャンプをしてアイテムをうまく取るのが難しい。初心者は全くうまくできないとすぐにゲームに飽きてしまう。そこで、アイテムをとりやすいように、ジャンプの軌道をゲームの裏側で自動的に補正をする。このときに補正が強すぎるとゲームをしている本人が気付いてしまうが、あたかも本人が操作したジャンプがうまくなっているかのような絶妙な補正をかけると、本人は気づかず自分がゲームがうまくなったような感覚を得られて、ゲームを続けるインセンティブになる。

　このとき、補正をかけることで自分がうまくなったような感覚を得られるだけでなく、実際に学習をして、補正をかけなくてもゲームがうまくなっているという。一方で、このときに自分が操作をしてジャンプをしているような感覚が得られないと、学習も生まれないという。このときに、自分がやっているという感覚を「行為主体感」とよび、これを作り出すことが重要だと強調した。

　他にも幾つか研究の実例を紹介したうえで、鳴海さんは最後にこう締めくくった。

「リアリティとは、世界が説明可能であり、世界でこう振る舞えばよりよく行きられるということを信じるために脳がつくりだした現象だと思う。複雑化する世界でよく生きていくには、それに対応してリアリティを書き換える必要がある。人が世界を感じ取るセンサーによる入力が変わった時に、人の意図を書き換えないとならない。その意図の書き換えを行うような（機械の）インターフェイスが役に立つかもしれない。使い方によっては、人が機械に支配されるということになってしまうが、適応範囲やどういうものだと破綻なく制御可能かという理論を作っていかないといけないと思っている」

　これに対して、会場からは「催眠療法のようなつかいかたもありうるのでは？意識の深いレベルで人をコントロールできるということか」「鳴海さんの話は、倫理そのものについての話だ」といった発言が相次いだ。

　人工知能学会全国大会では初日に、人工知能研究者の研究倫理綱領を議論するという倫理委員会の公開討論があり、このセッションを受けての冒頭の司会者の発言だった。この倫理委員会のセッションはメディアや人文社会学系の研究者らの注目を集めたが、会場の半分が非学会員だった。

　鳴海さんの研究は以前からずっと見ていて知っていたが、私はメディアの人間として、倫理面の議論に関心があった。でも、ほかの人はどう考えるのか、わかりかねていた。この人工生命OSで興味深かったのは、会場の研究者（多くは人工知能など工学系の研究者）が、“倫理”について言及したことだった。具体的な研究事例があることで、議論が進んだ、ということなのだろうか。