人間とテクノロジー

人間とテクノロジーについて、取材とか思ったこととかの備忘録

実世界AI研究のわけー人工的に作られた”問題”を”手段”に押し込めようとしたことで、AI冬の時代が引き起こされた

科学者は、「役に立つ研究」という言い方を嫌う人が多いようだ。でも、科学研究は現実の社会課題の対応になるものだ。

先月、理研AIPセンターのシンポジウムであった、カーネギーメロン大学教授の金出武雄先生の講演では、「実世界AI研究」として、現実の社会での問題に対応するAI研究の話題があった。

とても良かったので、メモを共有します。

以下、金出先生の講演メモ。

 

          ◆

 

ロボットや画像、コンピュータビジョンの分野でいろんな研究をしてきた。顔認識や自動運転、最近ではスマートヘッドライトといって、運転時に雨が降ると、雨粒に光が当たらないヘッドライトの制御をやっている。

研究は楽しくやってきたが、今日はその話はしない。「実世界AI研究」というのが今日のタイトル。

人工知能は今はやっているが、もともとはよく言われるのが、1956年のダートマス会議に集まってワークショップを行った5人が人工知能研究の元祖だと言われる。この5人の中で、ハーバート・サイモン先生とアレン・ニューウェル先生は私がいるカーネギーメロン大学の先生だ。

AIの歴史は、挫折と回帰から成り立っている。

1966年にピアス勧告が出されて、「機械翻訳は出来ない」と言われた。これに対して、1980年代に意味論が導入され、それから20年後の今ではニューラルネットワークで翻訳は急速な能力向上となった。

1968年にはMinsky-papertで、単層パーセプトロンの限界が指摘された。これによってニューラルネットワークに対する落胆があったが、その後1980年代に非線形要素を入れることで改良がなされた。さらに2000年代後半には多層のニューラルネットワークが出てきて今のブームへとつながった。

1973年に出されたライトヒル勧告では、組み合わせ爆発問題が指摘された。これに対してNPハード問題に対する現実的な「近似的」「確率的」解法が提案された。また、「知識」の書き出しと「浅い」探索によるエキスパートシステムの成功があった。

1990年頃に問題の定式化(モデル化)とプログラミングの限界が指摘された。だがそれは昨今のビッグデータとそれを活用した深層学習の登場によって克服されつつある。

「良い科学は、現実の問題に応答する」

「AI冬の時代」と言われたのが1970年代から80年代終わりのことだ。(AI研究に多額の資金を投入してきた)DARPAはそれまではAI研究の資金制限を設けていなかったが、包括的AI研究資金停止が導入されたことが冬の時代の引き金となった(AIへの"Umbrella Funding"の停止)。

では「良い」研究とは何だろうか?みんなを納得させるものだろう。

これに対して、アラン・ニューウェル先生は真摯で深い考えを持っていた。良い科学というのは、現実の現象、現実の問題に応答する、というものだ。彼はこう言っている。

Good science is in the details,Good science makes a differnce.
(良い科学はちょっとしたところにある、良い科学は差を生む)

では実世界AI研究とは何か?現実に存在する社会的、経済的、工業的・・・(あらゆる”的”)に価値のある問題に解決を与え、差を生み出すAIの研究だ。

先日話したDARPAのプログラムマネージャーが良いことを言っていた。

The objective is to "catch mice", not build a "better mouse trap."
(研究の目的は「マウスを捕まえること」であって、マウスを捕まえるワナを作ることを目的にしてはいけない)

毛沢東も、こう言った。

知識を得たいならば、現実を変革する実践に参加しなければならない。

人工的に作られた”問題”を”手段”に押し込めようとしたことで、AI冬の時代が引き起こされた

「応用をやりたい」と私は言っているのではない。これまでも、AIの強力な手法は、現実の具体的な問題と困難を追求する中で生まれてきた。

Logic Theoristから、手段の探索を組み合わせる手法になったが、これはGPSの開発につながった。化学構造式の同定と医学診断のために、エキスパートシステムにつながった。不確実性と因果(拘束)関係をもつ計算問題からグラフモデルとNPハード問題の近似的・確率的開放につながった。文字認識は、CNN深層学習によって精度が向上した。

なぜ、AI冬の時代になったのか振り返ってみると、人工的に作られた”問題”を”手段”に押し込めようとしたことで、AI冬の時代が引き起こされた。

MicroWorldのアプローチでは、問題の自己定義とその世界での開放が行われてきた。例えば、K.ForbusはAnalogical ReasoningとStructure Mappingと定義をしてしまった。そこから先は数学の問題になってしまった。日本では第五世代コンピュータは、Logic Programmingということを決めてしまった。

こうしたものが人工的に作られた問題だ。

一方、実世界IAでは、製品検査やシステムの異常検知といった実際の世界での問題に対応する。

AIでは、それ自体がどのように決定をしたのか説明ができないとよく言われる。これに対して「説明できる」AIを作ろうという研究がある。DAPRPAでもXAIプログラムを作って15くらいの機関で研究をしている。参加者の多くは大学の研究者だが、具体的問題、自律ロボット、軍事情報解析AIシステムといったインテリジェンス情報の解析のためにAIを使うとなったときに、説明ができないと使えない、となってしまうからだ。

一方で、「会議に参加して貢献できるAIシステム」というものがある。これは私が好きなものだ。例えば5人が会議に参加したときに、もうひといAIが参加する。このAIが本当に会議に貢献できるかどうか、というものだ。

これは伝統的なAIの問題で、問題と知識の表現方法が知られている。表現できればそのうえで計算ができる。ディープニューラルネットワークでは分散的に知識が表現されている。ただし、本当に”人のように有能な”システムの実現には、フレーム問題と記号接地問題が課題となってくる。

ディープラーニングは閉じた世界だ。ただし現実の会議では、これまでに計算をしたことがない問題も現れる。だから会議はおもしろいのだ。そのことを”フレーム問題”と言う。「〇〇病にかかった」と言うと、「〇〇病」というのがよくないことだと我々は感じるが、それは記号として記述されていない。我々が記号として使うことが、AIシステムには使うことができないのだ

マサチューセッツ工科大学では1970年前後にProjectMACが行われた。実問題の解をインプリメントする手法を開発し、Emacsなどを使うようになった。これと同じようにAIPセンターでAIの能力を実問題の解を得る手段になっていくといい。