「人工知能に人間らしさは必要か?」「シンギュラリティは来るか?」数理脳科学研究者 甘利俊一氏に聞く

編集部

甘利先生は情報幾何学の創始者であり、計算論的神経科学研究の第一人者です。脳の研究でも知られています。まずは脳の研究と情報幾何学の関係を教えていただけますか?

甘利(敬称略)

人間の脳はとてもすごいですよね。さまざまな分野の脳科学者たちが長い間かけて研究をしていますが、まだまだわからないことがいっぱいあります。人間の脳は進化の過程でいろいろな問題に直面し、その都度問題を克服するために進化してきたと考えられています。ただ、進化の際に古いものを直して改良するのなら良いのですが、古い状態を残したまま新しいものを付け加えるかたちで発展してきたのです。つまり、設計思想は古いままで増築を繰り返してきたようなものですね。だから、人間の考えること、やることには無駄や矛盾など、欠点もたくさんあるんです。
「脳」の研究分野はさまざまですが、生物学的に脳を研究している人たちが知りたいのは人間の脳の「実態」です。”複雑でも無駄でもバイオロジーとして現にあるのだから、ありのままの脳を解明したい”という考えです。一方で、私達は数理学者は人間の脳を紐解いて、その「原理」を解明したくて研究をしています。その原理を証明する方法に「幾何学」や「数理」を用いるのです。

編集部

なるほど、数理を使って脳の研究をするから「脳数理研究」なんですね。

甘利

情報数理の研究から言えば、脳の実態よりもそこに隠されている「知性の原理」がどういうものかを明らかにしたいのです。知性の原理を調べるには、本物の脳のしくみをどれだけ詳細に調べても、かえって袋小路に入り込んでしまうので、「数理脳科学」は脳の実態の解明は一度ご破算にして、脳を単純にした数式モデルを使って、何ができて何ができないのか、数理の公式等で原理を解明していこう、というわけです。

編集部

第三次人工知能(AI)ブームと呼ばれていますが、先生はどのように評価されていますか

甘利

ニューラルネットワークを使って機械学習が成果を上げましたね。コンピュータによる画像認識の世界的な競技会(IMAGENETのILSVRC)が定期的に開催されていますが、ここ数年はニューラルネットワークを使った機械学習を活用したチームが軒並み好成績を収めたために注目を集めました。画像認識や音声認識の分野では人間を超えたと評価する声もあるようです。
わたしは囲碁が大好きなんですが(笑)、深層学習と強化学習が成果を出したおかげで、今では名人級の棋士がコンピュータに歯が立たなくなってしまいました。これも素晴らしい実績だと言えるでしょう。人工知能研究ではじめて実用的な技術が登場し、その成果を証明したと言えるでしょう。

編集部

どのような課題があると感じていますか

甘利

あえて現状の課題を言うと、ディープラーニングで学習したシステムがどうしてその答えを導き出したのか、そのプロセスを開発者すら理解できていないことです。数理科学者の立場から言えば「結果良ければすべて良し」というだけでなく、深層学習によって何が捉えられているのか、何ができて何ができないのか、それを解明するのが重要です。もちろん、ディープラーニングが成果を生み出す謎を、数理で解明できないかと研究はしていますが、答えはまだ先になりそうですね。

編集部

ディープラーニングによる機械学習は、言語の認識や意味理解でも人間に近付くことができるのでしょうか? 言語は画像認識のように感覚的なものではなく、もっと論理的なものなので、同じように成果が出せるのでしょうか・・

甘利

たしかにニューラルネットワークは画像や音声などの「パターン認識」においてとても優れた成果を出し、研究者の多くは「研究を更に先に進めれば言語認識や時系列の把握までできるようになる」と言っています。しかし、本当にそんなところまでいけるのかは疑問です。
とはいえ、論理的な「言語」の分野でも、「Google翻訳」はニューラルネットワークを導入してから、実際に精度が良くなったと多くのユーザーが言っていますので、言語の分野でも一定の成果は上げられるのでしょう。

編集部

ディープラーニングによる機械学習は今後、どのように進展していくべきだと考えますか?

甘利

深層学習は一種のブームだと思っています。あと5年もしないうちにブームは冷めてしまうでしょう。しかし、ブームは冷めてもニューラルネットワークの良い技術は残っていって欲しいと思っています。それと同時に深層学習がなぜ成果を残せたのか、どこが良かったのか、論理や言語をどう処理していけば、更に発展させることができるのか、その原理をきちんと解明する必要があります。
パターン認識の技術は素晴らしいが、人間の知能にはまだまだ遠く及びません。ディープラーニングの層を何百にも増やせばもっと高度なことが認識できるようになると言う意見がありますが、それは本当でしょうか。人間の脳でもせいぜい10層程度なのに・・。それよりもディープラーニングの層を重ねていくときに何が起こっているのか、統計神経力学モデルを使ってそれを解明したいと考えています。

編集部

人工知能が更に人間の知能に近付くにはどんなことが必要だと、先生はお考えですか。

甘利

人間の知能に近付くには2つの面が重要だと考えています。ひとつは、ニューラルネットワークのように素早く実行して結果を導き出すという面です。もうひとつが、じっくりと考えを導き出す「人間特有の意識」の面です。動物にも意識があると言われてはいますが、じっくりと考えたりはしません。


また人間に近付くという点では「ポスト・ディクション」も重要な要素です。自分の行動や決定を後から吟味し、修飾し、修正・訂正する能力を持っていることです。ニューラルネットワークがダイナミクスで走ると同時に論理が働いて、いろいろな情報を統合して吟味できる・・それは人間だけができる高次の能力なんです。
また、人間の知能に近付くには全体を統合する能力も必要です。人は歩くときは特に意識せずに行動しています。滑りやすくで不安定な氷の上を歩くときには、人間は様々な情報を瞬時に、かつ統合的に処理することでそれを実現しています。「知能」には統合的に処理できる能力が重要だと思います。

編集部

人工知能が人間に近付くと「人間らしさ」もテーマになりますね?

甘利

そうなんです。人間は必ずしも合理的とは言えません。合理的ではなく曖昧模糊な部分も人間らしさであり、それには後付けの記憶であるポスト・ディクションが関係しています。だから「人間らしい知能」を実現するのなら、曖昧模糊や矛盾している部分も持たせる必要があります。
また、記憶システムにも課題があります。コンピュータは膨大な情報であっても正確に記憶し、必要なときに正確に読み出すことができます。しかし人間はそうではありません。人間はあるがままの情報をそのまま記憶するのではなく、ある意味で「関係」を中心として記憶していきます。そして、人間が何かを思い出すときにも過去に記憶した情報を正確に引き出すのではなく、関係をたどって曖昧に思い出したり、時には思い込みによって記憶を創り出すこともあります。それが「人間らしさ」です(笑)。

編集部

それら人間らしさを、人工知能にも持たせるべきなのでしょうか?

甘利

考え方次第です。仮にこのロボット「ATOM」に高度な人工知能を搭載するとしましょう。そのとき、ATOMの人工知能が人間の行動を認識したり、言葉の行間を読むようになるということと、ATOM自身が人間と同じ”ココロ”を持ち、意識や感情を持って行動する、というのはまったく別のことです。人間的な知能を作るということは、無駄なこと、合理的でないこと含めて反映させるということです。また、ATOMがあたかも人間と同じように考えているように見える、ということもまた違うことです。

編集部

なるほど。では、自動運転自動車に搭載される人工知能には、合理的なものと人間的なものの、どちらのタイプが適しているのでしょうか?

甘利

自動運転自動車の場合、自律的に走って、人を目的地まで安全に運ぶことが目的です。そのため、技術としては乗っている人に寄り添うココロを持つことが求められるかもしれませんが、自動車である以上はあくまでも合理的であるべきです。自動車の人工知能が美意識とか自分の意図などを持つことは望まれません。

編集部

最後にひとつ。将来、「シンギュラリティ」はくるのでしょうか?

甘利

私は、シンギュラリティは来ないと思っています。たしかに技術の進歩は止まらないし、止めることはできません。更に情報技術が進んで産業構造が進化し、人工知能関連の技術を活用した方が成果が出る、ということになれば、その方向に進んでいくでしょう。しかし、そうなると富を持っているものがますます富を持つことになり、経済格差が広がります。
一部で「ベーシックインカム」によってその課題を解決しようという意見もありますが、生き甲斐をなくして人間は生きてはいけません。だから、そのような社会では革命が起こるかもしれません。
情報技術が進化して変わっていく社会、それに見合った人々の生き甲斐、雇用、格差等にどのように対応していくかを真剣に考えていかなければいけませんし、未来の社会はきっと考えていくでしょう。
だから、シンギュラリティのように人工知能が新たな知能を生み出すような世界にはならないだろうと思っています。

編集部

貴重なお話し、どうもありがとうございました