映画「グリーンブック」を観て、年寄り人工知能研究者が考えること - 人種その他の差別とAI（人工知能）について

（老いぼれ人工知能研究者のプログラミング日記）

2019年3月18日

映画「グリーンブック」を観てきました。
素晴らしい映画でした。アカデミー賞作品賞を受賞したのも、むべなるかな、です。

この作品に人々が感動するのは、この作品が過去の感動的な物語を描いているからではなく、現代社会における問題をあぶり出しているからではないでしょうか。
残念ながら、この世から人種その他の差別が消えてなくなったことは一度もなく、悲しいことに、AI（人工知能）は不当な差別を増幅する可能性があるとわかってきています。

人工知能研究者の私といたしましては、これは、人工知能の問題であるというよりも、インターネットなどから収集されたビッグデータの中に隠れていた人種その他の差別が最近の統計的手法（しばしばそれらは人工知能の技術と呼ばれるのですが）によって明るみに出てきたというのが事実である、と申し上げたいと思います。

我々年寄りの人工知能研究者は、知能とは何か、について研究し続けてきました。 そして、もちろん、知能とは、単なるデータの統計解析ではない、と知っています。

近年の第三次人工知能ブームの中で研究開発されてきた統計的手法は、データと情報との間のギャップを埋めることにおいて、目覚しい進歩を成し遂げました。
その結果、残念なことに、人種その他の差別がビッグデータのいたるところに隠れていることがあらわになってきました。
しかし、我々は、データと情報が我々の知能においてごく小さな役割しか果たしていないことを知っています。
我々年寄り人工知能研究者は、データや情報を超えて、知識や知恵を扱いたいと奮闘してきました。

映画「グリーンブック」を観た人の多くが感動するということは、人々が人種その他の差別と戦うことが正しいことだという自然な気持ちを持っていることを、示していると言っていいでしょう。
この自然な気持ちがビッグデータの中に埋まっていないのだとするならば、 我々人工知能研究者がなすべきことは、そのような自然な気持ちも集めることのできる人工知能を研究開発することです。

それはそんなに難しいことではない、とあえて申し上げたいと思います。
私は、我々人工知能研究者が人工知能の設計段階において道徳的判断を直接人工知能に埋め込むという方法はとるべきでないと考えています。 そうではなく、人工知能システムが人間の知識や知恵の集積を取り込むことができるようにすることを考えるべきです。

人工知能システムは、設計した通りに動くとは限りません。 学習結果に基づいて行動を変化させる可能性があります。
人種その他の差別がビッグデータに隠れているならば、人々がなすべきことは、そのビッグデータをひっくり返すべく、知識や知恵を人工知能システムに与え続けることです。
それは、我々の知識や知恵を言語化することにより、可能となります。
人工知能システムは、データからの学習とほぼ同じ手法を使って、知識や知恵を学習することにより、正しい意思決定を行うための学習を行えるようになるでしょう。

要約しますと、人工知能が道徳的になりうるかどうかは、人工知能そのものの問題ではなく、我々の社会の問題だということになります。我々は、我々の知識と知恵を言語化しなければなりません。
きちんとコンパクトに言語化してやる必要はありません。
現在の人工知能の技術は、高次元のビッグデータを取り扱うことができます。
したがって、我々は、我々の知識や知恵の膨大な量の断片を集めて、それを人工知能システムに投入し続ければよいのです。
私は、今後社会に埋め込まれる人工知能システムは、我々の知識や知恵を民主的に強化することができるようになるべきだと、信じています。
別の言い方をすれば、 「人工知能として認識されない人工知能の埋め込まれる社会に向けて」でも書きましたように、 我々人工知能研究者は、人工知能の引き起こす問題を解決するための人工知能も開発すべきだ、と言うこともできます。

我々の作った、倫理的な言説の知識ベースを持つシステムは、その方向への小さな第一歩です。



© 2019 Koichi Hori