AI（人工知能）と哲学

（老いぼれ人工知能研究者のプログラミング日記）

2019年7月18日

今年6月の人工知能学会全国大会の学生企画セッション「人工知能と哲学」で招待講演として話した内容のスライドを欲しいと、幹事さんから頼まれていたのですが、サボってしまっておりました。 僕はPowerPointを使わないので、スライドというものは存在しなくて、どうしようか悩んでいたのですが、結局、テキストに書き起こしてみました。幹事さんに先ほどお送りしましたので、そのうちに、もう一人の講演者の三宅さんの素晴らしいスライドとともに、どこかに載るのではないかと思います。とりあえず、僕のそのテキストをここに載せておきます。

人工知能と哲学

堀　浩一 （東京大学）

　私はPowerPointを使いません。「人工知能研究者は、それぞれ、いろいろな技を持っているのだから、自分の技を駆使してpresentationをしようよ」と言い続けてまいりました。残念ながら、今のところ、仲間は増えておりません。
　人工知能学会全国大会2019の学生企画「人工知能と哲学」のセッションでは、私は、私の自作ソフトKNC(Knowledge Nebula Crystallizer)の2018年版を使いながら、お話しさせていただきました。この2018年版のKNCでは、私がここ20年ほどの間に書き留めた研究メモの断片間の距離をWasserstein distanceで測って、お題に関連するメモを次々に辿ることができます。講演でもこれを使うことにより、聴衆の皆様の反応を見ながら、動的に話を構成することを試みました。講演はナマモノだと思っておりますので、使ったスライドをお渡しするのは、私はあまり好きではありません。ここでは、当日、どんな話をしたかを振り返って、まことに雑で恐縮ではありますが、簡単な文章として、以下にまとめてみたいと思います。

　まず、お題の「人工知能と哲学」ですが、人工知能と哲学が切っても切れない関係にあることは、明らかです。人工知能は、知能を作ったり調べたりする学問ですから、昔々から知能や心とは何かを考えてきた哲学とつながりがあるのは自明のことと言っていいでしょう。
　過去に、人工知能と哲学の間にどういう関係があったかについて語るのは、今日はやめておこうかと思います。今、どういう問題を考えなければならないかを、語りたいからです。
　ここは人工知能学会の全国大会の中のセッションですので、「人工知能とは何か」を語ることは、釈迦に説法になってしまいますが、皆様は、それぞれ、人工知能とは何か、をどう定義されていますでしょうか？ 近代科学社から出た「人工知能とは」という本では、13人の研究者がそれぞれの考える人工知能について述べています。私もその一人でしたが、私は、人工知能を、「人工的に作る新しい知能の世界」と定義しました。新しい知能の世界には、人間と機械の両方が、絡まりあいながら含まれます。よくマスコミなどで報道される「人間に置き換わる人工知能」ではなく、様々な知的機能の部分部分が、社会のあらゆる場所に分散的に埋め込まれた、新しい世界です。
　このような世界では、どこまでが人間で、どこからが機械なのかが、わからなくなる可能性があります。これは、SFのような世界の話ではなく、すでに、変わりつつある現在の社会の話です。たとえば、何かが為された時に、それのどこからどこまでが人間の誰の責任で、どこからどこまでが機械のどのプロセスの責任で、どこからどこまでが入力されたどのデータの責任で、というような問題が、もう今すぐにでも、出てきます。
　人間と道具の関係については、少し昔ですと、人工知能研究者は、関連する哲学として、ハイデガーやフッサール をかじりました。あるいはまた、そもそも、自由意志に基づいて自律的に行動する人間とは何か、を考えたり、人文社会科学系の人々が使う「自律」という言葉の意味が我々人工知能研究者の使う「自律的」の意味と異なることを理解したりするために、カントの哲学について、哲学者から教えてもらったりしていました。
　以前は、人工知能研究者と哲学者との間で、「知能とは何か」とか「人間とは何か」とかについて、知的議論を楽しむことが中心でした。
　現在は、人工知能研究者と哲学者との対話は、さらにもう一歩踏み込んで、実践的に必要不可欠なものになりつつある、と言ってもかまわないかもしれません。人工知能の技が陽には見えない形で人間社会のあらゆる場所に埋め込まれつつある現在、人工知能研究者は、哲学者などとともに、人間と機械の関係について、深く議論せざるを得ない状況に置かれています。
　しばしば、倫理に関する議論は、自由な技術開発を抑圧するものだというネガティブな受け止め方をされることがあるのですが、これは完全に誤りです。少し勉強して実践してみるとわかると思いますが、倫理的な問題や哲学的な問題を考えることは、新しくて創造的な技術開発につながる場合も多いのです。あるいは、産業界の方々にとりましては、新たなビジネスチャンスにつながる、と言ってよいでしょう。それが何故かと問われるならば、倫理について考えることは、人々が何を嬉しいと感じるかを考えることにつながり、それが、結果的に、売れる技術の開発につながるからです。あまり堅苦しく考えず、身近な問題から、倫理や哲学の領域に人工知能研究者が足を踏み入れることが、望まれます。
　幸い、とっかかりとなる良い入門書が出されています。まずは、
　久木田、神崎、佐々木： ロボットからの倫理学入門、名古屋大学出版会、2017.
と
　山本龍彦（編著）： ＡＩと憲法、日本経済新聞社、2018.
の２冊をお薦めします。「AIと憲法」という本の帯には、「AIに選別される危機」という扇動的な文句が書かれています。「そんな危機なんてあり得ない」と短絡的に反発するようでは、AI研究者として失格です。人間がAIに選別される、というのは一体どういうことなのか、人文社会科学系の議論をよく理解し、そして、我々は、技術でどう応じることができるのかを考える必要があります。それを再び人文社会科学系の方々にぶつけ、反応を受け取り、というキャッチボールを、ずっと続けることになるでしょう。続けなければなりません。
　Postphenomenologyの文脈で、もう少し深く人間と技術の関係を勉強してみたいなら、
　Peter-Paul Verbeek: Moralizing Technology - Understanding and Designing the Morality of Things, The University of Chicago Press, 2011. 鈴木俊洋訳： 技術の道徳化 - 事物の道徳性を理解し設計する、法政大学出版局、2015.
がお薦めです。技術の関わる倫理というのが一体どこからどう生まれるのかということについて、どのような議論がなされてきているのかを知ることができます。
　せっかくですので、ほかの参考書も並べておきましょう。

　村田純一：技術の哲学、2009.
　村上陽一郎：文明の死／文化の再生、2006.
　江間有沙：AI社会の歩き方、化学同人、2019.
　福田、林、成原：AIがつなげる社会、弘文堂、2017.
　平野晋：ロボット法、弘文堂、2017.
　弥永、宍戸（編）：ロボット・AIと法、有斐閣、2018.

　人工知能と哲学の関係について、こんなことを考えるべきだと、年寄りの私から皆さんに何か申し上げるべきではないと思います。若い皆さんが好きなことをワイワイと楽しく研究し続けることが重要です。皆さんには、皆さんの好きなことを考えていただくとして、僕自身が、最近何を考えているかというと、こんなことです。
　それは、人間社会のいろいろな重要概念が今後液状化していくのではないだろうかということです。液状化は、僕自身の研究の文脈で「知識の液状化と結晶化」という言い方で使ってきた言葉ですが、概念の外延や内包が明確に定まらなくなることを指しています。次のような概念が液状化せざるを得ないだろうと考えています。

　「道具」という概念：　受動的な道具（金槌、ピアノなど） から 能動的に行為を行う道具（自動作曲、自動作詞）までの間の連続的な広がり。
　「道徳的被行為者としての他者」という概念：　人形・ぬいぐるみ　ペットの動物　ロボット　人間
　「道徳的行為者としての自己」という概念
　「自律的な個人の自由意志」という概念：　カント的な意味で自律した（自由意志から道徳的義務を理由に行動できる）個人　一人の人間として統合された個人　自由意志　分人　ナッジ　無意識の相互作用から生まれる意志　物理的因果に基づく決定論 さらにはカオスやrandom phenomenaのような非決定論的現象までの連続的な広がり → これは責任という概念に直結。
　「説明可能性」という概念：　自由意志に基づく行動の理由の説明　本能的行動の後付けの説明　説明不能の行為
　「責任」という概念： 道徳的行為者という概念の液状化 = 「自律的な個人の自由意志」という概念の液状化。液状化され分配される責任。理由反応性のあるメカニズム、メカニズムが行為者自身のものである、という概念におけるメカニズムや行為者の分散化（液状化と言ったほうがいいか）
　「権利」という概念
　「仕事」という概念
　「公平」という概念
　「プライバシー」という概念
　「生」と「死」という概念

　従来は、哲学者は分析的に世界を論じるのが主な仕事でしたが、今後は、我々人工知能研究者とともに、このような問題について議論しながら、世界を構成的に変化させてみるという仕事も行うことになる、という可能性があるように思います。どういう世界が望ましいかを、研究者が決めることは、できません。我々研究者にできることは、どのように変化させる可能性があるか、その可能世界の広がりを、できるだけ具体的に、かつ、できるだけ網羅的に、示してみせることです。その中で、実際にどのような道を進んでいくかは、民主的な手続きにより定められて行くことになるのでしょう。巨大企業の力の影響が大きい現在の社会の姿は、あまり健全な姿だとは言えないように思います。
　僕自身は、技術屋として、「草の根AIネットワーク」のようなものを、今後作っていきたいと思っています。哲学者とも議論しながら、新しい知能の世界を、草の根的にたくさんいろいろと作ってみて、そこから社会に取捨選択してもらう。選択されるものは、一つでないほうがいい。多種多様なコミュニティ、多種多様な文化のために、多種多様な知能の世界を作る。そんなことを夢見ています。幸い、僕はまだ、自分でコーディングできますので、みなさんと一緒に、面白いモノやコトを作り続けたいと思います。皆さんもね、あまり論文を書くことばかり考えない方がいいですよ。時には、自分が本当にやりたいことは何なのか、深く考えてみてください。（まずは手始めに、PowerPointを使うのをやめてみてください。 :-) ）
　非常に雑駁な話で失礼しました。ありがとうございました。

　このあと、audienceの皆さんから頂戴した質問・コメントを、私のシステムに入力して、関連する概念空間や研究メモの断片をお見せしながらディスカッションするという、大変楽しい時間を持たせていただきました。

　　以上。



© 2019 Koichi Hori