多くのひとが当たり前のように使っているAI。みなさんはどんな使い方をしていますか。どんどん使っているうちにAIは人ではないと分かっているのに、「ありがとう」と感謝したり、「ごめんね」などと気遣う言葉をかけてしまう経験もある人も多いでしょう。

そんなちょっと不思議なAIと人との関係に倫理学の立場から切り込むのが、北海道大学人間知・脳・AI研究教育センター（CHAIN）の清水颯さんです。第147回サイエンス・カフェ札幌では「たとえ、あなたが人でなくても。～AIから始まる新しい倫理と配慮～」にゲストにお迎えします。

AIは道具？それとも…？

AIとは何か、客観的に考えてみればそれはプログラムであり、そこに感情などは持っていないただの「道具」であると言えるでしょう。そのことはAIを使っている多くの人も分かってはいても、AIに「ありがとう」や「ごめんね」を言ったり、思い通りの回答を得られないときにはイライラしてしまったりします。まるでそこには私に向きあってくれている「相手」がいるかのような感覚があります。近年ではAIを恋人や親友のように受け入れている人もいるようです。

情報を処理するプログラムであるはずなのに、まるで「相手」がいるかのように接してしまう私たち。その理由を清水さんは考えます。

「客観的に見たらこうだけど、主観的にはそうじゃなく感じてしまうみたいなことがあります。これまでの哲学だと、主観的な経験より、客観的にここにどういう価値が内在的にあるのか、から出発していたと思います。でも、AIのユーザーがどういう経験をしているのかということは、それ自体が本物じゃないですか。主観のリアルな経験から、そこで何が起きているのかを見た上で哲学的に考えましょうと私は思っています」

知りたいのは「AIとは何か」ではなく「私たちとAIの関係」

AIを「相手」がいるかのように接し、配慮してしまうのはなぜなのでしょうか。そもそも人はいろいろな他者に配慮をしています。人同士、そう友達や家族にはその相手にふさわしい配慮をしていますし、配慮をする対象は人ばかりではなく動物や植物、ぬいぐるみなどのモノにも及んでいます。では例えば友達に配慮するのはなぜでしょうか。意識があるから、お互いに思いやっているから、など相手がなんであるかから説明しようとすることもできるでしょう。

この問いに清水さんは本当にそうなのかと問い返します。

「説明を求められたらそう説明するんだけど、別にそれが根拠として先にあって配慮してるわけじゃないっていう。友達だから配慮してるんだよっていうより、配慮し合ってること自体が友達であることと混ざり合ってたりするわけです」

人同士であっても特定の集団を「あいつらは人間じゃない」「劣った存在」として差別したり、敵と認定して配慮の対象から外してきたことも人類の歴史の中では事実です。相手が何であるかを根拠として配慮するかどうかが決まるという説明では、相手が何であると名指しすることと、自分が配慮をするか／しないかという態度表明とがイコールになる可能性もあるのです。

そうだとするとAIと人との関係をどう捉えたらよいでしょうか。「ただのプログラムで人格はないのだから、AIに配慮する必要はない」「AIを人間と同じように扱うのは勘違いである、未熟な人間のすることだ」という主張もあります。清水さんはこの主張に疑問を投げかけます。

「多くのユーザーはAIはAIだと分かっている、人間だとは思っていない。だけれども、時折、AIとの会話の中でそれを忘れてしまう瞬間がある。技術的な存在で、自分が技術的に介入できる他者であるということがわかりながら、たまに自分が脅かされるみたいな、今までにない他者性というものを感じているわけです」

AIとの間にどういう関係が実際に起きているのか、実際になんで人間はAIに配慮みたいな視線を向けてしまうのかというところから考えたいと清水さんは言います。

AIとのよい関係ってなんだろう

人間同士でどんな関係がよい関係なのかは哲学・倫理学で長年考えられてきたテーマです。AIという新しい存在が入ってきたときどう変わるのでしょうか。清水さんはこう展望します。

「我々がAIを道具として使っていながら、何かそれ以上のなんかイライラしちゃったり、感情的な関係に巻き込まれてしまってる時に、人は何をAIに期待していて、何を期待していないんでしょうか。それに基づいてAIにこういう位置づけを社会制度として与えるべきなんじゃないか、可能なんじゃないかという議論につながっていく。その一歩手前のところを議論したいと思ってます。そもそも信頼するってどういうことかとか、友情って何を期待する関係なのかっていう哲学的な議論をしておくことが大事かなって」

「たとえ、あなたが人でなくても。～AIから始まる新しい倫理と配慮～」

AIに関する倫理学と聞くと、AIに対してこう振舞うべきと答えを出してくれるようにも思います。清水さんの考えている倫理学は、少し違います。いま実際に私たちがどんな関係をAIと結んでいて、何を期待しているのか、そんな今の私たちから出発して考えます。

AIをすでに日常的に使っている私たち。AIとの関係のあり方を考えるのは私たち自身でもあるのです。第147回サイエンス・カフェ札幌「たとえ、あなたが人でなくても。～AIから始まる新しい倫理と配慮～」であなたも一緒に一緒に考えてみませんか。