久本空海（2023年度ソーシャルデザイン実習／社会人）

モジュール1の2回目は、科学社会学・科学技術社会論・科学技術政策論をご専門とされる標葉隆馬（しねは・りゅうま）先生による「先端科学技術の倫理的・法的・社会的課題と責任ある研究・イノベーション」という講義でした。

私はこの講義で初めて「ELSI」や「RRI」という用語や分野を知ったのですが、自分の漠然と関心があることにも関連していて、また標葉先生の軽快な語り口も相まって大変面白かったです。

ELSIとRRIって？

「ELSI」（Ethical, Legal and Social Issues, エルシー）は、新しい科学技術を社会実装する際に生じる、技術自体ではない倫理的・法的・社会的課題を表します。

標葉先生が所属される大阪大学ELSIセンターの岸本充生先生は、「19世紀末のカメラ」を例に挙げていました:

“新しいテクノロジーが社会に実装されると、現在の法律（L）、倫理（E）、社会（S）のそれぞれにギャップが生じます。古典的な例として有名なものは19世紀末のカメラです。カメラが安価になり一般市民が入手できるようになると、一部の人たちが有名人のプライベートな写真を撮って雑誌や新聞に売り込んだと言われています。こうしたことがきっかけになり「プライバシー」という概念が生み出され、さらにはプライバシーの権利といった法的な考え方につながったのです。” ¹⁾

一方、関連する概念として「RRI」（Responsible Research and Innovation）つまり「責任ある研究・イノベーション」では、目指すべき社会像への挑戦への試みを強調します。標葉先生は「ELSIからRRIへ ＝ リスクガバナンスからイノベーションガバナンスへ」という書かれ方もされていました。守りから攻めへ、というふうにも捉えられるかもしれません。

専門家と一般人のズレ

講義では、標葉先生らが取り組んできた再生医療などでの調査を例に、一般人と研究者では何が知りたいか・伝えたいかにズレがあることなどが紹介されていました。

標葉先生らが行ったある調査²⁾では、一般モニターは70%以上が再生医療へ肯定的な回答をしていました。一方で、臓器を作るための、人と人以外の動物の細胞を混在させるキメラ胚については、研究者では条件付きを含むと半数以上が受け入れられると回答したのに対し、一般回答は25%程度と、かなりの差がみられたそうです³⁾。私もパッと聞かれたら「なにそれ怖そう」と忌避的な回答をすると思います: このようなズレがあるための、同意を取得することの難しさや、様々な「同意の種類」が語られていました。

再生医療に対しては一般の方から「それで働く期間が伸びたり、年金支給が遅れたりするなら嫌だ」というコメントもあったそうです。そのような新技術によるベネフィットを社会へ上手く埋め込むには、技術自体に増して公共福祉政策の観点が重要になったりするでしょう。先生は「“フレーミング（問題の枠組み設定）の擦れ違い”がわかれば議論がラクになる」とも述べられていました。

リテラシー、受容、信頼

また、「かなり注意が必要」と前置きした上で紹介された、科学技術リテラシーとその受容の関係性に関する記事⁴⁾も興味深かったです:

この記事と元論文では、「遺伝子組み換え食品に対する反対意見が強い人ほど、”知識テストの得点と自己評価の差”が大きい」と主張されています。

そう言われると、なんとなくさもありなんという気もします。しかし事態は恐らくそう単純ではなく、知識そのものに加えて「情報が共有される」ことへの信頼なども含めた状況が強く効いていると解釈するほうが妥当では、などとも補足されていました。これは、川本思心先生によるモジュール1-1講義『科学技術コミュニケーションとは何か』で述べられた、科学・科学者への信頼の話や、「欠如モデル」の話題にも繋がります。

また、国内の調査では逆の分析結果（差分が大きいほど無条件に受け入れてくれる）が出たこともあったそうで、権威への信頼感が強いという性質があるのかもしれない、同じような結果になると思ったがやってみないとわからないものだ、などとも語っておられました。

人工知能技術とELSI、RRI

講義の質疑応答では、最近世間でも話題に挙がる、いわゆる「AI（人工知能）」について、標葉先生へご意見を伺ってみました。

2022年11月に公開されたOpenAIのChatGPTを筆頭に、大規模言語モデルと呼ばれる技術が広く社会にも浸透し始めています。2023年3月、そのリスクを懸念して、巨大モデルの開発を最低でも6ヶ月の一時停止することを求めるオープンレターが出され、多くの研究者も署名していました⁵⁾。

それに対して、研究者で、AIに関する教育を提供するDeepLearning.AI創立者のAndrew Ngと、Meta社/ニューヨーク大学の研究者Yann LeCunが反論する対話がありました⁶⁾。Ng氏は、当技術のリスクも踏まえた上で、そもそもそのような停止を行う現実的な手段がなく、政府の介入があれば可能だろうがそれはイノベーション方針として非常に良くない、などと述べています⁷⁾。これはまさにRRIの議論でしょう。

このような近年の急激な状況変化を踏まえて、ちょうどELSIセンターから出たというノートを標葉先生が紹介してくださいました⁸⁾。この文書では、ELSI論点が体系的に整理され、さまざまな分野の反応が簡潔にまとめられていて、この問題を考える上で始点として大変参考になる資料だと思いました。ただ本文でも述べられていましたが、この分野は急速に変化しているため、1か⽉後、半年後、1年後には状況がずいぶん変わっている可能性も高いことに注意が必要でしょう。

おわりに

現代社会において科学技術は、国家や、個々人の生活の行方を左右する重大な要因となっています。その大いなる力を適切に扱い、社会へのベネフィットを最大化していくために、標葉先生の述べられたようなELSI/RRIの観点がますます重要になると思います。

専門家コミュニティの中にいると、このような視点はなおざりにされがちですが、改めて考える貴重な機会となりました。標葉先生、ご講演ありがとうございました。