児玉 葵（2016年度本科／学生）

2017年1月29日（日）、札幌市資料館（旧札幌控訴院）にて、裁判劇とワークショップ「私の仕事を決めるのは誰？〜裁判劇を通じて人工知能を用いた人事評価の是非を考える〜」を開催しました。

（会場となった札幌市資料館（旧札幌控訴院））

西暦2030年。様々な産業や人びとの生活の中で、人工知能（AI）が当たり前のように使われるようになった近未来が舞台。AIによる人事評価の是非を問う世界初の裁判が始まった―。

私達は先端科学技術をどう使っていけばいいのか

人工知能（AI）に関するニュースが連日のように報道される最近。米国の未来学者レイ・カーツワイル氏は、2040年頃には人工知能が人間の知能を超えると予測しています。人工知能は、これから私達の生活をどう変えていくのか。そして、私達はこの技術をどう使っていけばいいのか。それらを考える対話の場を創ろうと、「裁判劇+ワークショップ」という形でイベントを行いました。

（裁判劇のオープニング）

AIによる人事評価は公平なのか？ プライバシーを侵害しているのか？

この裁判では、AIによる人事評価の公平性と、プライバシーへの抵触の有無が争点でした。

AIによる人事評価システムにより不本意な人事異動を告げられた研究職員・栗山志保原告（CoSTEP受講生・栗原利奈）は、AI人事評価システムは不完全であり、公平でないと主張。そして、AIによる評価では、全ての行動が記録されている。トイレに行くのも監視され、プライバシーが侵害されていると訴えました。

（「これだけの成果を残している私が異動なんてありえない、AIは間違っている」怒りをにじませる原告）

AIでは人間にはできない大量のデータ分析から公平な判断ができる、実際に売り上げ増加にも結び付いている。そして社員の行動記録は社員を糾弾するものではなく、より働きやすくするためのものだ。街にある防犯カメラではプライバシーの侵害だと感じないはず。訴えられた会社の人事部長・加藤実（CoSTEP受講生・古澤正三）は、このように反論しました。

（「人の経験や勘に人事を頼る時代は終わった。AI評価は会社全体の生産性を向上させている」反論する被告）

（代理人の最終陳述も見どころの一つ）

責任は誰に？

議論は科学技術の利用についての責任問題にまで及びました。

AI人事評価システムが誤りを起こしたら、その責任は誰にあるのか。システムを導入した人事部長か。あるいは開発者か。それともAIそのものを受け入れてきた我々全員にあるのか…。

（「ナイフが人を殺したとして、ナイフを作った人に責任があるってわけ？」それは使う側の問題だと主張する開発者）

観客が陪審員となって評議

劇の後、16人の参加者（事前申込）は陪審員はグループに分かれ、「今回の異動を取り消すべきか否か」「AI人事評価を停止すべきか否か」の2点について、争点であった公平性・プライバシーの問題を踏まえて意見を交わし、それぞれのグループで評決を取りまとめました。

（ワークショップの様子にはテレビの取材が入りました）

評決：本件の人事異動は取り消すべきだが、AIによる評価は継続すべき

（班の結論を発表する陪審員役の参加者）

再び劇中に舞台が戻され、陪審員が各班の結論を投票しました。「プライバシーには問題あり」「会社側は説明責任を果たしていない」しかし、「使い方を見直し、社員の理解のもと運用するべき」などの意見が出されました。4つのグループの評決と、観客の評決を踏まえた上で、最終的に、本件の人事異動は取り消すべきだが、AIによる評価は継続すべきとの判決が下されました。

フィナーレ：誰もが当事者になりうる

最後に、裁判劇のキャラクターそれぞれの思いが語られ、劇は幕を閉じました。

「この裁判については、私自身も当事者。私を裁判長に任命したのは、他でもないAI人事評価システムなのだから。」最後に裁判長・東堂ありさ（CoSTEP受講生・近藤あずさ）の真実が明かされ、劇は終了しました。AIが急速に広まりつつある今、誰もが当事者になりうるのではないでしょうか。

（懇親会の様子）

イベント終了後は、キャストや参加者が軽食をつまみながら語り合う懇親会が開かれました。イベントの感想、AIのこれからについてなど、話の尽きない対話の場になりました。

このイベントが、AIのこれからを考えることや、科学技術のあり方を語り合うことのきっかけになれば幸いです。

最後になりましたが、会場を提供していただいた、札幌市資料館とSIAFラボの関係者のみなさま、そしてこのイベントに参加し、ともにAI人事について考えていただいたの皆様、ありがとうございました。この場を借りて、深く御礼申し上げます。

対話の場の創造実習：

（脚本・演出・出演）安孫子 友祐

（プロジェクトマネージャー・出演）児玉 葵

（フライヤーおよびパンフレットデザイン・出演）近藤あずさ

（リサーチ・パネル作成・出演）古澤 正三

（出演）栗原 利奈

（出演）藤井 真知子