NEWS

2022/03/28

「デジタルクローンについての研究者たちの視点」を公開

デジタルクローンの偶有性、必然性、再帰性

信原 幸弘
東京大学名誉教授。専門は科学哲学・心の哲学。認知科学や脳科学の成果を参照して、心についての哲学的考察を行ってきた。著書は『心の現代哲学』、『意識の哲学』、『情動の哲学入門』など。訳書は、P・チャーチランド『物質と意識(原書第3版) 』など。

七沢智樹
Technel合同会社代表・東京大学情報学環客員研究員・自治医科大学医学部客員研究員。ベンチャー企業での経営や技術開発の経験をもとに、現在、テクノロジーの本質を問う技術哲学の研究や、その研究の成果を社会実装する活動を行っている。https://www.technel.world/

自分と出会う？

「私は自分のデジタルクローンと対面することもできる。鏡に映った自分の姿や動画に撮った自分の映像を見るだけでも、何がしかの自己発見があるだろうが、私はクローンと語り合うことができる。私が言いそうなことをクローンが言う。たんに心の中のもう一人の自分が語るのではなく、眼のまえのクローンがじっさいに声を出して語るのだ。しかも、クローンは私とまったく瓜二つというわけではなく、微妙に異なる。その微かな違和感が私を新たな自己の発見へと導いてくれる。」

－デジタルクローンの「偶有性」－

遠い昔、人々は水面や鏡に写る「私」を特別な存在とした。そのもう一人の私にオーラを観じたのだ。その後、絵画、写真、ビデオなどのメディアが生まれ、自己像はクリアに立体的となった。今では、ポケットのスマフォの中に自己像はテクノロジカルに収まっている。しかし、その像には古代人が観たであろうオーラはない。古代にあった自己との出会いの不可思議さは忘れ去られつつあるのだ。このデジタルクローンの「私」はどうか。この機械の知能が生み出す「偶有性」がもたらすそのゆらぎは、機械だからと割り切れない「不可思議さ」をはらむのかもしれない。

語り尽くせなかった人と

「友人が突然、亡くなってしまった。まだまだ語り合いたかったし、一緒に遊びたかった。この無念の思いをどうすればよいのか。友人もさぞ無念だっただろう。死者との交わり。そのための位牌、形見、墓など。しかし、語り尽くせなかった人への無念の思いは、そう簡単には癒せない。死者のデジタルクローンは死後もなお、生前の友人と同じように語り合うことを可能にしてくれる。死の彼方に去ってしまった人をもう一度、眼のまえに蘇らせてくれるのだ。」

－「遺（のこ）る」の変遷－

ネアンデルタール人は死者に花をたむけた。その遺跡は、ネアンデルタール人の心を伝える。古代より、何らかの媒体を通して、人のその生きた情報は遺されてきた。死者の情報をはこぶ「メディア（媒体）」は、メディアの変遷の歴史ととともに移ろい、今では、ブロックチェーンに刻まれる故人の情報の「遺る力」は古代とは比較にならないものとなった。そして、未来のAIは、本人と見分けのつかないクローンをデジタルに再現するだろう。近未来の「デジタルクローン」が遺る社会において、人々はどのような死生観をもつのだろうか？ 

分身

「ああ、忙しい。身体がいくつあっても足りない。自分の分身がいて、代わりにいろんなことをやってくれたら、私は好きなことに集中できるのに。そんな夢を叶えてくれるのがデジタルクローンだ。私の情報をもとに、私そっくりに作られたクローン。私の代理人として働いてもらうにはうってつけだ。現代版の忍法分身の術だ。フィクションの世界にすぎなかったものがいまや現実になろうとしている。」

－「分身」の物語－

「個人 individual」の概念が定着する以前は、必ずしも私はこの肉体に閉じ込められた個体ではなく、よりあいまいだった。世界の物語には「分身」が登場する。日本神話では、離れた「魂」がその「宿主」と対話する物語がいくつも描かれる。孫悟空のように「分身術」を自在に使いこなす物語や、西洋では、「バイロケーション」「ドッペルゲンガー」といった心霊現象が語られた。そして、「分人 dividual」が語られるようになった現代、個人概念は分散する方向へ再帰しつつある。テクノロジカルな「分人」が、私たちの身体感覚の延長となるという未来は、様々な意味で「可能」なのかもしれない。

デジタル・クローンを前に考える

渡部麻衣子
自治医科大学医学部・総合教育部門・倫理学研究室・講師。2002年から2005年まで、Steve Fullerの研究室の在籍し、科学技術社会論を学ぶ。英国における出生前検査の開発と普及の経緯を対象とした研究で2008年に博士号取得。近著に『ポストヒューマン・スタディーズへの招待　身体とフェミニズムをめぐる11の視点』（共著）

2020年9月から半年間、科学技術振興機構の助成を受けて、『技術死生学プロジェクト』と名付けた超領域の研究プロジェクトを行いました。科学技術と、私たちの生き死には、これまでどのように関わってきたのか、そしてこれから関わっていくのか、ということについて、人文系の研究者や芸術家も含めた多様な専門を持つメンバーと考えることを目指すプロジェクトでした。

　私自身は、科学技術と人の身体の関係性に関心を持つ、人文系の研究者です。人の身体と関わる科学技術には、「この社会のなかで人の身体はどのようなものであるべきか」に関わる価値観が表れます。たとえば、身近な「メガネ」や「コンタクトレンズ」を例にとれば、そこには「視力を一定以上に保つこと」と「顔をどのように見せるか」を重視する私たちの社会のあり方、価値観が表れていることがということがわかります。こうした科学技術に表れる社会の価値観に関心を持つものとして、「人の生き死に」に関わる科学技術は特に興味深い存在です。そこには、私たちが今生きている社会にある生と死に関する価値観、すなわち「死生観」が表れるからです。どのような死生観を持つ社会に自分は生きているのだろう？これは生きて死んでいく人間誰しもに関わりのある問いです。そんな普遍的な問いに自分の研究領域から触れることのできる機会は貴重です。

　この問いを掘り下げようとする時、先端の科学技術に目を向けることは役に立ちます。というのも、先端の科学技術は、これまでの価値観を背景としながら、未知の価値観を作り出していく存在だからです。それは、過去と未来の中間に位置する、私たちの生の向かう先を考えるための基点となります。ここに展示されている（株）オルツ社のデジタル・クローンも、そうした基点として捉えることができます。

　オルツ社のデジタル・クローンは、様々な応用可能性を秘める技術ですが、私がここで特に注目したいのは「自分のために働いてくれる」存在を生み出す可能性です。「働き方」は私たちの「生き方」に直結しています。現代の日本では、子どもも大人も、何らかの「仕事」に向かって生きていると言っても過言ではありません。「自分のために働いてくれる」デジタル・クローンは、この価値観を背景として登場しながら、「働き方」を変え、ひいては私たちの生き方を変える可能性を持っている。ここには何か考えるべきことがありそうです。

　宣伝の動画を見ると、「デジタル・クローン」が可能にするのは、私たち自身の不完全な身体に頼らない「働き方」なのだということがわかります。これは大きな変化です。今のところ私たちの働き方は、自分の身体と完全に結びついているので、病めば病む前と同じようには働くことができません。これはごく当たり前のことだと思われていますが、不調の時を思い出せば、そうでなければどんなにいいかと思う気持ちが沸いてくるのではないでしょうか。

　さてしかし、私たちは「仕事」に「日々の糧を得る」だけではない「人生にとっての意味」を求めます。「大人になったらどんな仕事をしたい？」という、よくある質問は、「あなたはどんな風に生きたいの？」ひいては「どんな人でありたいの？」という問いと同義です。デジタル・クローンが自分の代わりに仕事をしてくれるようになる時、つまり、私たちの仕事と身体とが直結しなくなる時にも、この質問は今と同じ意味を持ち得るでしょうか？

　一方で仕事をしている人なら誰しも、人生にとって意味ある仕事の中にも意味を疑う作業の含まれていることを知っています。オルツ社の宣伝動画に登場する二人にとっては、早朝に上司から送られてくる日程調整メールがそれに当たるようです。共感します。そうした作業を全て代わってくれるというのなら、それは喜ばしいことかもしれません。不安定な体にとって、そうした作業こそ最も負担となるものですから。それに仕事が「私の体」を必要としないなら、自分の体が死んだ後にも仕事を続けることが可能です。しかし、そうした作業を一つ一つ取り除いていった後に残るものは何だろう？ということもまた、考えておくべきではないでしょうか。たとえば私の場合なら、デジタル・クローンが最も理想的な状態の私が書きそうな論文を書いてくれたとして、それは私にとって意味ある仕事となるのだろうか？ということです。そこへの誘惑は確かにありつつ、それを押しとどめるこの違和感の正体は何なのか。

 さて二人の子どもを育てる親でもある私にはもう一つ考えたいことがあります。それは、デジタル・クローンに子育てを代わってもらうことはできるだろうか、ということです。子育ては最も体に直結した仕事の一つです。親にとっては、子育ては日々の糧にはなりません。（それどころか糧を失う仕事です。）ですから、そこには人生にとっての意味しかない、ということになります。この仕事は、今でも積極的に他者と共有するよう推奨されています。この価値観に基づけば、デジタル・クローンに代わってもらうことに何の問題もないかもしれません。けれども、たとえば私の体が日々の糧になる仕事をしている最中に、デジタル・クローンが我が子と遊んでいる図を思い浮かべると、何だかモヤモヤしてしまうのです。それは「私」がしたい。このモヤモヤには「私」と「デジタル・クローン」の間の境界線が表れているように思います。さらに言えば、本当は今だってそれは「私」がしたいことなのではないか？と囁く、内なる自分の声が聞こえます。

デジタル・クローンが働いてくれる時、私たちにとって仕事の意味はどう変わるだろう？
デジタル・クローンに代わってもらうべきでない仕事はあるだろうか？
デジタル・クローンに代わって欲しくない仕事はあるだろうか？

それはなぜだろうか？

　デジタル・クローンを前に浮かぶ、こうした問いについて考えることで、私たちが今持っている「生き方」に関する価値観と、未来に求める「生き方」についての考えを深めることができると、私は思います。

　私たちの今を振り返り、よりよい未来へと繋げるために、デジタル・クローンとの「対話」を深めたいと思います。

共創する悦びと責任――デジタルクローンを「正しく怖がる」ために

水上拓哉
理化学研究所革新知能統合研究センター（AIP）リサーチアソシエイト。2021年に東京大学大学院学際情報学府博士課程を単位取得退学。博士（学際情報学）。専門は技術哲学・技術倫理。特にソーシャルロボットの倫理的課題に関心がある。

「デジタルクローン」と聞いて、みなさんはどういった技術を想像するでしょうか。ある人は、実在の人物を完全にコピーできる高度なAIを想像し、恐怖心や不安感を抱くかもしれません。あるいは、現在の機械学習ではそんなことできっこない、と冷静に考える人もいるでしょう。でも、どちらの反応にも大きな誤解が潜んでいます。というのも、実際のところ、現在のデジタルクローンにおいて実在の人物を「クローン」するのは、他ならぬ私たちユーザ側なのです。

故人を「再現」することを考えてみましょう。2019年の紅白歌合戦では、昭和の歌姫・美空ひばりがCGと音声合成技術によって「再現」され、大きな反響を呼びました。とはいえ、今の技術では、本人らしい発言や振る舞いは作れても、心の再現まではできません。では、どうして「AI美空ひばり」に多くの人が心動かされたのでしょうか。それは、再現された姿をもとに、私たちがそれぞれの「美空ひばり」像を想起していたからだと言えます。つまり、デジタルクローンはそれ自体で何かをクローンするのではなく、私たちの想像活動を補助する媒介項なのです。そういう意味で、デジタルクローンは将来やってくるコントロール不可能な脅威ではありません。それはむしろ、ポートレートを見て大切な人に思いを馳せたり、墓石を丁寧に扱うことで亡くなった方への敬意を表したりといったような、私たちの想像的営みの延長線上にあるものなのです。

だからこそ、今のうちから考えたほうがよいのが、デジタルクローンの行動に対する道徳的責任の問題です。もちろん、デジタルクローンが差別的発言のような問題行動を起こしたとして、その責任をクローン自身に押し付けても仕方がありません。再現先の人物の尊厳を傷つけないためにも、設計者はもちろん、私たちユーザもクローンの共創にコミットしている、という意識が重要です。もっと難しい問題もあります。たとえば、遺産相続のような死後の意思決定をもデジタルクローンに行わせる場合はどうでしょうか。「AI美空ひばり」のように各ユーザが想像力を働かせて故人に思いを馳せる場合とは違い、その意思決定は再現先の意思決定そのものとして認められるわけです。とはいえ、本人のいない世界でこの「公式化」を行う権利があるのは誰でしょうか。そもそもそんな権利のある人物なんているのでしょうか。デジタルクローンの倫理をめぐる探求はまだ始まったばかりです。

Digital Clones as the Epitome of Life as a Work of Art

Steve W. Fuller

The original text can be read here.
[ social-epistemology.com ]

以下訳文

芸術作品としての人生の縮図としてのデジタル・クローン

Steve W. Fuller
ウォーウィック大学社会学部オーギュスト・コント社会認識論教授。邦訳された代表作Social Epistemology (『社会認識論』（小林傳司他・訳）をはじめとする著作を通して社会認識論と呼ぶ領域を開拓してきた哲学者。

デジタル・クローンへの道は拓かれ、生物としての人間は、「デジタル・レガシー（遺品）」というアイデアではじまる旅へと進みはじめました。

「デジタル・レガシー」とは、第一に、人生の多くの時間をオンラインで過ごす人々の間に自然と生じる、ある種の自己製作物です。この製作には、テキスト、音声、そして動画データを一般に配信し、リアクションを得るための保管活動が含まれます。Facebookのようなソーシャル・メディアのプラットフォームは、こうした保管活動を推奨することで、プラットフォームを企業のマーケティングに役立つものとし、その魅力を増すために作られています。こうした活動の中で人生を過ごしていた人が死ぬ時には、愛する人を失った遺された人は、オンラインの碑のようなものとしてその人のデータを保存することもあるかもしれません。

けれども、より最近では、自己製作活動はより明確に、ドイツの哲学者マルチン・ハイデガーの言うところの「死へと関わる存在 being-unto-death」の方法となってきています。つまり、オンライン上に生きる人々は、少なくとも部分的には、レガシーを遺すためにそうした活動をしているのです。彼らは、現在だけではなく、おそらくは自分がコンピューターの前にはいなくなった後の、未来のフォロワーをも惹きつけようとしています。

この文脈の中に、「デジタルの死後の生 digital afterlife」の業界は登場しました。この業界は、様々な獲得データから「デジタル・アバター」を創り出すためのアルゴリズムを提供することで、人の「デジタル・レガシー」の能力を高めることを目指します。「デジタル・アバター」は、オンラインのユーザーと交流する高い能力があるだけでなく、そうした交流から学ぶことができるために、いつかは新しい性質を獲得するでしょうし、それはもはや、元の人間の行動から期待されるものとは異なるものとなるでしょう。

ここで、デジタル・アバターを、生物学的な人間のクローンとして登場したものの、時を経てデジタルな経験を積んだ結果、実際には異なる存在となる、そんな存在として考えてみることが役に立つでしょう。デブラ・バセット（Debra Bassett）は、この新しい存在の実存的状態を、再びハイデガーに基づいて「デジタルな現存在Digital Dasein」と表しました。バセットは、このプロセスのあらゆる場面に関わる人々をインタビューしました。そして、死に直面した人々は、結果的にデジタル・クローンと交流することになる遺される人々よりも、デジタル・クローンの可能性に強い関心を持っているということを発見しました。つまり、遺される人々は、独自に進化するクローンよりも、彼らの知っている生物学的な人間のデジタル保存版の方を好みます。

この最後の点は、芸術家と彼らの芸術の関係性についてよく提起される問いと似た、深い問いを提起します。しかしここで私たちは、「芸術家」がホモ・サピエンスの仲間を意味し、「芸術」が、ある意味では、そうした芸術家からは独立した生命を持っていることを理解する必要があります。私がこのように言うのは、スウェーデン人の分類学者、カール・フォン・リンネが「人間」をホモ・サピエンスと定義した18世紀半ば以前には、誰が「芸術家」で何を「芸術」と呼ぶかについての概念的余白がより多くあったからです。ここで論じているデジタルな活動は、私たちを、芸術家と芸術の関係性をめぐるリンネ以前の思考形式へと、引き戻すのかもしれません。

ここで、技能に人生を捧げる人―たとえば、科学実験用の器具や衣服、あるいは表現芸術のための舞台装置をデザインする人たち―を思い浮かべてみましょう。あるいは、道具とすっかり一体となった（サイボーグ化した）人たち、たとえば画家や音楽家、あるいは、それからは若干の距離を置いている作曲家や作家、それから数学家もいます。最後の人たちは、彼らが言葉や数字を書きつけたノートによって、彼らの身体が通常住んでいる世界を超越した世界へと入ることができる人たちです。

こうした人たちは、昔から「反社交的」とみなされてきましたし、また時に自分たちをそのように表してもきました。その明らかな理由は、長い間、彼らが、一般の人たちとの交流を仕事への集中を削ぐものとみなし、そこから距離を置いてきたからです。けれども同時に、そうした人々は、通常自分自身を我儘であるとか、利己的であるとはみなしませんでした。むしろその反対に、彼らは仲間である人間とより深い方法で、もちろん日常生活における彼らの活動よりは深いところで、交流していると主張するのが常でした。

自分自身のデジタル・レガシーを準備するために人々が費やしつつあるエネルギーには、同じような事象が起こっています。そこには、明らかに「芸術作品としての人生」という理念が引き継がれています。ここで、そうした人々は、子孫に彼らの「一番良い面」を見せようとしているのだ、と言ってしまうと、状況の形而上学的意味を不当に扱うことになります。自分のあらゆるデジタルデータを記録し並べ直すためには、多くの時間と努力が割かれます。この活動は、サイバー空間に–それが変遷することを十分に理解した上で–永遠に存在する本当の自分を起動させるためのインキュベーター、あるいはプラットフォーム、あるいはいっそパレットとして、生きた身体の経験を扱う活動としてみなした方がよいでしょう。これは人が、彼らの「芸術」を通して、あるいは「芸術」のために生きているというのと似ています。

　芸術家― そして科学者―が、彼らの考える芸術へと到達するために、彼らの身体や社会的関係性をしばしば犠牲としてきた（時には自己破滅に到るまで）ことを思い出してみましょう。もちろん、私たちの時代において「人間である」とはどういう意味か、という問いに留まらない、より複雑な問いが問われなくてはなりません。けれども大切なことは、もしも私たちが芸術家を含む世界に生きることができるのなら、私たちは、自分のデジタルなレガシー、つまりデジタル・クローンをデザインするために、人々がより多くの時間と労力を割く世界にも住むことができるはずだ、ということです。

参考文献

Bassett, D. (2022). The Creation and Inheritance of Digital Afterlives: You Only Live Twice. London: Palgrave.

Fuller, S. (2019). Nietzschean Meditations: Untimely Thoughts at the Dawn of the Transhuman Era. Basel SZ: Schwabe.