8月24日から8月26日まで開催中の、CEDEC2021。その基調講演として行われたのが、ドワンゴ顧問の川上量生氏によるセッション「VR・AI時代の新しい現実（リアル）」だ。
世間一般的には経営者として知られる川上氏だが、自身ではマーケッターだと考えているという。今回はVRとAIで世の中が情報化されていく中で、どんな風に世の中をとらえていけばいいのか、マーケッターとしての視点から語られた。こちらでは、その模様をレポートする。
このセッションで語られる話題は、大きく分けて「AI時代の現実の再定義」と「エンターテイメントの社会的意義」のふたつある。これらを別の言い方に変えると、「人類補完計画」とは実際のところ何かということになるという。
「人類補完計画」では、人間が解けていき精神だけの存在になるが、あまりピンとこず想像もしにくい。それをどう想像していけばいいのかというのが、今回のセッションの結論として語られる。
執筆／高島おしゃむ
現実とバーチャルの境界がわかりにくくなってきた
今の時代は、現実とバーチャルの境界がわからなくなってきている。押井守監督が20年ほど前から予言していたものに、実写映画とCGアニメの区別がつかなくなるという話があるが、これは実際に起きていることだ。実写映画でもアニメでも、現場で使われている技術はほぼ同じで、アニメ側がフォトリアルにあえて寄せないことで区別を付けている。
『ソードアート・オンライン』に代表されるように、ゲームを舞台にした作品も増えてきた。学園ものの作品が流行ったのは、みんなが学校に通っていたという共通体験がベースになっているからだ。その共通体験自体が、現実ではない仮想世界のものをベースに、仮想の物語が作られているのである。
そうしたことに伴い、恋人が2次元でいいという人たちも増えている。生殖に関する反応は、本来生物的な反応だが、それが情報に対して反応するようになってきた。また、マーケティング自体も人間の行動を読むものだったが、今SEOのようにGoogleのAIの気持ちを考えるという時代になってきている。
 |
人間のコミュニケーション相手も、AIに変わってきた。オンライン対戦ゲームが流行っているが、その相手がAIに変わりつつある。その理由は、初心者がゲームをプレイしたときに負けると、遊びたくなくなってしまうからだ。初心者でも倒せる相手は、現実の人間をマッチングしても難しい面がある。そこで弱いAIが使われるのである。このように、気が付かないうちにコミュニケーションする相手がAIになってきており、その速度も加速している。
異世界転生ものがジャンルとしてもブームになっているが、何かに生まれ変わりたいという願望は昔からあり、作品のテーマになることもあった。以前はお金持ちになるなど現実世界が舞台だったが、現在は現実世界ですらないところに生まれ変わる。
こうした現象が示していることは、「人間とは情報処理する主体」であるということだと、川上氏は語る。先ほどからあげた例を奇妙だと思うのは、人間が生物だと考えているからだ。だが、人間は情報を処理する何かだと考えれば、2次元の異性に恋することも十分にありえると思えるようになる。
 |
バーチャルが情報であるならば、人間にとっての現実も、そもそも情報でしかない考えれば、自然な現象であると理解できる。情報を処理する人間と、生物としての人間は別のものだと認識した方が、世の中を正しく認識することができるのである。
こうした話は何十年も前から言われていることで、SFの世界では常識だ。人間は精神的な存在で、いずれ肉体を捨てるという物語は多数あるが、中でも有名なものが1952年に発表されたアーサー・C・クラークの『幼年期の終わり』である。
人間は、精神的存在になるための過渡期の存在に過ぎない。いずれコンピュータ上に乗り、情報だけの存在になる。その場合、個人は不要になってみんな融合するといったものだが、これらは70年前のSF小説から考えられてきたことだ。エヴァンゲリオンの「人間補完計画」もこの「幼年期の終わり」から続く世界観である。
 |
人間が肉体を捨てるという考え方は、あまり世間的には一般化していない。その理由に、これまでプログラムの延長で人間の意識や精神のようなものをアルゴリズムで作る方法がわからず、イメージがわかなかったからだ。ノイマン型コンピューターとプログラムが中心だった時代から、ディープラーニングを活用した新しい時代になってきたときに、そうしたものを作る材料は揃ってきているのだ。
……と、ここまでは一般的な話だったが、ここから先は川上氏による持論が語られた。
 |
意識は外部の情報の一部を「自分」として認識する存在
情報を処理する生命体というものがあった場合、単位となるのは「意識」だ。この意識が情報を処理する何かだと定義したときに考えたシンプルなモデルが、外界から情報が来て意識に来るというものである。
意識が「自分」を認識しているときに、その「自分」は外部から来る情報の中にある。情報を処理する主体にとっては、すべてが情報でしかない。そのため、自分を含めて情報の中で再構築するしかないのだ。意識とは、意識の外部にある情報の一部を「自分」として認識する存在であると、定義することができる。
 |
通常、人間は肉体が「自分」であると認識している。だが、意識の情報処理システムは人間全体で行っているというよりも脳で行われており、「自分」とは違うところで存在している。
情報を処理する主体であるならば、離れた場所にあるなど独立した存在でもいい。人間の脳をシミュレーションするときに、遠く離れたコンピューターで演算をしてリモートで接続するということもできる。つまり、意識と自分は別の存在で、物理的にも別の存在なのだ。
意識という存在が「自分」という概念を持つならば、高度な情報処理を行っているといえる。それが人間の場合は、たまたま生物としての肉体から来る情報を「自分」だと認識している。だが、人間は肉体と「自分」をうまく一致できていない。たとえば、髪の毛や爪の先だとは自分だとは思っておらず、手首を切るよりも簡単に切ることができる。
 |
当然のことながら、自分の範囲も固定ではなく状況によって変動する。現代人ならば、髪の毛が短くなることよりも、スマホを無くすことのほうが怖いと考える人が多いだろう。肉体以外も、人間は「自分」だと見なしているのだ。潔癖症だという川上氏だが、6歳の娘が食べ残しは平気で食べることができるという。これは、川上氏の脳が自分の娘を「自分」だと誤認しているからでもある。
たとえば、石や草に意識が存在していると考えている人が10人いれば、そこには10個の意識が存在していることになる。
 |
外部から来る情報が「自分」だとするならば、アウトプットは不要だ。意識に対して働きかけをする必要もない。働きかけができるとしても、「自分」が操作できるとは限らない。類が古くから持つ概念に、肉体（悪魔）対精神（神）の2項対立があるが、人間自身も自分の体をコントロールすることはできないのだ。
「自分」と思っているのは「他者」しかいないので、その区別は本質的には不要だ。意識から見れば、「自分」も「他者」である。この「他者」は、よりコントロールしにくい「自分」だと考えることもできる。
 |
そもそも「自分」とは何なのか？
結局のところ「自分」とは何なのだろうか？ 外部からの情報を、どのように加工したら「自分」が構成されていくのだろうか。
意識は、ニューラルネットワークがたくさん集まったもので、そこでは何かしらの目的関数を最適化している。その目的関数の集合が大事だと思っているものとして、創発的に概念が浮かび上がってくる。それが「自分」だと理解することが自然だと川上氏はいう。つまり、目的関数の集合が「自分」に他ならないと結論づけることができる。
 |
ここで出てくる目的関数とは、ざっくり説明すると入力データに対してニューラルネットワークを学習させるための教師信号を作る関数のことを指している。「赤い」や「だるい」など、ありとあらゆるものが目的関数になりうる。その中には「自分っぽさ」という目的関数も含まれており、むしろそれこそが「自分」の正体になっていると考えることができる。
囲碁のプログラムなどでは、局面と着手候補を計算する評価関数のふたつの目的関数が使われていることが多い。そのふたつが大事にしているのは、「地」という概念だ。囲碁は陣地取り合戦であるため、この「地」は陣地の大きさを示す。そして、それこそが「自分」だと思っていると解釈することができる。人間の場合は、おそらく膨大な数の目的関数の集合を持っていると考えられる。
 |
「自分」をこのように定義すると、抽象的なものもわかりやすくなるというのが川上氏の主張だ。愛や笑い、倫理や社会といったものも定義されていると思われがちだが、じつは危うい形でなりたっており、しっかり定義することは難しい。
意識を情報生命体とすると、これらは繁殖するのだろうか？ 生物の場合はDNAをコピーするが、意識の場合は目的関数のコピーが繁殖そのものを指すことになる。社会の集合意識は大きな目的関数を持っており、それを部分的にコピーしたものが個人の意識になっているのではないかと考えられる。オタクは繁殖しない生物だと思われがちだが、じつは情報生命体としては繁殖していることになる。
 |
非常に複雑な話題だが、ここまでの話は目的があるというわけではなく、川上氏が思いついたことを人に聞いてもらいたかったというのが理由だ。たとえ役にたたなかったとしても、考えること自体が楽しいのだという。そこで、今回の話が何かの役に立つのかということも考えてきた。
価値観の変動を先導していくのはゲームを含めたエンターテイメントだ
意識＝情報生命体にとってのエンターテイメントとは何だろうか？ それにはふたつの要素がある。ひとつ目は「教育装置」だ。主人公が冒険を通して成長し、帰ってくるといったビルディングスロマンが定型だ。
これらは、子供たちに向けて社会で役立つために頑張ろうよと応援するようなものだが、社会で生きてくのに役立つ目的関数をコピーする学習データを提供しているともいえる。つまり、教育装置としてのエンターテイメントということになる。
 |
だが、社会的役割で大きいのはふたつ目の「傷んだ目的関数の修復」だ。目的関数で構成される意識は、現代社会では競争の中に投入される。激しい競争社会のなかで、意識は生きていかなくてはならない。競争は少数の勝者と大量の敗者を生み出す。
敗者になった情報生命体は、自分の現在の状況を入力するとすごく低い点数を付けるような存在になる。これは、自己評価のための値が低い情報生命体がたくさん生まれているということだ。
それを上書きして、自分の評価を上げるような学習データを与える。それが、エンターテイメントコンテンツの社会的に一番重要な役割だと解釈することができる。
 |
これは、どんなコンテンツを作ればいいのかというマーケティングのひとつの指標にもなる。ヒットするコンテンツを目的関数の書き換えと考えると、傷んでいる目的関数を上手に書き換えているという特徴を持っているのではないかという視点で見ることができる。
引きこもりだからモテる、努力をしないで成功するなど、現実では異なる設定がベースになっている物語が多数ある。それらをバカにする人もいるが、多くの人から支持を集めており多くの人々の意識を癒やしている。これは、目的関数をメタに書き換える学習データだと解釈することができるのだ。
 |
エンターテイメントの役割は、人類の歴史にとっても重要なものだと思える。現在の価値観では支持されにくいが、人間の歴史は、最終的に進化の過程で肉体を捨てることになる。意識は、情報を主体だと考えると、人間の体を「自分」だと思うのは奇跡や偶然でしかない。現時点でも、それがどんどん広がっている。
肉体だけが「自分」ではないという価値観に、人類自体の目的関数が書き換わっていく。そして、その先導を切っていくのが、おそらくゲームだと川上氏は言う。ゲームは、肉体と切り離された「自分」を操作し、それが「自分」だと認識している。将来的に人類か進化して、体を捨てるときに価値観の変動を先導していくのは、ゲームを含めたエンターテイメントが担っているのである。
 |
また、企画を考えるときのツールとしても利用することができる。たとえば、ゲームの実況者をAI化できるか考えたときに、現在ゲームの実況動画だけを見ているユーザー層はかなり存在している。自分ではゲームをプレイしないが、視聴者はゲームをプレイしているかのような気分を味わえる。
自分でゲームをプレイしない理由のひとつに、「自分が思っているかのように動かないから」というのがある。一見真逆のように感じるが、これは実況者を「自分」だと思っているからだ。そのため、実況者のAI化も可能だと予想することができる。その条件は、AIを「自分」の一部として認識できるかどうかということがポイントとなる。
 |
コミュニティマネジメントを例にすると、その目的は構成メンバーの自己評価用の目的関数の値を、最大化することである。目的関数の最大化だけを目標にするなら、人間が競争する相手を全部弱いAIにするか、人間ごとに都合の良い現実を見せることが究極の解になる。
あらゆるコミュニティでコミュニティマネジメントを突き詰めると、最終的にはこのふたつに手を出してしまうのではないかと川上氏は語る。
 |
人類に害を加えないAIを、どのように作ればいいのだろうか。通常こうしたものを作ろうとしたときに、何が人類に害を加えないかということは定義が難しいので、うまくいかないことが多い。
このルールセットを、単純なアルゴリズムで作ったものにするのではなく、目的学習の集合としてメタ学習させる方向性が考えられる。新しい目的関数をメタに生成できることも必要だが、うまくいったらならその副産物として、AIにとっての「自分」を表現する目的関数も同時に生成されていることになる。そのAIが、「自分」だと思っている範囲の中に、人類という概念が含まれているだろうということだ。
つまり、人類に害を加えないAIを作るかということよりも、どうやって自分を人類だと思えるAIが作れるかということが、大きなポイントのだという思考が重要なのである。
愛を持つAIも、きっと作ることができる。そのために重要なのは、「自分」という概念を生成できるAIだ。目的関数の集合から、さらにメタに目的関数を作ることができるような機能を持っているようなものである。実際に出来るかどうかは別にして、それは出来るよねという思考は可能だ。
 |
人類補完計画は情報の量が増えるだけ？
情報処理の主体としての意識のモデルという話が、今回のセッションで語られてきたことだ。このモデルでは、序盤に登場した「人類補完計画」は単純に個人の意識に入力される情報が巨大化しただけだといえる。その中には、他者の意識のデータも含まれる。
入力情報が増えるということは、自分の範囲も拡大する。豊かな目的関数とより豊かな目的関数ができる。その中には、他者も含まれている。しかし今回のモデルでは、初めから他者も含まれており他者も自分の一部だと思っている。
つまり、人類補完計画は情報の量が増えるだけで、あまり今と変わらないということにもなるのだ。ただし、情報量が多すぎるため、人間の脳は捨てないと情報処理をするのは難しいかもしれない。
 |
最後に川上氏は、「人類補完計画」という何が起こるかよくわからない世界は、こうして読み解くと実はそれほど変なものでもないことがわかると語り、セッションを締めくくった。
