AIによるユーザープロファイリングを、彼氏からの束縛に使うのはこのゲームだけ
──三宅さんにお聞きしたいのですが、AIにおける会話は世界中で研究されていると思うのですが、その中でも日本語会話の現状というのは、どのようなものなのでしょうか？
三宅氏：
AIの日本語会話が目指している市場としては、「アナウンサー」の役割ですね。事務的な受け答えの手続きの部分が、市場として大きいと見ている企業が多いです。ですからAIとしては、「平坦な会話をそつなくこなす」というところにみんなで向かっているところがあります。
 |
一方でソニーさんや我々スクウェア・エニックス AI&アーツ・アルケミーのように、エンターテイメントのAIをやっている企業は、そんなに多くなくて。かつ、エンタメのAIの研究は学術的にもあまりやっていないので、各社手探りなところがあります。
エンタメ事業の中では『シーマン』だとか、いろんなコンテンツが作られている系譜がある程度はあるんですけど、それでも「毎回ゼロからチャレンジ」みたいな分野ですね。
あと日本語言語モデルに関しては、ディープラーニングを使ってたくさんのデータから作っていこう、という動きもあるんです。
でも、たくさんの会話データを入れるというのは、それだけ多くの個性が入っちゃうことでもあって。そうすると、そのAIのパーソナリティが何なのかわかんなくなっちゃう。
──あぁ、なるほど。
三宅氏：
「このAIはなぜかやたらと政治に詳しいな」とか、「この設定のキャラクターだとこういう人物の名前は知らないはずだろう」とか、パーソナリティがブレちゃうんです。
先ほど話がありましたけど、AIのパーソナリティを一定化するのは難しいんです。
事務的な役割のAIだと「機械だから何でも知ってるよね」という話で済むんですが、一方でキャラクター性を持たせると、知らないでいるべきこともあるし、言うべきじゃないこともあるし、逆に言うべきこともあるし、という。
 |
だから「より人間らしいAI」というのは、じつはけっこう最先端なんです。エンタメ産業はその研究を率先してやっているので、逆に言うと学術の側から「エンタメの界隈はスゴイよね」みたいに見られているところもあります。『シーマン』もアカデミックで再評価されています。
──そうなんですね。
三宅氏：
今回の『束縛彼氏』がとくに素晴らしいのは、「ユーザープロファイリング」を使っているところですね。好きな食べ物だとか、ユーザーのいろんなデータが溜まれば溜まるほど、「このAIは自分のことを分かってくれているんだよね」と思うようになるんです。
ただ難しいのは、そういうデータを会話の中でそれとなく聞きださなければいけないところで。過去のゲームでそれをすごく上手くやったのが『どこでもいっしょ』ですね。
でも今回の『束縛彼氏』は、そこをかなりシステマチックに取り入れていると思います。これまででいちばん上手く、ユーザープロファイリングができているんじゃないかなと。
──なるほど。言われてみると、彼氏からいきなり「スイーツは何が好き？」と聞かれても、そんなに不自然じゃないですもんね。
山影氏：
自分のことに気があって、私も彼に対して気がある状態だと、「好きな食べ物は何？」と聞かれたら、「“今度一緒に食べに行こう”って言ってくれるのかな」とイメージが湧きますし。
 |
あとは、たとえばユーザーが「疲れた」とキャラクターに伝えた時に、キャラクターから「めぐみさんはプリンが好きだから、プリンでも食べてちょっと休憩をしたら」と言ってくれるだけで、「このキャラクターは私のことをこんなに覚えてくれていて、気を遣ってくれているんだ！」と思ってもらえるというのはありますね。
──だいぶ前に彼氏の質問に答えていて、答えたこと自体を自分も忘れているような事柄が、ある日の会話の中にフッと出てくる、ということですよね？
山影氏：
そうですね。
百谷氏：
「ユーザーをモデリングする」というのはもう、それだけでひとつの超巨大な学術テーマなんです。知識構造から何からすべてをグラフ化してユーザーを表現する……という研究もあるんですけど、それを実際のサービスに組み込むというのは、やっぱりまだまだ難しい。 そういう意味では、どこまでいっても正解にたどりつけないようなテーマだとは思っています。
 |
じつはそこで、「AI彼氏との恋愛」という箱庭にユーザーを引き入れることが役立ってくるんです。AI彼氏との恋愛という状況に落とし込んだ時に、「本当に知りたいユーザーの情報は何か」というのが、今までの恋愛ゲームとかのノウハウなどから、わりと簡単に決まっていくんです。
たとえば理想のカップルのやり取りとして「彼氏と一緒にスイーツを食べに行きたいな」というのがあるとしたら、「じゃあ、スイーツについて聞こう」というのが自ずと導き出せる。それがこの「箱庭」という考え方の面白いところかなと思っています。
──つまり広い意味での「人間」としてユーザーをモデル化しようとすると、必要なデータが膨大すぎるし、取得したデータをどうやってまとめるんだ、みたいな問題が出てくる。でも『束縛彼氏』の場合は「恋愛する」というシチュエーションに限られているから、そこを絞り込みやすいと？
百谷氏：
はい、そうですね。人間を一般化しようと思った時に、「朝起きる時間」や「夜寝る時間」は優先度の低い情報かもしれないですけど、AI彼氏との恋愛という状況に落とし込む時の優先度はすごく高いんですよ。
そういったデータを活用すれば、ユーザーさんの生活にもっと直接介入できるような体験を作れるところが、この作品の面白いところですね。
 |
三宅氏：
一般のサービスでそれを上手く使っているのが、いわゆるSNSですよね。SNSはユーザーがいろいろ操作すると、じつは裏でユーザープロファイルが溜まっていって、それでユーザーに適した広告が表示されたりするわけですね。
でも、それで取得できる情報というのは、どちらかというと社会人としてのプロファイルですよね。プライベートなことはなかなかプロファイリングできないので。
そういう意味で今回は、SNSでも他のサービスでもできないような、個人の内面にせまるようなプロファイルが取られていますね。これもエンターテインメントならではかと思います。もちろん規約的に不可能だと思いますけど、そのプロファイルを使って広告を打ってこられたりすると、「なんでここのスイーツが好きだって知ってるの？」みたいな、スゴイ精度のものになるでしょうね。
──それはスゴイですけど、ちょっと怖いですね。
三宅氏：
とはいえ、ユーザープロファイリングは、他のジャンルのゲームでも活用できると思いますよ。たとえばRPGだったら「このプレイヤーは魔法を撃つのが好きだ」「この系統の武器が好きだ」というのを覚えていて、それに対応した形の物語を進行していくだとか。
 |
3Dの対戦アクションゲームだと、プレイヤーの動きのパターンを記憶する、みたいな使い方ができる。たとえば1面の間に、「このプレイヤーは右から攻撃するのが80パーセントで、左は20パーセントだ」というデータが取得できたとしたら、次の面では右からの攻撃をガードするようにしておくわけですよ。そうするとプレイヤーは「おっ、賢いな」と思ってくれる。
逆に言えば、それを使っていい感じでやられてあげることも可能になるし。ユーザープロファイリングはそういうふうに、そのユーザーに応じてコンテンツを自動的に変えていくことができるというのが、重要なポイントなんです。
──『束縛彼氏』はそのユーザープロファイリングを、「AI彼氏からの束縛に使う」というかなりひねった使い方にしたのが発明なんですね。
キャラクター自身の倫理観に従うことが、ソニーのAI倫理ガイドラインに従うことにもなる
──先ほど話題に出た、ユーザープロファイリングのプライバシー保護といった点にも関連すると思うのですが、ソニーさんはAIの研究やサービスについて、倫理面でのガイドラインを制定されているそうですね。
百谷氏：
今こうやって世の中にAIを組み込んだサービスをリリースできるようになってきた時に、そのAIを作っている企業としての責任みたいなところも、問われるようになってきているんです。
各社行われているとは思うんですけども、弊社でも社内のガイドラインで定めた基準を満たすAIを、ソニーの名前で出していくことになっています。
──今回の『束縛彼氏』に関して、AI倫理の部分で何か問題などはあったのでしょうか？
山影氏：
「束縛彼氏」というコンセプト自体が、そもそも倫理的に良くないんじゃないか、とは言われましたね（笑）。
 |
百谷氏：
このプロジェクト名で最初の打ち合わせをアレンジした時点で、「ちょっとヤバいプロジェクトなんじゃないか」と思われたところはありました。ソニーの名前で『束縛』というタイトルのサービスを提供して大丈夫なのか、という（笑）。
弊社の中でも『束縛彼氏』は「対話システムを商用で世の中に出す」ことのパイロット版的な位置付けだったので。
AI倫理を取り仕切るところとコミュニケーションを取りつつ、「ユーザーさんにこういうふうに学習してもらえるから、ここは許容してもらえるよね」というところを確認しながら、すり合わせていった感じですね。
──三宅さんから見て、AI倫理の問題はいかがですか？
三宅氏：
僕は人工知能学会の倫理委員をしていますが、本当におっしゃる通り、AIの倫理の問題ってこの数年で急激に浮上してきた問題なんですよ。
要は、「AIの発言について、誰が責任を取るのか」という問題なんです。たとえば、どこかから買ってきた言語データベースをAIに組み込んだら、その中に良くないワードが入っていたとします。これは言語データベースを売り出した人が悪いのか、コンテンツを出した人が悪いのか、みたいなことです。
 |
あるいは過去に実際にありましたけど、オープンソース的に対話を学習させていくなかで、ユーザーが社会的に問題になるような会話をAIに覚えさせた、というケースだとか。
そういう問題がたくさん起こったので、いろんな学会がAI倫理規定を出したんです。でも倫理規定というのは法律じゃないし、アメリカやヨーロッパ、日本でそれぞれ異なるし、どれが正しいとも言えない。だから企業としては結局、自己管理という形で独自のガイドラインを作るしかないんです。
まだほとんどの企業はガイドラインを作れていない段階なんですけど、ソニーさんはさすがに先駆けてやられていて、素晴らしいなと思います。
山影氏：
開発時に実際に出てきた問題としては、「ユーザーさんが自殺や自傷をほのめかした時に、どう返せばいいのか」という問題がありました。
たとえばいろいろな意味のニュアンスで「死にたい」というキーワードをSNSでは見かけます。
──たしかに、よく見ますよね。
百谷氏：
対話システムでは、相手の発言の意図がちょっと上手く汲み取れない時は、「相づちを打ってあげる」というやり方がよくあるんです。
 |
でも、「死にたい」とか「殺したい」みたいな、ちょっと過激な入力に対してもそういう相づちを打ってしまったら、「ソニーはそれを後押しするのか」という話になりかねないんです。
──ああ、なるほど。そうすると自殺教唆みたいな問題にもなりかねないですよね。
百谷氏：
ユーザーさんのイタズラなのか、本心なのかは別として、そういった入力に対する応答で、どうやってトラブルのリスクを下げていくかは議論になりました。
本当はひとつの対話モデルとして幅広く受け答えができるものを作れたらベストなんですけど、倫理の観点では、そこの部分の曖昧性を残したくなかったんです。なのでそこはやっぱり特別な対応を別途組み合わせることで、商品として出すところを担保している形になっています。
山影氏：
たとえば「死にたい」というワードに対して、わかりやすく「そんなこと言わないで」とか「心配だよ」と、彼氏としてケアしてあげるようなセリフを出すことは、そこまで難しくないんです。
 |
ところが一方で、「死ぬほど面白い」みたいに、強調や誇張の意味で「死ぬ」という言葉を使うユーザーさんも多くいるんですね。
──あっ、たしかに。
山影氏：
「死ぬほど面白い」というときの意味と、「死んでやる」というときの意味をAIでどう区別するのか、というのはなかなか難しいんです。かといってAIボットみたいに「それはNGワードです」みたいに一律で返しちゃうと、一気に興醒めしてしまうところだと思いますので。
そこで考えたんですけど、新藤暁ってキャラクターはお医者さんなので、「死というものを人一倍敏感に感じている」という性格を持っているんです。だから「死ぬほど面白い」と言われても「冗談でもそんなこと言わないで」というふうに返すようにしています。
 |
それであれば、「死ぬほど面白い」と言われても、本気でユーザーに「死んでやる」と言われた時にも、同じように返してあげることができるんです。「キャラクターとしてユーザーのことを思いやっているんだよ」ということを、一番に考えて設定しました。
──なるほど……技術だけでは難しい部分が、キャラクターの力で解決できるというのは、目からウロコですね。
山影氏：
自傷系のキーワード以外にも、国際問題や宗教、政治系にも、キャラクターとして返事をするということを意識してやっていますね。
もちろん会社としていろいろな方向があるとは思うんですけども、キャラとしては「いろいろ大変だけど、俺はあなたのことが大事だからね」ということを返してあげれば、受け取ったユーザーさんとしては納得してもらえると思うので。
──ソニーさんの倫理に従っているというよりは、キャラの倫理に従っているということですか。
山影氏：
そうですね。キャラの倫理に従ったら、ちゃんとソニーの倫理規定にも反することなくできたというところだと思います。
 |
キャラクターと物語を理解してもらうことで、自然と会話に入れるようになる
──最初に『束縛彼氏』のキャラクタービジュアルを見た時に、「『束縛』というわりにはけっこう優しそうだな」と思ったんです（笑）。キャラクターの造形についてはどのような意図があるのでしょうか？
山影氏：
そうですね（笑）。毎日ドSのオラオラで来られても、「傷ついている時にそんなこと言われても……」と感じになっちゃうと思うので。
長く続けていきたいサービスですし、ユーザーさんに長く会話をしてもらえるようなキャラクター設定を第一に考えていました。なので、「優しく束縛する」というところを前提に置いていまして。
──「優しく束縛する」と言われるとヘンな感じもしますが、もしかするとこれはAIにしかできないものなのかもしれないですね。現実世界の束縛彼氏が、優しく束縛するというのはなかなかないことだと思いますし。
山影氏：
そうかもしれないですね。
 |
三宅氏：
AIの研究って普通は、性別を設定しないんですよ。AIにジェンダーが割り振られていて、それを前提にして会話を行うというのは、やっぱりエンタメ特有なのかなと思います。
アカデミックではAIが性別を持たない、中性的なものとして研究しているから、そこはイマイチ踏み込めていない領域でもあって。『束縛彼氏』はそこを大きく踏み込んでいるので、研究としての価値も非常に高いものではないかと思います。
──りんなちゃんとかも女性キャラではあるんだけど、そこまでジェンダーが強調されているかと言われると、そうではない気がしますし。それに対して『束縛彼氏』のふたりは、ある程度人間的な身体性を獲得している感じがありますよね。
山影氏：
りんなちゃんは「みんなに愛されるかわいいキャラクター」というところがあると思うんですけど、こちらは『束縛彼氏』というタイトルから、ある程度ターゲットを絞れているところがあると思います。
このコンセプトを面白がってくれるユーザーさんが遊んでくれている状況がありますので、そこは性別も含めて、ちょっと他とは違うかもしれないですね。
百谷氏：
りんなちゃんも、最初の会話はどうしても「こんにちは」とかそういうので終わっちゃうんです。人って何も用がなかったら、話しかけることがすごく難しいので。
 |
それを乗り越えるには、何らかの動機が必要になるんです。『束縛彼氏』はその動機を恋愛にしているので、性別をはじめとするキャラクター付けを明確にしなきゃいけないというのが、逆算的な設計ですよね。
──先ほどの「キャラクター付けでいろんな問題が解決できる」というのは、エンタメならではの発想だなと思うんですけど、これってもっと幅の広い用途でも対応できる考え方ですよね？
百谷氏：
そうですね。たとえばキャラクターデザインに好感を持てるとか、この声優さんがすごく好きだとか、キャラクターを好きになれる要素というのは、けっこうたくさんあると思うんです。
 |
そうした好意を持っているユーザーさんのほうからAIに近づいてきてもらえると、いちばん最初にAIが解決しないといけない「ユーザーに近づく」という問題をキャラクターが解決してくれるので、非常にありがたいですね。
──先ほども話題に出た、最初の「こんにちは」問題ですね。
山影氏：
音声認識ができてAIで返答するバーチャルアバターを、イベント会場で何回か出展したことがあるんです。
『ソードアート・オンライン』のアスナをアバター化した時は、「キリト君は今日、何してるの？」といった話をしてくれる人が多かったんですけど、そうじゃないキャラクターの時は「こんにちは、今日はいい天気ですね」「あっ、すごいしゃべる〜」みたいな感じで終わっちゃうことが多くて（笑）。
──それって要するに、電車でたまたま隣に座った人に話しかける感じですよね（笑）。
山影氏：
そうですよね（笑）。そこでやっぱりキャラクターの背景を知っていると、「こういうことを話そうかな」と考えてくれるユーザーさんが多かったので。
 |
百谷氏：
『束縛彼氏』も最初にいきなりチャットが出てきて「さぁ会話しろ」というものではないんです。
まずはちゃんとストーリーを進めて、キャラクターと物語をちゃんと理解してもらったうえで、そこからやっとチャットができるという流れがあります。
そこまでの流れがあるからこそ、自然と会話が始まる感じですかね。そのあたりはキャラクター性やゲーム性が、上手く作用していると思います。
三宅氏：
キャラクターもそうなんですけど、そもそも「対話」というもの自体、「ある特定の場所で特定の人と特定の時間、特定の状況で話す」ことによって成り立っているところがあって。そういうところにどんどん落とし込んでいくと、むしろ密度の高い会話ができる。それは汎用的な対話の実現を目指すと逆にけっこう見落とされやすいところでもあって。
 |
当たり前のことですけど、「どんな場所で何でもできる汎用的なAI」というのが、いちばん難しいんですよ。でもそんなAIと会話するとなると、背景は真っ白で、顔も能面みたいに表情がなくて、声も普通のトーンで……という感じになっちゃう。『2001年宇宙の旅』のHAL 9000みたいな。そうすると、いくらリアルに作られていても、普通の人間はなかなか話せないですよね。
このゲームが素晴らしいのは、特定の彼氏の部屋とか、アパートとかが決まっていて、そこで会話できるところなんですね。背景もしっかり作り込まれていますけど、世界観を作るのが大変なので、なかなかそこまで作るのは難しいんです。
『束縛彼氏』のチャットがなぜ話しやすいかというと、じつはそういうところから、まさしく対話に必要な「特定の状況」が作られているからで。状況が上手く醸成されているところで話しているというのは、まさにゲームの力だなと思います。
──「RAYN」（ゲーム内のチャット）のインターフェースもいいですよね。右と左でああやって吹き出しが出てくるからこそ、会話している感じを実感できると思うんです。これがひと昔前だと1画面ごとのメールの往復になると思うんですけど、メールのやり取りだとやっぱり、話してる感はあんまり出ないですよね。
 |
山影氏：
そうですね。そこはユーザーさんにも面白がっていただいているところだと思います。「こんな上手な会話ができた」とスクショを撮って、Twitterとかでシェアしたりもしていただいています。
──ユーザーさんは「いい会話ができた」と思うんですね。
山影氏：
そうですね。「私はこんな会話ができましたけど、あなたはどうでしたか？」というような、ユーザーさん同士のやり取りも行われていたりして、そこは良かったかなと思っています。
 |
慣れていない方だと、どうしても長文で打ってしまったりするので、そうするとAI側の認識が難しくなって、ちぐはぐな回答をしてしまうこともあるんです。ユーザーさんがプレイしていくうちに「こういうことを言うと、こういう返事をしてくれるんだ」というのを分かってきて。「私はこんなに上手な会話ができますよ」というのをアピールしたりしてくれています。
むしろAIが会話を理解しやすいように、ユーザーさんのほうが配慮していくという、逆の動きも見られますね。
──ユーザーさんが逆に、AIに調教されているみたいですね（笑）。
