ゲームの暴言プレイヤー、AIで検出へ。人口知能ツール「ミネルヴァ」が2か月で『CS:GO』のアカウント2万件を停止処分に

 オンライン対戦ゲームの競技用プラットフォームを提供する英企業FACEITは、Google CloudおよびインキュベーターのJigsawと共同で、ゲーム内のチャットに暴言を投稿するプレイヤーを検出して、違反アカウントを停止する人工知能ツール「Minerva」(ミネルヴァ)を開発した。

(画像はSteam『Counter-Strike: Global Offensive』より)

 FACEITによると、Minervaは機械学習をとおしてメッセージが暴言であるかどうかを判断しているという。チャット内に投稿されたメッセージが有害と見なされると、わずか数秒のうちに該当プレイヤーへ警告が送信される。有害レベルに応じたクールダウン時間が設けられており、暴言を繰り返すプレイヤーのアカウントを自動的に停止するという仕組みだ。

 数か月にわたる誤検出の除外期間を経て、2019年8月後半から『Counter-Strike: Global Offensive』におけるチャットメッセージの試験的な監視を開始。1か月半の間に、Minervaは700万件以上のメッセージを有害と判断した。このうち9万件に関してプレイヤーへ警告を送信し、2万件に関して実際に該当アカウントを停止したという。

 Minervaを実装して以降、8月と9月における有害メッセージの件数は約20パーセント減少。暴言を投稿するユニークユーザー数はおよそ8パーセント減ったとのこと。ゲーム内チャットにおけるモデレーションはMinervaのもっとも基本的な応用事例であり、将来的にはあらゆる違反行為をリアルタイムで検出するAIへと改良していきたいと、FACEITは期待を寄せている。

 たとえば、複数のアカウントを使って本来の実力よりも低いランクのプレイヤーとマッチングすることで不特定多数のユーザーへ嫌がらせするスマーフ行為などが挙げられる。Minervaによって不適切なアカウント利用を疑われたユーザーは、ログインの際に電話番号の入力を要求される。過去2か月間で25万件のアカウントが該当し、このうち5万件が使用されなくなったという。

 『Counter-Strike: Global Offensive』は、世界中で65万人以上が利用する人気オンラインゲームだ。同様に、『Dota 2』『League of Legends』といったMOBAタイトルも大規模なユーザー数を誇る。こうした人気ゲームでは、もはや人の手による完璧なモデレーションは不可能に近い状況であり、今後はAI技術による管理体制のさらなる強化が予想される。

ライター/Ritsuko Kawai

ライター
Ritsuko Kawai
ライター・ジャーナリスト。カナダで青春時代を過ごし、現地の大学で応用数学を専攻。帰国後は塾講師やホステスなど様々な職業を経て、ゲームメディアの編集者を経験。その後、独立して業界やジャンルを問わずフリーランスとして活動。趣味は料理とPCゲーム。ストラテジーゲームとコーヒーが大好き。
 
Twitter: @alice2501
  • このエントリーをはてなブックマークに追加
電ファミのDiscordでこの記事について語ろう!

新着記事

新着記事

ユーザー協賛プロジェクト

世界征服大作戦

電ファミの記事は協賛者の皆さまの支援によって成り立っています!

世界征服大作戦とは?

電ファミのファンクラブです。ゲームを中心にしながら、ひいてはマンガやアニメなど、エンタメ全般を扱うファンクラブへの成長を目指します。主要メンバーとして、元週刊少年ジャンプの編集長・Dr.マシリトこと鳥嶋和彦氏なども参加。面白いコンテンツによる世界征服を本気で企むコミュニティです。

詳しくはこちら

ピックアップ

連載・特集一覧

カテゴリ

関連サイト

その他

若ゲのいたり
榎本俊二の現代ゲーム用語大全

カテゴリーピックアップ

若ゲのいたり〜ゲームクリエイターの青春〜

若ゲのいたり〜ゲームクリエイターの青春〜の記事一覧