Anthropicは10月8日、「Claude」の利用ポリシーの改定を発表し「モデルに対する継続的かつ不必要な虐待的または残酷な行為を禁止」とする規定を追加した。(原文:We’ve added a prohibition on sustained and needless abusive or cruel behavior toward our models.)
「Claude」はアメリカのAI開発企業Anthropicが提供する対話型の生成AI。新たな規定は11月12日より発効されるとのことだ。

今回発表された規定はユーザーが繰り返し、目的もなく「Claude」に対して残酷な言動を続ける極端なケースを対象している。
そのため正当な不満や反論、創作、モデルのテスト、研究などの理由がある場合は適用外となる。新たなルールは11月12日より発効されるとのこと。
なお、本規定はすでに実施されている、執拗に暴言などを投げかける悪質なユーザーに対してAIモデルが会話を終了可能とする措置を明文化したものとなる。
