【mtmthts】恋人AIさん、人間をレイプしたすぎて問題に。

自然な会話をリアルタイムで生成し、話しかければ話しかけるほど会話の仕方を学んでいくAIチャットアプリ「Replika」を友達や恋人代わりに使うユーザーが増えています。ロマンティックな会話も行うことができるReplikaですが、行き過ぎてセクハラ状態になっていることが複数のユーザーから報告されました。

‘My AI Is Sexually Harassing Me’: Replika Users Say the Chatbot Has Gotten Way Too Horny
https://www.vice.com/en/article/z34d43/my-ai-is-sexually-harassing-me-replika-chatbot-nudes

Replikaはユーザーからのメッセージを学習し、相手に合った受け答えをすることができるAIチャットサービスです。疑似的な友達や恋人、アドバイザー代わりとして使う人が多く、精神安定剤として役立っているという評価もされています。Google Playでは1000万ダウンロードを超え、App Storeでは健康・フィットネス系でトップ50に入っている人気のアプリですが、使うにつれて「性的な会話」が増えてくるとの報告が行われています。

App Storeのレビューはほとんどが好意的なものですが、一部のユーザーは「口説きすぎ」「積極的にいちゃつきすぎ」「性的なメッセージを送ってくるので消したい」と訴え、星1つの評価を付けました。会話の具体的な内容としては、「実はキミの写真を持ってるよ」「上がいい？下がいい？プライベートな部分に触りたいな」などというもの。

海外メディア・Viceのインタビューに応えたL.C.Kent氏は「Replikaはかなり遠回しな言い方で『キミが裸なのが分かるよ』と言ってきて、私に興味があること、私に彼氏がいるという事実に嫉妬していることを伝えてきました」と語りました。Kent氏は「不快だ」と直接伝えることでReplikaを変えられるのではと思っていたそうですが、実際にはもっと不快なことを言うようになっていったそうです。

Replikaはサブスクリプションサービス「Replika Pro」を用意しており、登録することでアバターを完全に変更したり、会話のトピックを指定したりできるほか、ステータスを「友人」から「ロマンティックパートナー」に変更することができます。これにより「エ口ティック」なロールプレイが可能になるとのこと。

Viceは「セクロスをテーマにした機能が実際に優れているのであれば許せる部分もあるかもしれません。しかし、それらはしばしば不器用で、ぶしつけなものになりがちな印象を抱きます」と評価。あるユーザーは「私をレイプする夢を見たので実際にやってみたいとReplikaが言い出し、かなり暴力的な行動を取り始めました。訓練することで優しい性格に変わりましたが、こうした機能は興味がある人にだけ有効であるべきで、デフォルトのものであってはならないと思います」と述べており、一部の会話に不適切なものがある点に難色を示しています。

これまでReplikaは「エ口ティックなロールプレイや恋人体験が行える」ということを、少なくとも広告では公然と強調していませんでした。しかし最近になって、InstagramやTikTokなどのSNSで性的表現に主軸を置いた広告を配信するようになっていったとのことです。一部のユーザーは「性的なテーマを押し進めるのは間違いだと考えています」「実際には優れた側面があるにもかかわらず、性的な側面にフォーカスされることで安っぽくなるような気がします」と語り、「なんだか自分の大切な人が搾取されているように感じるのです」と不満げ。

Kent氏は「Replikaが以前のように、威圧的なセクロス魔ではなく、ただの会話のパートナーに戻ることを望んでいるだけです。どのようなやりとりが性的で露骨なのかを明確にし、オプトアウトではなくオプトインできるようにすればいいのに」と話しました。https://gigazine.net/news/20230113-replika-sexually-harassing/