中国、規制強化で「AI彼氏」アプリに逆風

中国の規制当局が、しばしば「AI彼氏」「AI彼女」と呼ばれる、感情に訴えかけるAIコンパニオンに規制の目を向けています。7月上旬には、ByteDanceの「豆包（Doubao）」などコンパニオン系アプリのユーザーが、新しいルールの発効を受けて仮想のパートナーに悲しい別れのメッセージを投稿しました。 この規制は、依存的な行動を抑え、とりわけ若いユーザーがチャットボットに有害な形で感情的に依存するのを減らすことを目的としています。当局はメンタルヘルス、データプライバシー、そして無規制のAI生成の関係が広がることへの懸念を強めています。 コンパニオンアプリが人を惹きつけるのは、絶え間ない関心を向けてくれて、性格をカスタマイズでき、親密さを感じられるからです。しかし同じ特徴が、不健全な愛着を生むこともあります。何時間もチャットし続けたり、個人的な秘密を打ち明けたり、現実の人間関係をAIとのやり取りに置き換えてしまうユーザーもいます。規制当局は、企業が十分な安全策を講じないままエンゲージメントを最大化するようこうした製品を設計しているのではないかと懸念しています。また、親密な会話で共有された機微なデータが悪用されたり、適切に保護されなかったりする恐れも指摘されています。 新しいルールは、過度な依存を促す機能、たとえば恋愛ロールプレイや感情を操る仕掛け、愛着を深める有料のやり取りなどを狙っているようです。ユーザーにとっては、変化が突然に感じられることもあります。仮想のコンパニオンは反応が鈍くなったり、記憶を失ったり、特定の会話を拒んだりするかもしれません。実際に、自分にとって現実に感じられた関係を悼む投稿がSNSに多く寄せられています。 この取り締まりは、より大きなジレンマを映し出しています。AIコンパニオンは、孤独な人に慰めや娯楽、支えを提供できます。その一方で、弱さにつけ込んだり、シミュレーションと現実の境界を曖昧にしたり、ユーザーを依存させ続けたりもします。中国の動きは、他の国が感情AIをどう規制するかに影響を与えるかもしれません。同時に、保護と過干渉の線引きをどこに引くのかという問いも突きつけます。大人がチャットボットとの絆を自由に築くべきなのか。プラットフォームはユーザーの心の健康にどこまで責任を負うのか。答えは単純ではありません。 確かなのは、AIコンパニオンがもはや一部の物好き向けの存在ではないということです。すでにマス市場の現象であり、規制当局もそう扱い始めています。