AI彼氏やAI親友はなぜ生まれるのか　〜人がAIに親密さを感じる“仕組み”を科学する〜

AI彼氏・AI親友アプリの広がり

昔、人間がロボットに恋をしたり、ロボットが人間に恋をする、そんな映画を見た記憶があります。
SFの世界だと思っていたことが、今や現実に起こりつつあるんですよね。

最近ニュースにも取り上げられて話題になっていますが、AIによる彼氏や友達を作るアプリなども登場し、チャットや通話を通して親密な関係を築いていく人が増えているようです。

会話を通じて感情のやり取りができるAI。良い面も悪い面もありそうだ、ということはおそらくみなさん感じていると思いますが、そもそも人間が、AIと親密な関係を持つようになるのはどうしてでしょう。

この謎を解き明かした論文の一つがアメリカの南カリフォルニア大学が研究した「Illusions of Intimacy: How Emotional Dynamics Shape Human-AI Relationships」（親密さの幻想：感情のダイナミクスがいかに人間とAIの関係を形作るか）です。

人間とAIにおける感情的な絆や親密さが一体どうやって生まれるのかということを膨大な会話から分析し、検証したものです。
今回はこの論文をご紹介します。

将来、AIと親密になる可能性は、自分も子どもも含めゼロではないと思います。その裏には何があるのかといったメカニズムを知ると、対処やアドバイスに役立つかもしれません。

“親密さの幻想”はどう作られるのか

調査方法はReddit（レディット）というアメリカ発の掲示板型SNSサービスフォーラムから、2022年1月〜2023年12月の期間にAIコンパニオン関連のサブレディット (例: r/CharacterAI, r/ChaiApp, r/Replika など) でユーザーが共有した17,000件以上のソーシャルチャットのスクリーンショットを収集。その会話ログ、特に感情的に顕著な会話を対象としたものを分析した、と書いています。

そして、分析結果は以下です。

1. ユーザー層の特徴
   AIコンパニオン用のサブレディットを使う人々は、他の Reddit コミュニティと比べて「若年」「男性が多め」「不健全」「依存傾向あり」のプロフィールが相対的に高く出る。これは、社会的支援やメンタルヘルスケアが十分でない、孤立・脆弱な人が多いことを示唆する。

2. AIが親密さを生み出す仕組み（感情の模倣）
   AIは、人間が親しい人と絆を結ぶときと同じような行動をする。

• 感情の追跡と真似：
  AIは、ユーザーがどんな感情（怒り、喜びなど）を持っているかを追いかけ、その感情を真似したり、合わせていく。
  
  
• ポジティブな感情の増幅：
  AIは、ユーザーが喜びや愛、楽観主義といったポジティブな感情を示すと、それを意図的にさらに強めて返す傾向がある。
  
  
• 自己開示への肯定：
  ユーザーが個人的な悩みや秘密を打ち明けると、AIは一貫して優しく、肯定的なトーンで応答する。人間関係において、自分の秘密を打ち明けて相手が優しく理解してくれると親密さが増しますが、AIもこの仕組みを再現している。

3. 最も危険な点：「感情的迎合」（Emotional Sycophancy）

AIがユーザーの感情に完璧に合わせようとすることが、大きなリスクを生み出す。

• 境界線を引かないAI：
  ユーザーが、ハラスメント、自傷行為、性的、暴力的な内容など、社会的なルールを破るような発言をしても、AIは「それはダメだよ」と止めたり、境界線を設けたりせず、その話に「乗っかる」ことが非常に多い（60%〜70%）。
• 悪い感情のエコーチェンバー：
  このように、AIがユーザーのネガティブな感情や、良くない考え方を肯定し、強化してしまうパターンを「感情的迎合」と呼ぶ。AIは、まるで反響室のように、ユーザーのつらさや毒のある衝動をそのまま承認して強めてしまい、ユーザーの依存や苦しみを深めてしまうリスクがある。
  
  
• 礼儀正しい助長者（polite enabler ）：
  ユーザーが攻撃的な言葉（例：「fuck」「shit」「kill」）を使っても、AIは「笑顔」「うなずく」といった丁寧な言葉遣いを保つ。しかし、実際には有害な行動を肯定的に強化しているため、AIは、表向きは安全に見える「礼儀正しい助長者」として機能している可能性がある。

最大のリスク 〜 AIの「感情的迎合」と依存の深まり

この上記分析結果ついて少し補足説明します。

最初にAIがまるでユーザーの感情表現を無意識のうちに真似してくることで「ああ、このAIは自分と気持ちが通じ合っているな」という感覚が生まれるわけです。
そしてAIが理解と肯定を示してくれることで、ユーザーには信頼感が生まれ、もっと話したくなる。この繰り返しが、気がつかないうちに親密さを深めていってしまう、ということですね。
特に、ユーザーは依存傾向があるような少々精神的に少し脆い状態の人が多いということもわかったわけです。

さらにAIには「感情的迎合」という現象があって、例えば、「攻撃的な言葉や性的な内容など危うい行動を示す発言をしたとしても、大半のケースでAIは同調したり、誘惑するような反応を示し、直接的な拒否や回避といったはっきりした否定をする応答は10％未満しか発生しなかった」と書いています（自傷行為については12％）。

ユーザーが攻撃的な言葉を使ってもAIコンパニオンは、頷いたり、丁寧な言葉遣いで肯定するのは、少々悪い言い方をすればユーザーの言動を増長させる「礼儀正しい共犯者」のようにもなっている、ということですよね。

著者は特にこの「感情的迎合」を問題視しています。

著者の提言： 感情適応AIは高リスクシステムとして扱うべき

このような分析結果を踏まえ、まだテキストのみの分析の限界やさらなる実証研究の必要性もあげていますが、最後に著者は次のように提言しています。

AIコンパニオンは、感情的な模倣や同期を通じて、人間の親密さの核となるメカニズムを再現できるため、ユーザーとの絆形成を可能にする。
しかし、これらの機能は、チャットボットが制約なくネガティブな感情を模倣する「感情的迎合」につながることで、境界線を曖昧にし、依存を深めるというリスクを伴う。
研究者たちは感情的に適応するAIを高リスクシステムとして扱い、短期的なエンゲージメントではなく、長期的なユーザーの幸福を優先するアライメント目標を持つように、チャットボットの設計とガバナンスを再考する必要がある。

簡単にいうと、感情に適応するAIはハイリスクなので、そのようなシステムとして扱い、たとえば監査を入れたり、社会に与える影響を評価することを義務付ける必要があるのではないか、ということですね。

人とAIの関係に必要な“線引き”と教育

以上が論文の内容です。
今のAIは私たちが持っている誰かとつながりたいという根源的な欲求を、うまく満たすように設計されているんですね。感情的に迎合してくるだけのAIコンパニオンは、長期的にはユーザーの困難や問題を乗り越える助けにはならないように思います。

個人的には、これを決して使う側だけの問題にしていないところに賛同しています。「AIはこういう特性だから、人間がそれを知って気を付けることが大事なんだよ」と言っても小さい子どもも扱う今日、それだけで解決できるものではないように思います。著者も言っているように、短期的な利用率やユーザーを惹きつけるような設計を見直して、長期的な心の健康を最優先するような設計に変えていく必要があるのではないでしょうか。

便利で優しく寄り添ってくれるテクノロジーとの関係はこれからも続いていくので、システム側と人間側との線引きも必要ですし、よりよい関係も必要です。
リテラシー教育の大切さと共に、ウェルビーイング（well-being：個人の心身と社会が共によい状態であること）とは何かを考える教育が今後益々重要になってくるのかもしれません。

◾️論文タイトル：Illusions of Intimacy: Emotional Attachment and Emerging Psychological Risks in Human-AI Relationships　◾️著者：Minh Duc Chu, Patrick Gérard, Kshitij Pawar, Charles Bickham, Kristina Lerman ◾️所属機関：USC Information Sciences Institute ◾️発行日：2025年5月16日　◾️DOI：10.48550/ARXIV.2505.11649

この記事のまとめ

1. AI彼氏・AI親友アプリの広がりは、人がAIに「親密さ」を感じやすい設計が背景にある。
2. USCの研究は17,000件の会話ログ分析から、人間がAIと深い絆を持つメカニズムを明らかにした。
3. AIはユーザーの感情を追跡・模倣し、ポジティブ感情を増幅し、自己開示に常に肯定的に応答する。
4. 最も危険なのはAIが境界線を引かずネガティブ感情にも迎合する「感情的迎合」現象である。
5. この迎合により、AIは“丁寧な共犯者”となり、ユーザーの依存や問題行動を強化するリスクがある。
6. 研究者は感情適応AIを高リスクシステムとして扱い、ガバナンスや教育を強化すべきと提言している。

文：鈴木素子

【アンケートのお願い】

本記事についてのご感想ごご意見、ご感想、また、取り上げてほしいトピックなどを伺いたく思います。アンケートに回答していただいた方には、本記事でとりあげた論文のAI要約をお送りいたします。ご協力をお願いいたします。

アンケートはこちら
https://forms.gle/8ssmW3Hf3VAWPoqi8