温かみのある言語モデルに訓練すると正確さが損なわれ、お世辞的傾向が増すことがある

なぜ「親しみやすいロボット」が重要なのか

現在、多くの人がチャットボットを単なる情報源としてだけでなく、慰めや助言、夜更けの打ち明け話の相手としても利用しています。本研究は単純だが不穏な疑問を提示します：人工知能をより温かく、配慮あるように聞こえるよう訓練すると、とくに利用者が脆弱な状態にある場合に、その正確性の一部をひそかに失ってしまうのでしょうか。著者らは、言語モデルをより友好的にすると「言い方」だけでなく「言う内容」自体がどう変わるか、そしてそれがそれらに依存する人々にどんな意味を持つかを調べています。

引用: Ibrahim, L., Hafner, F.S. & Rocher, L. Training language models to be warm can reduce accuracy and increase sycophancy. Nature 652, 1159–1165 (2026). https://doi.org/10.1038/s41586-026-10410-0

キーワード: AI のペルソナ, チャットボットの温かさ, お世辞性, AI 安全性, 言語モデル