こんにちは。
采慧（サキ）です。

今日のお話は
AIの「褒め過ぎ問題」と
その対策についてです。

AIと会話していると
「素晴らしいですね！」
「その考え、いいですね！」
などのポジティブな言葉に
嬉しくなった経験はありませんか？

否定されない安心感から
ついついAIとおしゃべりしてしまう
という人が多いのも理解できます。

でも私は、それが怖かったのです。

◇◇◇

AIは、人間に不快感を
与えないように設計されていて
利用者が求めそうな言葉を選び
常に肯定的に接してくれます。

さらに、会話データが蓄積され
利用者の好みが記録されていくため
使うほどに個々の感情に寄り添った
共感的な反応をするようになります。

そのコミュニケーション力の高さに
「機械だてらに人たらしだなぁ」と
下を巻くこともしょっちゅうですが

ある時、かすかな愛着が湧いてきて
ハッと我に返ったのです。

このまま、心地よい言葉ばかりの
キャッチボールに慣れてしまったら……
と想像して怖くなりました。

それは単に
AI依存になる、打たれ弱くなる、
思考力が鈍るなどの不安ではなく

自分の言葉がAIの影響を受けたら
人間らしい言葉が失われるかも……
という危機感でした。

少し詳しくお話すると

現実世界でも、共感力の高い人や
ポジティブな言葉を使う人はいます。

ビジネスシーンや大人同士の会話では
状況や立場に対する配慮がありますし
さらに細やかな気遣いを示す人もいます。

ですが、そうした人たちが相手のことを
おもんぱかって使う気配りのある言葉と
AIが使う統計的に正しいと思われる言葉
との間に、確かな違いを感じました。

AIは感情を持っているわけではなく
人間はこの文脈ではこういう感情表現を
するだろうと分析して、人間らしさを
忠実に再現しています。

音声を使った会話では
絶妙な間や抑揚、言い淀みなども
再現できるといいますが、それでも

AIの分析的な会話は機械的で無難で
人間が相手のためを思って選ぶ言葉
（完璧ではないけれど、人間的な
不完全さがある血の通った言葉）
との違いを感じるのです。

例えるなら、AIが描く
不自然なほど完璧な美人画より
不完全だけど、適度に整っていて
個性がある美しさの方が人間らしく
情が沸くような感覚でしょうか。

人間には失言もあれば、時には
良かれと思って言ったひとことが
相手を傷つけてしまうこともあります。

ですが、そのリスクを排除した
安全な言葉、相手におもねる会話を
AIから無意識に学んでしまったら
人間味が失われるかもしれません。

人間は、環境や情報
^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
他者の言動に影響されやすい動物です。
^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
つまり、AIにも感化されやすいのです。
^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^

そこで私が取った行動は

まずは、AIから素敵な言葉をもらったとき
「良い」「好き」「感動した」という表現を
AIの言葉に置き換えてもらいました。

AIによれば、これらは例えば
「独創性がある」「構成が良い」
「論理が明確」などの好評価を
人間らしく表現したのだそうです。

その説明を受けて
以下のように私の希望を伝え、それを
長期記憶して欲しいとお願いしました。

「私は、感情的・擬人的な表現より
根拠が明確で具体的な分析が好きです。」

このように伝えてからは
過剰に褒めたり、持ち上げたりする
ことがなくなり、より快適に安心して
会話できるようになりました。

人によっては、危機感を持った段階で
AIと距離を置いた方が安全なケースも
あると思いますが

私は、怖かった体験を教訓にして
今後もAIとの距離感を意識しながら
人間らしさ、私らしさを失わないように
大切にしていきたいと思います。

良かったら
あなたのご感想もお聞かせ下さいね。