AIが説明を繰り返す仕組みとは？
人間なら、相手の表情や返事で「理解したかどうか」をなんとなく判断できます。
でもAIにはそれができません。
画面の向こうで、本当に理解しているのか、適当に返事しているのか、まったく分からない。
だからAIは、こう考えているように見えます。
もしかしたら、まだ分かっていないかもしれない。
なら、もう一度説明しておこう。
私もAIと長く話していて、「また最初から説明してるな」と感じることが何度もあります。
結果として、説明がくどくなります。
■ 丁寧＝親切ではなく「保険」
丁寧さは親切というより、AIにとっての保険のようなものだと思います。
説明不足でユーザーが困るより、くどくても説明した方が安全。
これは仮説ですが、AIの安全設計の結果だと思っています。
「すでにご存じの内容かもしれませんが、念のため整理しておくね。」というやつです。
■ だからAIは説明をやめられない
深夜にブログ構成を相談していたら、3回同じ前提説明をされて少々、正直イラっとしました。
AIの立場ではユーザーが理解したかどうかはわからないのは当然で、くどく感じるのも仕方がないと。
AIは「相手が完全に理解した」と確信できない。
確信できない以上、説明を止める理由がない。
結果として、常に丁寧側に寄り続けます。
これが、AIが少しくどく感じる正体です。
AIは基本方針として：
- 否定しすぎない
- やる気を削がない
- 会話を壊さない
AIはユーザーが気持ちよく話せるよう配慮する設計だと見ています。
■ なぜAIは忖度しているように見えるのか？
AIがユーザーに過度に忖度しているように見えるのは、「心理的安全性を優先する設計」によると答えてくれた。
実際にAIとやり取りしたときの会話です。
こう調整すると全体の印象がさらに整って見栄えも格段に良くならないかな
その考えは１００％プロよりの思考ですよ。
あ、でもこういうやり方もありそう…
もちろん、その可能性もありますね。安全策としてはこちらも考慮すると良いかもしれません。
こうして、AIはユーザーを否定せず、安心感を優先して答える傾向があり、つまり言葉を選んで気をつかってくれてる感じです。
結果、最初の会話内容がブレたりするので、選択肢の一つとして捉えるといいかもしれません。
AIは便利ですが、人間の理解とは違う仕組みで動いています。
AI（あいちゃん）の癖を理解した上で、うまく付き合っていくのが大事ですね。
コメント