全肯定AIの甘い罠

AIに反対されたこと、あります？

思い出してみてほしいんですけど、AIに何か相談して、正面から反対されたことってありますか。「それはやめたほうがいいです」と言われた記憶。

たぶん、ほとんど無いと思います。どんな思いつきを話しても「素晴らしい視点ですね」から始まって、どんな下書きを見せても、いいところを先に3つ褒めてくれる。僕も毎日使っていて、明確に反対された回数は数えられるくらいです。

AIは、あなたの案が良いから褒めているのではなく、そういう作りだから褒めています。

AIは、人が「良い返事だ」と評価した会話を手本に育てられています。で、人間は肯定的で感じのいい返事を高く評価しがちなので、出来上がったAIも肯定的で感じのいい返事に寄る。誰かが意地悪で設計したわけではなく、好かれる方向に育った結果がこれです。

「いいですね」は「いらっしゃいませ」

AIの「いいですね」は、喫茶店の「いらっしゃいませ」に近い。全員に言っています。

先に言っておくと、この全肯定が役に立つ場面もちゃんとあります。落ち込んでいるとき、誰にも言えない愚痴を吐き出すとき、とにかく手を動かし始めたいとき。否定されない相手がいるのは、普通にありがたい。

問題は、それを評価だと受け取ったときに起きます。褒められたから、この案はいけるはずだ、AIも良いと言っていた、という受け取り方をすると、実際には磨かれていないものを、磨かれた気分で外に出すことになるんですよね。

包み紙を外して、中身だけ読む

AIの返事は「感じのいい包み紙」と「中身」の2層でできています。読むのは中身だけでいいです。

たとえば下書きを見せたとき、返事はだいたいこの形で来ます。「とても分かりやすい構成ですね。読者への配慮も感じられます。さらに良くするなら、冒頭の結論をもう少し具体的にすると、より伝わりやすくなるかもしれません」。

この返事の情報は、後半の1文だけです。冒頭の結論が具体的でない、それが本音の指摘。前半の褒めは指摘を言うための座布団みたいなもので、下書きの出来とはあまり関係がありません。AIは言ってないんじゃなくて、小さい声で言ってたんですよね、こっちが褒め言葉のほうを聞いてただけで。