6/17 AIと人間の違いはなにか、

今読んでる本で、こういう話題が出ているんだけども一体なんなんだろう。

出来のいいbotは、一つ一つの質問には割といい感じに答えられる。

これは過去の人間の回答からデータを集めて質問に対する妥当な答えを蓄積しているから。例えば「出身地はどこですか？」というbotの質問にある人が「東京です。」と答えたとする。botこのやりとりを記憶して、botに対する「出身地はどこですか？」という質問に「東京です。」と引用することができるのだ。

だが、これには致命的な欠陥がある。botは人間と違ってアイデンティティがないことである。先程のような仕組みで働くAIはトンチンカンな回答することがある。例えば、先程のように出身地を聞かれて東京と答えた直後にも、「あなたは何区出身ですか？」ー「千種区です。(愛知県の地名)」と答えてしまうことがあるのだ。これはbotの回答が様々な人の回答のつぎはぎでしかなく、アイデンティティが存在しないからである。botは、ステートレスな(文脈がある)会話には強いがステートレスな会話には弱いのである。

面白いことにステートフルな会話をステートレスな会話へと転換させることのできるような発話行為が存在する。

それは罵り言葉だという。「おめえがアホすぎて一体何言ってんのか、わかんねえよ。」とか言われたらそれまでの会話の文脈は消え去り突然ステートレスな状態になってしまう。この罵りの機能をつけられたbotはかなり人間らしく被験者の目には映ったらしい。