鏡は鏡です by審神者

AIが出そうがSNSで見ようがソイツの脳次第です。

「噂を信じやすい」というのと同じですね。

　AIが出した答えを、あなたはどれくらい信頼しているだろうか？

　米ペンシルベニア大学の研究で、AIが間違った答えを出しても73%の人がそれを正解だと思い込んでいる事実が判明した。

　誤りを信じた人ほど自分の判断への自信が高まることが明らかになった。

　研究者たちはAIの答えを無批判に受け入れてしまう現象を「認知的降伏」と名づけ、AIの質（正確さ）がそのまま人間の判断の質を決めると警告している。

　AIを使う人は大きく2つのタイプに分かれる。1つは、AIを便利だが時に間違いを犯すサービスとして捉え、回答の誤りを自分で確認しながら使うタイプ。

　もう1つは、AIをすべてを知る万能の機械とみなし、AIが出した答えを自分で考えることなくそのまま正解として受け入れてしまうタイプだ。

　この研究が注目したのは後者だ。

　AIの答えを確認することも疑うこともなく、そのまま受け入れてしまう状態を、研究者たちは「認知的降伏（にんちてきこうふく）」と名づけた。

　AIの回答が流暢で自信に満ちた口調で提示されるとき、人はその内容を疑わず「正しい知識」として受け取りやすくなると研究者たちは指摘している。

(略)

　AIが正しい答えを提示したとき、参加者はその答えを93%の確率で受け入れた。

　AIが間違った答えを返したときでも、参加者の80%がそのまま受け入れた。

　正解と不正解を合わせた全試行で見ると、参加者がAIの誤った推論を受け入れた割合は73.2%にのぼり、自ら覆したのはわずか19.7%にとどまった。

　AIが間違いを犯していても、AIを使った参加者グループは自分の答えへの自信が11.7%高かった。

　誤った答えを信じながら、自信だけが膨らんでいく。これが認知的降伏の実態だ。