社会は「認知労働の分業」によって機能している。すべての分野を理解する必要はなく、必要なときに適切な専門知識を持つ人物を知っていればよい。
専門家を識別する能力は早期に現れる。3歳から5歳の子どもは腕の骨折について医者に、タイヤについて整備士に尋ねるべきだとすでに知っており、より年長の子どもは表面的な類似性ではなく基本原理に基づいて専門性を認識できる。
しかし、他者の知識へのアクセスは「説明の深さの錯覚」を生み出し、専門家が持つ知識と自分自身の知識を混同させる原因となる。
実験によると、科学者が現象を説明したということを知らされるだけで、実際の説明が提供される前であっても、参加者自身の理解度が高く評価されることが示されている。
同様の現象はテクノロジーでも発生する。ロボアドバイザーに関する説明がオンラインで入手可能であると知らされた人々は、説明にアクセスできないグループよりも、システムをよりよく理解していると感じ、サービスを利用する意欲が高まる。
インターネットも同様の効果を生み出す。課題のために情報を調べることが許可された後、参加者は全く異なるトピックを自分で説明する能力を過大評価してしまう。
AIチャットボットは、迅速かつ流暢な回答を提供するため、「アクセスできる情報」と「実際に理解している知識」の境界線を曖昧にし、この問題を増幅させる可能性がある。
もう一つのリスクは、人間が持つ専門性に関する直感をAIに適用してしまうことである。LLMが経済の質問に正しく答えたからといって、システムが代数を正しく解けるわけではなく、道徳哲学の質問に答えられることが他の状況での道徳的行動の適切な評価を保証するわけでもない。
📌 結論： AIは専門性に関するパラドックスを生み出している。知識へのアクセスは容易になるが、人間は自分自身が本当は何を知っており、AIが実際どこに優れているのかを正確に認識することが難しくなる。かつて重要だった能力は「どの専門家に尋ねるべきかを知ること」であった。AIの時代には、自分自身の理解、AIによって提供される知識、そしてAIの能力の限界を区別するという新たな能力が求められている。説明にアクセスできることは、その説明を理解していることとは同義ではない。
