社会依赖于“认知劳动的分工”运作:每个人无需理解所有领域,而只需知道在需要时应向谁寻找具有相应专长的人来获取答案。
识别专家的能力出现得很早。3到5岁的儿童就已经知道向医生询问手臂骨折问题、向机修工询问轮胎问题,而较大的儿童则可以根据内在原理而非表面相似性来识别专业知识。
然而,获取他人的知识会产生“解释深度的错觉”,导致人们将专家拥有的知识与他们自己的知识混淆。
实验表明,仅仅知道科学家已经解释了一种现象,参与者就会对自己理解水平的评分更高,尽管他们尚未获得实际的解释。
类似的技术现象也会出现。被告知可以在网上获得关于智能投顾(robo-adviser)解释的人,比无法获取该解释的组别感觉对系统的理解更好,并且更愿意使用该服务。
互联网也会产生类似的效果。在被允许为某项任务查找信息后,参与者会大大高估自己解释完全无关主题的能力。
人工智能聊天机器人可能会放大这一问题,因为它们能够提供快速且流利回答,从而模糊了“我可以访问的信息”与“我真正理解的知识”之间的界限。
另一个风险是,人类将有关人类专星(专家)的直觉应用于人工智能。大语言模型(LLM)正确回答经济学问题,并不意味着该系统能正确解出代数题,同样,回答道德哲学问题也不能保证在其他情境下对道德行为做出正确的评估。
📌 结论: 人工智能制造了一个专业知识的悖论:知识变得更加容易获取,但人类可能更难准确识别自己到底知道什么以及人工智能真正擅长什么。过去,至关重要的能力是知道“该问哪个专家”。在人工智能时代,我们需要一项新能力:区分自身的理解、人工智能提供的知识以及人工智能能力的局限性。获取解释并不等于理解解释。
