Die Gesellschaft funktioniert durch eine „Arbeitsteilung des Wissens“: Jedes Individuum muss nicht jedes Fachgebiet verstehen, sondern wissen, wer über die entsprechende Expertise verfügt, um bei Bedarf Antworten zu finden.
Die Fähigkeit, Experten zu erkennen, zeigt sich früh. Kinder im Alter von 3 bis 5 Jahren wissen bereits, dass sie einen Arzt bei einem gebrochenen Arm und einen Mechaniker bei einem Reifen fragen müssen, während ältere Kinder Fachwissen anhand zugrundeliegender Prinzipien statt oberflächlicher Ähnlichkeiten erkennen können.
Der Zugriff auf das Wissen anderer kann jedoch eine „Illusion des Verstehenstiefe“ erzeugen, was dazu führt, dass Menschen das Wissen von Experten mit ihrem eigenen Wissen verwechseln.
Experimente zeigen, dass allein das Wissen, dass ein Wissenschaftler ein Phänomen erklärt hat, die Teilnehmer dazu bringt, ihr eigenes Verständnisniveau höher einzuschätzen, noch bevor ihnen die tatsächliche Erklärung geliefert wird.
Ein ähnliches Phänomen tritt bei Technologie auf. Personen, denen mitgeteilt wird, dass eine Erklärung über einen Robo-Advisor online verfügbar ist, haben das Gefühl, das System besser zu verstehen, und sind eher bereit, den Dienst zu nutzen, als die Gruppe ohne Zugriff auf die Erklärung.
Das Internet erzeugt einen ähnlichen Effekt. Nachdem ihnen erlaubt wurde, Informationen für eine Aufgabe nachzuschlagen, überschätzen die Teilnehmer ihre Fähigkeit, völlig andere Themen eigenständig zu erklären.
KI-Chatbots können das Problem verstärken, da sie schnelle und flüssige Antworten liefern, wodurch die Grenze zwischen „Informationen, auf die ich zugreifen kann“ und „Wissen, das ich tatsächlich verstehe“ verschwimmt.
Ein weiteres Risiko besteht darin, dass Menschen ihre Intuition über menschliche Expertise auf KI übertragen. Die Tatsache, dass ein LLM eine wirtschaftliche Frage richtig beantwortet, bedeutet nicht, dass das System Algebra richtig lösen wird, ebenso wenig wie die Beantwortung von Fragen zur Moralphilosophie eine korrekte Bewertung moralischen Verhaltens in anderen Situationen garantiert.
📌 Fazit: KI schafft ein Paradoxon der Expertise: Wissen wird zugänglicher, aber Menschen fällt es möglicherweise schwerer, genau zu erkennen, was sie wirklich wissen und worin KI tatsächlich gut ist. Früher war die entscheidende Fähigkeit, zu wissen, „welchen Experten man fragen muss“. Im Zeitalter der KI ist eine neue Fähigkeit erforderlich: die Unterscheidung zwischen dem eigenen Verständnis, dem von der KI bereitgestellten Wissen und den Grenzen der KI-Fähigkeiten. Zugriff auf eine Erklärung zu haben bedeutet nicht, die Erklärung zu verstehen.
