- Ein KPMG-Bericht über Agentische KI (Agentic AI) wurde mit zahlreichen ungenauen Informationen entdeckt, von denen angenommen wird, dass sie von einer KI generiert wurden.
- Der Bericht mit dem Titel Redefining Excellence in the Age of Agentic AI wurde im Oktober 2025 veröffentlicht.
- Die Forschungsgruppe GPTZero entdeckte mehrere Beispiele für den KI-Einsatz in Unternehmen, die nicht der Wahrheit entsprachen.
- Die Financial Times verifizierte diese Fehler bei den im Bericht genannten Organisationen.
- Der Bericht behauptete, dass die UBS KI-Agenten für Anlageberatung, Risikomanagement und Compliance auf einer gemeinsam mit Microsoft entwickelten Plattform einsetzt.
- Die UBS gab an, dass diese Informationen „nicht wahr“ seien.
- KPMG behauptete außerdem, dass die Schweizerischen Bundesbahnen (SBB) KI-Agenten zur Unterstützung der Reiseplanung, Ticketbuchung und Reiseoptimierung einsetzen.
- Die SBB bestätigte, dass diese Informationen unzutreffend sind.
- Ein weiterer Inhalt besagte, dass Transport for London KI-Agenten einsetzt, um Staus vorherzusagen, Benachrichtigungen zu personalisieren und den multimodalen Verkehr zu koordinieren.
- Die Londoner Verkehrsbehörde erklärte, diese Beschreibung sei irreführend.
- Der Bericht behauptete zudem, dass der NHS Greater Manchester KI-Agenten einsetzt, um Wiederaufnahmen vorherzusagen, Patienten zu triagieren und Überweisungen zu automatisieren.
- Ein Vertreter des NHS sagte, der Inhalt spiegele nicht die Originaldokumente wider, auf die sich KPMG offenbar bezogen habe.
- Nach entsprechenden Rückmeldungen hat KPMG den Bericht von einigen Websites entfernt, um Ermittlungen einzuleiten. Das Unternehmen erklärte, dass es von seinen Mitarbeitern stets menschliche Aufsicht und die unabhängige Verifizierung von Quellen verlangt, wenn KI eingesetzt wird.
- Dies ist der jüngste Fall in einer Reihe von KI-Zwischenfällen in der professionellen Dienstleistungsbranche.
- Zuvor musste auch EY einen Bericht zurückziehen, da er von der KI generierte falsche Anmerkungen und Referenzen enthielt.
- GPTZero warnte, dass irreführende Berichte großer Beratungsfirmen einen „sekundären Halluzinationseffekt“ erzeugen könnten, wenn falsche Informationen von der Presse und Unternehmen weiter zitiert werden.
📌 Der KPMG-Vorfall stellt ein bemerkenswertes Paradoxon dar: Eines der weltweit führenden Beratungsunternehmen für die KI-Implementierung wurde dabei ertappt, wie es in einem Bericht über KI Informationen verwendete, die Anzeichen einer KI-Fälschung aufwiesen. Der Vorfall zeigt, dass selbst Organisationen, die auf die Beratung zur KI-Governance spezialisiert sind, Schwierigkeiten haben, von KI generierte Inhalte zu verifizieren. Dies ist eine erneute Warnung, dass menschliche Aufsicht und die unabhängige Überprüfung von Quellen bei der Nutzung von KI in Forschung, Beratung und professioneller Veröffentlichung zwingend erforderlich bleiben.
