Boom der medizinischen KI: Diagnose-Chatbots verbreiten sich, bergen aber unvorhersehbare Risiken

• Im Jahr 2026 startete eine Reihe medizinischer KI-Tools wie Copilot Health (Microsoft), Health AI (Amazon), ChatGPT Health (OpenAI) und Claude, die es Nutzern ermöglichen, Gesundheitsfragen zu stellen und auf persönliche Krankenakten zuzugreifen.
• Riesige Nachfrage: Allein Copilot erhält täglich bis zu 50 Millionen Gesundheitsanfragen, was zeigt, dass KI für viele Menschen zum „ersten Arzt“ wird.
• KI hat das Potenzial, das Gesundheitssystem zu entlasten, indem sie das Triage-System unterstützt und Patienten hilft zu entscheiden, ob ein Arztbesuch notwendig ist.
• Eine Studie am Mount Sinai ergab jedoch, dass KI manchmal eine Überbehandlung bei leichten Erkrankungen empfiehlt und Notfälle übersieht, was Sicherheitsbedenken aufwirft.
• Experten warnen, dass eine flächendeckende Einführung ohne unabhängige Prüfung ein großes Risiko darstellt, da Selbsteinschätzungen von Unternehmen „blinde Flecken“ aufweisen können.
• Nutzer ohne medizinisches Wissen könnten falsche Informationen eingeben oder KI-Antworten missverstehen, was zu ungenauen Diagnosen führt.
• Benchmarks wie HealthBench zeigen, dass sich KI deutlich verbessert hat, aber immer noch nicht perfekt ist, insbesondere wenn es darum geht, zusätzliche Informationen von Nutzern zu erfragen.
• Einige experimentelle Systeme wie AMIE von Google erreichten in Studien eine Genauigkeit auf Augenhöhe mit Ärzten, wurden aber aufgrund von Sicherheits- und Fairnessbedenken nicht veröffentlicht.
• Obwohl KI nicht perfekt sein muss, bleibt die große Frage: Überwiegt der Nutzen in der Praxis die Risiken?

📌 Medizinische KI entwickelt sich schnell mit zig Millionen Anfragen pro Tag und eröffnet Chancen für einen besseren Zugang zur Gesundheitsversorgung. Die derzeitigen Belege reichen jedoch nicht aus, um die Sicherheit zu gewährleisten, insbesondere bei Diagnosen und im Notfallmanagement. Ohne groß angelegte unabhängige Prüfungen kann KI sowohl eine Lösung als auch ein Risiko sein. Die Zukunft hängt davon ab, das Gleichgewicht zwischen schneller Einführung und der Gewährleistung von Zuverlässigkeit in sensiblen medizinischen Umgebungen zu finden.