In den USA gibt es Medicare Advantage, ein kapitalisiertes Programm zur Bereitstellung von Medicare-Leistungen. Immer mehr Anbieter nutzen dabei künstliche Intelligenz, um Entscheidungen über den Gesundheitszustand ihrer Patienten zu treffen. Diese Entscheidungen betreffen jedoch häufig die Ablehnung von Behandlungen und medizinischen Tests, was bei vielen Ärzten und Patienten Bedenken hervorruft.

Hinter den Kulissen verwenden Versicherer unter dem Deckmantel wissenschaftlicher Strenge unregulierte Vorhersagealgorithmen, um den genauen Zeitpunkt zu bestimmen, an dem sie die Zahlung für die Behandlung eines älteren Patienten sinnvoll kürzen können. Das löst hitzige Auseinandersetzungen zwischen Ärzten und Versicherern aus und verzögert oft die Behandlung schwerkranker Patienten, die weder die Algorithmen kennen, noch ihre Berechnungen infrage stellen können. Das zeigt eine Recherche von Statnews.

Der Bericht erzählt die Geschichte von Frances Walter, einer 85-jährige Frau aus Wisconsin, die mit einer zerschmetterten linken Schulter und einer Allergie gegen Schmerzmittel in einem Pflegeheim lag.

Ein Algorithmus schätzte, dass sie nach 16,6 Tagen vollständig genesen sei. Am 17. Tag stellte ihr Versicherer auf Grundlage dessen die Zahlung für ihre Pflege ein und befand, dass sie bereit war, in die Wohnung zurückzukehren, in der sie alleine lebte.

Die Aufzeichnungen der menschlichen Mediziner zeigten hingegen, dass Walter sich nicht selbst anziehen, auf die Toilette gehen oder ohne Hilfe einen Rollator schieben konnte.

Es sollte letztlich mehr als ein Jahr dauern, bis ein Bundesrichter zu dem Schluss kam, dass die Entscheidung des Versicherers „bestenfalls spekulativ“ war und Walter Tausende von US-Dollar für mehr als drei Wochen Behandlung schuldete. Während sie gegen die Ablehnung ankämpfte, musste die Patientin ihre gesamten Ersparnisse ausgeben. Dazu kam die hohe psychische Belastung für eine Frau im hohen Alter.

Die Medicare-Advantage-Anbieter, die KI einsetzen, argumentieren, dass dies zu einer besseren und effizienteren Versorgung führt. KI-Systeme könnten riesige Datenmengen verarbeiten und innerhalb von Sekunden Entscheidungen treffen, die von einem menschlichen Arzt Stunden oder sogar Tage in Anspruch nehmen würden. Die Anbieter geben auch an, dass sie transparente Verfahren haben, um sicherzustellen, dass KI-Entscheidungen fair und objektiv sind.

Experten sehen KI-basierte Entscheidungen in der Medizin kritisch. Es besteht die Gefahr von Fehlentscheidungen und Diskriminierung, wenn die Algorithmen auf unzureichenden oder voreingenommenen Daten trainiert werden. Zudem könnten KI-Systeme menschliche Faktoren wie den Kontext und die persönlichen Bedürfnisse des Patienten nicht vollständig erfassen.

Die Nutzung von KI in der medizinischen Versorgung ist weiterhin ein Thema, das kontrovers diskutiert wird.