Stell dir vor: Du fühlst dich unwohl und rufst deine Arztpraxis an, um einen Termin zu vereinbaren. Zu deiner Überraschung bekommst du ihn bereits für den nächsten Tag. Und damit nicht genug: Bei deinem Besuch wirst du weder vom Arzt oder Ärztin noch von der Sprechstundenhilfe gehetzt, sondern du hast eine erstaunliche halbe Stunde Zeit, um deine Symptome und Sorgen sowie alle Details deiner Krankengeschichte zu schildern. Dein Gegenüber hört aufmerksam zu und stellt durchdachte Fragen. Du verlässt die Praxis mit einer Diagnose, einem Behandlungsplan und dem guten Gefühl, einmal endlich ausführlich alles Relevante in dem Termin besprechen zu können.

Der Haken an der Sache? Du hast gar nicht mit einem Arzt oder einer Ärztin gesprochen, sondern mit einer Künstlichen Intelligenz (KI). Das ist bereits die neue Realität für Patient:innen in einer kleinen Anzahl von Praxen im südlichen Kalifornien, die von dem medizinischen Startup Akido Labs betrieben werden. Die Patient:innen – von denen einige die öffentliche US-Krankenkasse Medicaid nutzen – können kurzfristig Termine bei Fachärzt:innen vereinbaren, ein Privileg, das normalerweise nur denen vorbehalten ist, die dafür extra zahlen.

Akido-Patient:innen verbringen dabei allerdings relativ wenig – oder gar keine – Zeit mit Ärzt:innen. Stattdessen sehen sie medizinische Assistent:innen, die ihnen zwar ein offenes Ohr entgegenbringen, aber nur über eine begrenzte klinische Ausbildung verfügen. Die Diagnose und den Behandlungsplan erstellt dann ein proprietäres, System namens ScopeAI. Dieses große Sprachmodell (LLM) transkribiert und analysiert den Dialog zwischen Patient:innen und Assistenz. Mediziner:innen genehmigen oder korrigieren dann die Empfehlungen des KI-Systems.

„Unser Fokus liegt darauf, was wir alles tun können, um die Ärzt:innen aus dem Praxisbesuch herauszunehmen“, räumt Jared Goodner, Chief Technology Officer von Akido, freimütig ein. Laut Prashant Samant, CEO von Akido, können Ärzt:innen mit diesem Ansatz vier- bis fünfmal so viele Patient:innen behandeln wie zuvor. Es gibt gute Gründe, warum Mediziner:innen produktiver sein sollten. Nicht nur die Amerikaner:innen werden älter und gleichzeitig kränker, und viele haben Schwierigkeiten, Zugang zu einer angemessenen Gesundheitsversorgung zu erhalten. Die bevorstehende Kürzung der Bundesmittel für Medicaid um bis zu 15 Prozent wird die Situation nur noch verschlimmern.

Expert:innen sind jedoch nicht davon überzeugt, dass die Verlagerung eines so großen Teils der kognitiven Arbeit in der Medizin auf KI der richtige Weg ist, um den Mangel an Ärzt:innen zu beheben. Es gibt eine große Wissenslücke zwischen Ärzt:innen und KI-gestützten medizinischen Assistent:innen, sagt Emma Pierson, Informatikerin an der UC Berkeley. Eine solche Lücke zu schließen, kann Risiken mit sich bringen. „Ich bin begeistert vom Potenzial der KI, den Zugang zu medizinischem Fachwissen zu erweitern“, sagt sie. „Ich bin mir nur nicht sicher, ob dies der richtige Weg ist, um dies zu erreichen.“ KI ist in der Medizin zwar längst allgegenwärtig. Computer-Vision-Tools identifizieren Krebserkrankungen bei Vorsorgeuntersuchungen, automatisierte Forschungssysteme, ermöglichen Ärzt:innen eine schnelle Durchsicht der medizinischen Fachliteratur und LLM-gestützte medizinische Schreibkräfte können im Auftrag Notizen machen. Diese Systeme sind jedoch nur darauf ausgelegt, bei typischen medizinischen Routineaufgaben zu unterstützen.

Was ScopeAI laut Goodner auszeichnet, ist die Fähigkeit, die kognitiven Aufgaben, die einen Arztbesuch ausmachen, selbstständig zu erledigen. Von der Erfassung der Krankengeschichte der Patient:innen über die Erstellung einer Liste möglicher Diagnosen bis hin zur Ermittlung der wahrscheinlichsten Diagnose und dem Vorschlag geeigneter nächster Schritte. Im Hintergrund von ScopeAI arbeitet eine Reihe von LLMs, von denen jedes einen bestimmten Schritt der Visite ausführen kann – von der Generierung geeigneter Folgefragen auf der Grundlage der Aussagen der Kranken bis zur Erstellung einer Liste wahrscheinlicher Störungen. Zum größten Teil handelt es sich bei diesen LLMs um fein abgestimmte Versionen der frei zugänglichen Llama-Modelle von Meta, obwohl Goodner sagt, dass das System auch die Claude-Modelle von Anthropic nutzt.

Während des Termins lesen die medizinischen Assistenzpersonen Fragen von ScopeAI vor – und das System generiert neue Fragen, während es die Aussagen der Patient:innen analysiert. Für die Ärzt:innen, die die Ergebnisse später überprüfen, erstellt ScopeAI eine kurze Notiz, die eine Zusammenfassung des Patientenbesuchs, die wahrscheinlichste Diagnose, zwei oder drei alternative Diagnosen und empfohlene nächste Schritte wie Überweisungen oder Verschreibungen enthält. Außerdem werden für jede Diagnose und Empfehlung Begründungen aufgeführt.

ScopeAI wird derzeit in der Kardiologie, Endokrinologie und in Kliniken für Primärversorgung sowie vom sogenannten Street-Medicine-Team von Akido eingesetzt, das sich um Obdachlose in Los Angeles kümmert. Dieses Team unter der Leitung von Steven Hochman, einem auf Suchtmedizin spezialisierten Arzt, trifft sich mit Patient:innen, um ihnen den Zugang zu medizinischer Versorgung, inklusive der Behandlung von Drogenerkrankungen, zu erleichtern. Früher musste Hochman noch die Patient:innen persönlich treffen, um ein Medikament zur Behandlung einer Abhängigkeit von Opioiden zu verschreiben. Jetzt können Sozialarbeiter:innen, die mit ScopeAI ausgestattet wurden, die Betroffenen selbst befragen, und Hochman kann die Empfehlungen des Systems später genehmigen oder ablehnen. „Dadurch kann ich an zehn Orten gleichzeitig sein“, sagt er.

Seitdem sein Team ScopeAI einsetzt, könne es Patient:innen innerhalb von 24 Stunden Zugang zu Medikamenten verschaffen, die ihnen bei der Behandlung ihrer Sucht helfen – etwas, das Hochman als bislang „beispiellos“ bezeichnet. Diese Regelung ist nur möglich, weil Obdachlose in der Regel über Medicaid, das besagte öffentliche Versicherungssystem, krankenversichert sind. Während Medicaid es Ärzt:innen erlaubt, ScopeAI-Rezepte und Behandlungspläne sowohl für die Obdachlosenmedizin als auch für Klinikbesuche „asynchron“ zu genehmigen, verlangen viele andere Krankenkassen, dass Ärzt:innen vor der Genehmigung dieser Empfehlungen direkt mit den Patient:innen sprechen. Expertin Pierson sagt, dass diese Diskrepanz Probleme aufwirft. „Man macht sich Sorgen, dass sich dadurch die gesundheitlichen Ungleichheiten verschärfen könnten“, sagt sie.

Akido-Chef Samant ist sich der Probleme bewusst und sagt, dass diese Diskrepanz nicht beabsichtigt sei – sie ist seiner Ansicht nach lediglich ein Merkmal der derzeitigen Funktionsweise des US-Versicherungssystems. Er merkt an, dass eine schnelle Untersuchung durch einen KI-gestützten medizinischen Assistenten besser sein könne als lange Wartezeiten und eine begrenzte Verfügbarkeit von Praxen, was für Medicaid-Patienten derzeit der Status quo sei. Und alle Akido-Patient:innen könnten sich auch für traditionelle Arzttermine entscheiden, wenn sie bereit sind, darauf zu warten, sagt er.

Eine der Herausforderungen beim Einsatz von Tools wie ScopeAI besteht darin, sich in einem regulatorischen und versicherungstechnischen Umfeld zurechtzufinden, das nicht für KI-Systeme konzipiert wurde, die selbstständig Diagnosen erstellen können. Glenn Cohen, Professor an der Harvard Law School, sagt, dass jedes KI-System, das effektiv als eine Art „Doctor in a box” fungiert, wahrscheinlich von der US-Medizinaufsicht FDA zugelassen werden müsse – und gegen die Gesetze zur ärztlichen Zulassung verstoßen könnte, die vorschreiben, dass nur Ärzt:innen und andere zugelassene Fachleute Medizin praktizieren dürfen.

Der California Medical Practice Act besagt tatsächlich, dass KI die Verantwortung von Ärzt:innen für Diagnose und Behandlung von Patient:innen nicht ersetzen kann. Doch Ärzt:innen dürfen offiziell schon heute KI bei ihrer Arbeit einsetzen und müssen Patient:innen vor der Diagnose nicht persönlich oder „in Echtzeit“ sehen. Allerdings: Weder die FDA noch der Ärzteausschuss Medical Board of California konnten allein auf der Grundlage einer schriftlichen Beschreibung des Systems sagen, ob ScopeAI auf einer soliden rechtlichen Grundlage steht oder nicht. Samant ist jedoch zuversichtlich, dass Akido alle Vorschriften einhält, da ScopeAI bewusst so konzipiert sei, dass es nicht als vollständiger Arztersatz fungiert. Da das System alle Diagnose- und Behandlungsempfehlungen von einer menschlichen Ärzt:in überprüfen und genehmigen lassen muss, sei keine FDA-Zulassung erforderlich, so Samant.

In einer Akido-Klinik findet dieses Zusammenspiel zwischen KI und ärztlicher Entscheidungsfindung vollständig hinter den Kulissen statt. Der:ie Patient:in sieht die ScopeAI-Schnittstelle nie direkt, sondern spricht mit einer medizinischen Assistenzkraft, die ihm:ihr Fragen stellt, wie es Ärzt:innen bei einem typischen Termin tun würde. Diese Vorgehensweise kann dazu beitragen, dass sich die Patient:innen wohler fühlen. Zeke Emanuel, Professor für Medizinethik und Gesundheitspolitik an der University of Pennsylvania, der in den Regierungen der US-Präsidenten Obama und Biden tätig war, befürchtet jedoch, dass dies eine Illusion ist. Es könnte im Gegenteil den Umfang verschleiern, in dem ein Algorithmus die Behandlung beeinflusst. KI-Expertin Pierson stimmt dem zu. „Das entspricht sicherlich nicht dem, was traditionell unter menschlicher Nähe in der Medizin verstanden wurde“, sagt sie.

DeAndre Siringoringo, arbeitet als medizinischer Assistent in Akidos Kardiologiepraxis in Rancho Cucamonga. Er sagt, dass er den Patient:innen zwar mitteilt, dass ein KI-System den Termin mitschreibt, um Informationen für die Ärzt:innen zu sammeln. Er gibt ihnen aber keine Einzelheiten über die Funktionsweise von ScopeAI an die Hand – auch nicht, dass es stets eine Diagnoseüberprüfung durch den Menschen gibt.

Da alle Empfehlungen von ScopeAI von Ärzt:innen überprüft werden, scheint das auf den ersten Blick keine große Sache zu sein – schließlich trifft dieser die endgültige Diagnose, nicht die KI. Es ist jedoch weitgehend dokumentiert, dass Ärzt:innen, die KI-Systeme verwenden, dazu neigen, den Empfehlungen des Systems häufiger zu folgen, als sie sollten – ein Phänomen, das als Automatisierungsbias bekannt ist.

Zum jetzigen Zeitpunkt ist es unmöglich zu sagen, ob dies die Entscheidungen der Ärzt:innen in den Akido-Kliniken beeinflusst. Pierson sagt aber, dass dies ein Risiko darstellt – insbesondere, wenn die Ärzt:innen bei den Terminen nicht physisch anwesend sind. „Ich befürchte, dass man dadurch dazu neigt, einfach zuzustimmen – was man vielleicht nicht tun würde, wenn man tatsächlich im Raum wäre und das Geschehen mitverfolgen würde.“

Eine Sprecherin von Akido erklärt, dass solche Probleme bei jedem KI-Tool auftreten, das Ärzt:innen bei ihrer Entscheidungsfindung unterstützt, und dass das Unternehmen Anstrengungen unternommen habe, um diesen Bias zu mindern. „Wir haben ScopeAI speziell entwickelt, um dies zu reduzieren, indem wir proaktiv blinden Flecken im System entgegenwirken, die medizinische Entscheidungen beeinflussen können, die bislang stark von der Intuition und persönlichen Erfahrung der Ärzt:innen abhängen“, sagt sie. „Wir schulen Ärzt:innen auch ausdrücklich darin, ScopeAI umsichtig einzusetzen, damit sie ihre Verantwortung wahrnehmen und eine übermäßige Abhängigkeit von dem System vermeiden.“

Akido bewertet die Leistung von ScopeAI, indem es das System anhand historischer Daten testet und überwacht, wie oft Ärzt:innen die Empfehlungen korrigieren. Diese Korrekturen werden auch zur weiteren Schulung der zugrunde liegenden Modelle verwendet. Bevor ScopeAI in einem bestimmten Fachgebiet eingesetzt wird, stelle Akido sicher, dass das System bei Tests mit historischen Datensätzen in mindestens 92 Prozent der Fälle die richtige Diagnose in seinen drei wichtigsten Empfehlungen einhält.

Das Startup hat allerdings keine strengeren Tests durchgeführt – auch keine Studien, in denen ScopeAI-Termine mit persönlichen oder telemedizinischen Terminen verglichen werden, um festzustellen, ob das System den Gesundheitszustand verbessert oder zumindest aufrechterhält. Erst solche Studien könnten Aufschluss darüber geben, ob der Automatisierungsbias ein ernstzunehmendes Problem darstellt. „Die medizinische Versorgung billiger und zugänglicher zu machen, ist ein lobenswertes Ziel“, meint KI-Expertin Pierson. Dennoch hofft sie auf eine fundiertere Bewertung der Technik vor deren breitem Einsatz.