Einblick in Googles Pläne, das Gesundheitswesen mit generativer KI zu verbessern

Jun 19, 2023

Google erweitert den Zugang zu seinen großen Sprachmodellen für seine Kunden im Gesundheitswesen.

Am Ende jeder Krankenhausschicht muss die scheidende Krankenschwester die neue Krankenschwester schnell über alle von ihr betreuten Patienten auf dem Laufenden halten. Diese „Übergabe“ kann verschiedene Formen annehmen, darunter Gespräche, handschriftliche Notizen und elektronische Krankenakten. „[Es ist] ein riskanter Teil der Gesundheitsversorgung, weil wir Informationen von einem Gesundheitsdienstleister an einen anderen weitergeben“, sagt Michael Schlosser, Senior Vice President of Care Transformation and Innovation bei HCA Healthcare. „Wir müssen sicherstellen, dass es präzise gemacht wird und nichts durchs Raster fällt.“

Schlosser und sein Team am HCA in Nashville – einem der größten Gesundheitssysteme des Landes mit 180 Krankenhäusern und rund 37 Millionen Patienten pro Jahr – dachten, dass dieser Informationstransfer eine gute Gelegenheit sein könnte, generative künstliche Intelligenz anzuwenden. Große Sprachmodelle eignen sich gut zum Zusammenfassen und Organisieren von Daten. Doch als HCA den Markt nach potenziellen Anbietern absuchte, sagte Schlosser, dass sie keine Unternehmen finden konnten, die Lösungen für dieses Übergabeproblem entwickelten.

HCA hatte bereits eine Partnerschaft mit Google Cloud und wandte sich daher an die Software-Suite Vertex AI von Google, die Kunden bei der Erstellung und Bereitstellung von Modellen für maschinelles Lernen unterstützt. Google bietet sein eigenes Basismodell an, bekannt als PaLM, aber die Plattform ist modellunabhängig, was bedeutet, dass Kunden auch GPT-4 von OpenAI, Llama von Facebook, Titan von Amazon oder jedes andere Modell ihrer Wahl einsetzen und darauf aufbauen können.

Um mehr Kunden im Gesundheitswesen zu gewinnen, hat Google außerdem ein gesundheitsspezifisches großes Sprachmodell entwickelt. Das Unternehmen gab am Dienstag bekannt, dass es die neueste Version – Med-PaLM 2 – im September für eine größere Anzahl von Kunden veröffentlichen wird. HCA ist neben dem Pharmariesen Bayer, dem Unternehmen für elektronische Patientenakten Meditech und den digitalen Gesundheits-Startups Infinitus Systems und Huma einer von mehreren Gesundheitskunden, die frühzeitig Zugang hatten. Dieser erneute Vorstoß ins Gesundheitswesen kommt zu einem Zeitpunkt, an dem Microsoft und Amazon ihre eigenen KI-gestützten Vorstöße in den Sektor unternehmen, und es ist alles andere als klar, wer die Nase vorn haben wird, wenn sich der Staub gelegt hat.

„Wir sind noch fünf Minuten vom Marathon entfernt“, sagt Gartner-Analyst Chirag Dekate über die KI-Landschaft im Gesundheitswesen.

Im Jahr 2021 löste Google seinen eigenständigen Geschäftsbereich Google Health auf, kündigte jedoch an, dass die gesundheitsbezogenen Bemühungen im gesamten Unternehmen fortgesetzt würden. Die jüngsten KI-Lösungen in der Branche sind auf die Lösung von Teilproblemen ausgerichtet. Beispielsweise hat Google letztes Jahr KI-Tools veröffentlicht, um Gesundheitsorganisationen beim Lesen, Speichern und Beschriften von Röntgenbildern, MRTs und anderen medizinischen Bildgebungen zu helfen. Anfang des Jahres stellte das Unternehmen KI-Tools vor, die Krankenversicherern dabei helfen sollen, die Vorabgenehmigung zu beschleunigen.

Der Fokus auf Anwendungsfälle sei aufgrund der KI-Technologie selbst notwendig, sagt Greg Corrado, Leiter der Gesundheits-KI bei Google. Trotz des Hypes um große Sprachmodelle hält er es für „naiv“, von ihnen zu erwarten, dass sie „alles von der Stange fachmännisch erledigen können“, und fügt hinzu: „In der Praxis erfordern diese Systeme immer die Identifizierung spezifischer Anwendungsfälle.“

Wenn es um große Sprachmodelle geht, hat Google gegenüber OpenAI aufgeholt, dem Startup hinter dem viralen Chatbot ChatGPT, das von Microsoft eine Investition von 10 Milliarden US-Dollar erhalten hat. Im Jahr 2022 erwarb Microsoft Nuance Communications für 18,8 Milliarden US-Dollar und verschaffte sich damit eine wichtige Basis für den Verkauf neuer KI-Produkte an Krankenhauskunden, da die medizinische Diktiersoftware von Nuance bereits von 550.000 Ärzten genutzt wird. „Nuance hat eine enorme Präsenz im Gesundheitswesen“, sagt Alex Lennox-Miller, Analyst bei CB Insights, was Microsoft „gut positioniert“ für den Einsatz seiner generativen KI-Software für Verwaltungsaufgaben in diesem Sektor macht.

Vor dem Boom der generativen KI konkurrierten Amazon, Microsoft und Google um Cloud-Kunden. Mit einem Cloud-Umsatz von 48,1 Milliarden US-Dollar im Jahr 2022 hält Amazon laut dem Technologieforschungsunternehmen Gartner rund 40 % des Marktanteils. Microsoft folgt mit 21,5 %, während Google mit einem Cloud-Umsatz von mehr als 9 Milliarden US-Dollar und einem Marktanteil von 7,5 % den vierten Platz hinter der Alibaba Group belegt.

Es ist auch keine Überraschung, dass sie alle jetzt versuchen, gezielt Kunden im Gesundheitswesen anzusprechen, einer komplexen und stark regulierten Branche, sagt Dekate. Er sagt, das liegt daran, dass, wenn man Anwendungsfälle in einem komplexeren Umfeld wie dem Gesundheitswesen oder Finanzdienstleistungen nachweisen kann, dies anderen Kunden signalisiert, dass generative KI für eine breitere Einführung bereit ist.

Aber noch ist niemand da. Was alle Cloud-Unternehmen ihren Kunden präsentiert haben, seien Bausteine, sagt Dekate. Das heißt, es gibt viele Möglichkeiten, ihre KI-Plattformen in maßgeschneiderten Anwendungen zu nutzen, die ihre Kunden erstellen müssen. Was diese Kunden jedoch wollen, sind vollständig ausgestattete Lösungen.

„Amazon, Google und Microsoft kämpfen darum, die Führungsspitze der generativen KI-Wirtschaft zu dominieren“, sagt Dekate. „Aber keiner von ihnen hat eine ausreichend gute vertikale Geschichte formuliert.“

Da das Gesundheitswesen so stark reguliert ist und die Folgen von Fehlern hoch sind, müssen generative KI-Anwendungsfälle sehr klein anfangen. Für HCA bedeutet das, dass ein Krankenhaus – UCF Lake Nona – derzeit das Übergabetool als Proof-of-Concept testet. Die KI erfasst Patientendaten der letzten 12 Stunden, darunter Laborergebnisse, Medikamente, wichtige Ereignisse, und spuckt eine Verlegungsübersicht aus, die auch Vorschläge dazu enthält, worüber die kommende Krankenschwester in den nächsten 12 Stunden nachdenken sollte, sagt Schlosser.

Während es mit der Vertex AI-Software von Google erstellt wurde, hat HCA mit verschiedenen Basismodellen experimentiert, darunter PaLM und Med-PaLM. „Wir führen derzeit viele direkte Tests durch, um herauszufinden, wo das generische Modell besser funktioniert und wo ein medizinisch geschultes Modell mehr Genauigkeit und bessere Ergebnisse liefert“, sagt Schlosser. „Ich kann mir vorstellen, dass beide in der Zukunft, die wir zu schaffen versuchen, tatsächlich eine wichtige Rolle spielen werden.“

Die Idee, mehrere Modelle zur Lösung eines komplexen Problems zu verwenden, bekannt als „zusammengesetzte“ künstliche Intelligenz, stelle eine interessante Herausforderung für die Cloud-Anbieter dar, sagt Dekate. Sie bieten gleichzeitig ihre eigenen Inhouse-Modelle an, arbeiten aber auch mit anderen Unternehmen zusammen, um „das Versprechen der Wahl“ zu bieten, sagt er. Dekate geht davon aus, dass Google, Microsoft und Amazon in zunehmendem Maße Dienste anbieten werden, die Kunden dabei helfen, verschiedene Modelle zu bewerten. Schlosser sagt, dass HCA bei der Bewertung bisher einen manuellen Ansatz gewählt hat, indem Ärzte und Krankenschwestern die Ergebnisse des Modells im Verhältnis zu dem bewerten, was das menschliche Team im direkten Vergleich tun würde.

Corrado sagt, dass generative KI-Modelle nach dem aktuellen Stand der Technik mit „einem eifrigen, fleißigen Assistenten verglichen werden können, der sich sehr bemüht, gute Arbeit zu leisten.“ Und Sie sollten die Ausgabe als Entwurf kritisch betrachten und sagen: Okay, was haben Sie verpasst? Was hast du falsch gemacht?“

OpenAI vertritt die Ansicht, dass größer desto besser ist, wenn es um die Datenmenge geht, auf der das Modell trainiert wird. Sein GPT-3-Modell, das im offenen Internet trainiert wurde, hatte rund 175 Milliarden Parameter und die neueste Version, GPT-4, soll über mehr als 1 Billion Parameter verfügen (obwohl das Unternehmen die Gesamtzahl nicht öffentlich bestätigt hat). Laut Google verfügen die größten PaLM- und Med-PaLM-Modelle über 540 Milliarden Parameter. Das Unternehmen lehnte es ab, sich zur Größe von PaLM 2 zu äußern.

Da Modelle jedoch auf immer mehr Daten trainiert werden, kann es zu Leistungsproblemen kommen. Im Juli sagte eine Gruppe von Forschern aus Stanford und der UC Berkeley, ihre Tests deuteten darauf hin, dass die Leistung von GPT-4 im Laufe der Zeit etwas nachgelassen habe, und bestätigten damit anekdotische Berichte, die in Entwicklerforen zu finden sind. Obwohl es sich hierbei um eine vorläufige Erkenntnis handelte und Forscher immer noch lernen, wie generative KI-Modelle funktionieren, gibt dies Anlass zur Sorge, insbesondere da nicht ganz klar ist, wie solche KI-Systeme zu ihren Antworten gelangen. „Eines der größten Probleme im Gesundheitswesen für diese Algorithmen wird ihre Schwierigkeit bei der Transparenz sein“, sagt Lennox-Miller.

Laut Corrado sind genau diese Bedenken der Grund, warum Google mit Nischen-LLM-Modellen experimentiert, die auf engeren Datensätzen trainiert werden. Ohne die Modelle auf bestimmte Anwendungsfälle wie das Gesundheitswesen zuzuschneiden, sagt er, „läuft man Gefahr, nur ein Schweizer Taschenmesser zu haben, das nicht das beste Messer und auch nicht der beste Schraubenzieher ist.“ Und es ist auch nicht der beste Zahnstocher. Und wir glauben, dass es insbesondere in diesen hochwertigen Umgebungen besser ist, eine Domänenanpassung vorzunehmen, den Anwendungsfall zu verstehen und die gleiche strenge Qualitätsbewertung und Versionskontrolle zu haben, die Sie von einem echten Produkt erwarten würden.“

Eine weitere Herausforderung für die meisten großen Sprachmodelle besteht darin, dass sie nicht ständig lernen. Sie haben normalerweise einen Stichtag für ihre Trainingsdaten. Beispielsweise wurde die kostenlose Version von ChatGPT bis September 2021 auf Daten trainiert. Da sich das Wissen im Gesundheitswesen jedoch ständig weiterentwickelt, müssen Ärzte, die diese Tools verwenden, ein gutes Gespür dafür haben, wie aktuell die Daten sind, mit denen sie arbeiten. Corrado sagt, dass Google immer noch über den Grenzwert entscheidet, dieser aber den Kunden mitgeteilt wird. „Wir verlassen uns nicht darauf, dass diese Systeme alles über die medizinische Praxis wissen“, sagt Corrado.

In den Krankenhäusern der Zukunft stellt sich Schlosser einen „KI-Assistenten des Pflegeteams“ vor, der seiner Meinung nach „erstaunliche Möglichkeiten bei der Reduzierung des Verwaltungsaufwands“ haben wird. HCA hat außerdem mit Google und dem börsennotierten Ambient-KI-Unternehmen Augmedix zusammengearbeitet, um die Erstellung medizinischer Notizen in der Notaufnahme zu automatisieren. Laut Schlosser nutzen rund 75 Ärzte in vier HCA-Krankenhäusern die Technologie. Der „heilige Gral“ für Ärzte sei, sagt er, dass sie sich auf die Versorgung der Patienten konzentrieren könnten und „die Dokumentation sich von selbst erledigen würde“. Der Grund, warum sie in der Notaufnahme beginnen, ist, dass dies einer der kompliziertesten Orte ist, um zu beweisen, dass die Technologie tatsächlich funktioniert.

Bei der Nutzung des Augmedix-Tools bittet der Arzt den Patienten direkt um sein Einverständnis, die Untersuchung aufzuzeichnen und ein KI-Tool zum Notieren zu nutzen, sagt Schlosser. Für das Tool zur Übergabe an Krankenschwestern, das nicht patientenorientiert ist, fällt es unter die umfassendere Datenschutzeinwilligung der HCA hinsichtlich der Verwendung von Patientendaten für Forschungs- und Prozessverbesserungen, sagt er. HCA arbeitet auch an der Nutzung generativer KI für Entlassungszusammenfassungen aus der Notaufnahme sowie für Übergaben von der Notaufnahme an stationäre Patienten. Schlosser sagt, während HCA darüber nachdenkt, den Einsatz von KI für Verwaltungszwecke zu skalieren, muss das Unternehmen darüber nachdenken, „wie man alle Patienten richtig darüber informiert, dass eine KI Teil eines Pflegeprozesses ist“.

Einwilligung und Datenschutz sind wichtige Anliegen beim Einsatz von KI im Gesundheitswesen, und Google sorgte mit einer früheren Partnerschaft mit dem Krankenhaussystem Ascension, das KI zur Analyse von Millionen von Krankenakten einsetzte, für erhebliche Kontroversen. Im Jahr 2019 äußerten Berichte über das „Project Nightingale“ des Unternehmens Bedenken hinsichtlich des Datenschutzes und der Datensicherheit. Sowohl Google als auch Ascension sagten, die Arbeit entspreche den Bundesgesetzen zum Schutz der Privatsphäre von Patienten.

Im Fall von PaLM und Med-PaLM sagt Google, dass keines der Modelle auf Patientendaten bei HCA oder einem anderen Kunden trainiert wird. „Die Daten von HCA sind die Daten von HCA und niemand anderem“, sagt Thomas Kurian, CEO von Google Cloud, gegenüber Forbes. „Stellen Sie sich das wie einen Tresor in unserer Cloud vor, der nur zum Trainieren der Version des Modells verwendet wird, die sie verwenden. Es wird nicht mit anderen geteilt. Keine dieser Daten wird zur Verbesserung unseres Basismodells verwendet.“

Trotz der Herausforderungen für generative KI, von technischen Fähigkeiten bis hin zu Datenschutz- und Datenbedenken, ist Schlosser optimistisch, dass auf Technologie basierende Tools Teil des Standard-Toolkits für Ärzte werden. HCA verfolge einen langsamen Ansatz, der darauf aufbaue, einige der Belastungen ihrer täglichen Arbeit zu lindern, sagt er, weil er glaubt, dass Ärzte, sobald sie beginnen, KI zu nutzen, in der Lage sein werden, den besten Weg zu finden, sie für kompliziertere Anwendungen zu nutzen.

„Ich möchte, dass Ärzte die KI voll und ganz als Partner annehmen, der ihnen das Leben erleichtert, bevor wir uns auf einige dieser umstritteneren Bereiche einlassen“, sagt er.