KI, Watson & Co. – Wieviel IT-Hype verträgt unsere ärztliche Heilkunst?
Die ärztliche Heilkunst erscheint derzeit als ohnmächtiges Objekt von methodologischer Schematisierung und digitalisierender Fragmentierung. Im Folgenden wird einigen sozial- und zivilisationsgeschichtlichen Tendenzen zu Trivialisierung und Industrialisierung der bislang individuell ausgerichteten ärztlichen Behandlung nachgegangen. Der Vortrag von FÄ-Vize Dr. Axel Brunngraber auf dem Kongress Freier Ärzte 2018 in Berlin.
„Big Data“, „Künstliche Intelligenz“, „selbstlernende Algorithmen“ sind die Zauberworte, die derzeit als Substitut für empirische, hypothesengestützte Wissenschaft und menschgemachte Technologie herhalten müssen. Eine grenzenlose, pragmatische Output-Orientierung räumt mit den klassischen Methoden und gängigen Evaluationen in Wissenschaft und insbesondere Medizin grundlegend auf.
Wir beobachten jedoch auch großformatiges Versagen abgeleiteter kommerzieller Produkte („flu trends“ von Google bzw. bei klinischen Anwendern von Watson/IBM). Gleichzeitig weisen prominente Exponenten der ärztlichen Qualitäts- und Leistungsmessung in den USA auf das Unvermögen der eigenen Werkzeuge hin.
TimeOut for Performance Measurement
Der NEngJMed-Artikel „Time Out“ von Catherine MacLean et al. aus dem Mai 2018 verlangt die Überprüfung sämtlicher „performance measurement“-Programme und einen Stopp von deren Anwendung, verbunden mit einem methodischen Neuanfang. Es handelt sich um die manifeste Krise einer bislang dominierenden Kontrollmethodik ärztlicher Arbeit.
In den USA gibt es mehr als 2.500 Messkonstrukte ärztlicher Leistung, die zu Qualitätsmessung, Rechnungslegung und Kostenberechnung Anwendung finden. Die staatlichen Gesundheitsprogramme medicare und medicaid wollen sogar bis Ende 2018 mehr als 90 Prozent aller Geldflüsse von derartigen „performance scores“ abhängig machen.
Im US-Gesundheitswesen werden jährlich $15,4 Mrd., d. h. ca. $40.000 pro Arzt, für Leistungsmessung aufgewandt. Gleichzeitig negieren ca. zwei Drittel der anwendenden Ärzte, dass damit eine sinnvolle Erfassung von ärztlicher Behandlungsqualität gelingt.
Anhand von für die Überprüfung von Nutzen bzw. Schaden medizinischer Maßnahmen etablierten Kriterien (Rand Corp./ UCLA) wurden im Auftrag des American College of Physicians von den 217 Quality Payment Programs des medicare insgesamt 86 als für die ambulante innere Medizin relevant ermittelt und bewertet. Hiervon erwiesen sich jetzt lediglich 37 Prozent als valide, 35 Prozent hingegen als methodisch nicht-valide und die übrigen 28 Prozent als fraglich. Ein niederschmetterndes Ergebnis!
Dieser in der amerikanischen Community jetzt intensiv diskutierte Sachverhalt lässt die bekannte Frage „Who watches the Watchmen?“ stellen.
Big Data als „Abschied von der Theorie“
Big Data stellt einen einschneidenden Paradigmenwechsel in Forschung und Wissenschaft insgesamt dar: den „Abschied von der Theorie“. Künftig regiert Korrelation anstelle von Kausalität, statt mit Hypothesen operiert man mit sogenannten “bestätigtem Wissen“. Getragen wird alles von der Illusion „mehr Daten = mehr Wissen“. Big Data verlangt notwendig nach unbeschränktem Zugang zu quasi allen Daten! Statt Hypothesen-gelenkter Studien werden wir und unsere reale Welt zur Gesamtkohorte eines globalen Dauerexperiments.
Dabei fehlt jegliche Technikfolgenabschätzung. Man wirbt zwar populistisch mit dem Argument des „Rettens vieler Menschenleben“, deren potenzielle methodenbedingte Gefährdung wird aber ausgespart. Mögliche inhärente Fehler (z. B. Zunahme des Rauschens) sollen ggfs. halt „durch noch mehr Daten“ korrigiert werden.
IBM-Watson, ein unausgereifter Sandkasten im Klinikeinsatz
Das IBM-KI-Produkt Watson hat 2011 publizistisch als Sieger des Jauch-Vorbildes, der US-TV-Quizsendung „Jeopardy“ gepunktet. Das System analysiert Krankendaten und schlägt daraus abgeleitete Therapiekonzepte vor. Wer verantwortet die eingesetzten Algorithmen bei Fehlentscheidungen? Von Experten wird eine strengere Regulierung bezüglich Sicherheit und Effektivität gefordert. Frustrierte Anwender konstatieren überwiegend Ergebnisse, die nicht besser als von Menschen gemachte sind.
Maßgebliche Kliniken (Anderson Cancer Center, Houston, das Deutsche Krebsforschungszentrum, Heidelberg, das Universitätsklinikum Marburg, das Rigshospitalet, Kopenhagen) sind von Watson wegen Ineffizienz, Kosten und Unreife des Projekts abgerückt. Auf die Forderung nach randomisierten Tests von Watson äußerte eine Projektverantwortliche von IBM „Fallschirme funktionieren doch auch – und sind nie randomisiert getestet worden“!
Künstliche Intelligenz – ein Produkt das niemand bestellt hat
A.I., Künstliche Intelligenz als IT-Projekt soll sich aus „selbstlernenden Algorithmen“ speisen. Hierbei ist derzeit allerdings noch eine riesige technologische Umgebung mit umfangreicher Nachbearbeitung und ständiger Lenkung auf Zielvorgaben erforderlich, um sie gemäß einer menschgemachten Erkenntnisausrichtung nachzusteuern.
Auch problematisch: die dominierende Output-Orientierung im Sinne von ökonomischen Lösungen: „Was bringt uns das ein?“. Dagegen tritt eine denkbare Input-Orientierung bezüglich Zielen, Zwecken und Werten (z. B. mehr Demokratie, mehr Gleichheit, bessere Lebensverhältnisse, die Frage „wie wollen wir diese Bereiche unseres Lebens gestalten?“) völlig in den Hintergrund.
Die maßgeblichen Produktionsbedingungen von Technik in Industrie und Militär können als elitär und menschenfern charakterisiert werden. Die Bevölkerung, die Anwenderschaft, ist bei der Formulierung von Entwicklungszielen praktisch nicht beteiligt. Getestet wird – statt deren Bedürfnissen – nur noch deren Akzeptanz als potenzielle Anwender.
Gouvernementalität – Big Brother im eigenen Kopf installieren
Das Konzept der Gouvernementalität ist derzeit in seine Phase des eGouvernment getreten. Der moderne Staat bringt moderne Subjekte hervor, die durch Verobjektivierung des Selbst und permanente Selbstkontrolle, verbunden mit Verinnerlichung der herrschenden Rationalität gekennzeichnet sind. Dem heutigen Untertan wird Verantwortung übertragen, die nicht emanzipatorisch, sondern entlang verinnerlichter kollektiver Normen ausgerichtet ist. Deren Kontrolle und Steuerung bringt gegenwärtig unter dem Schlagwort Digitalisierung umfassende Veränderungen im Gesundheitswesen hervor.
Das historisch-christliche Paradigma erlebte Krankheit als Folge von Schuld und Verfehlung, als Sühne oder Prüfung. Das darauf folgende biomedizinische Modell der Aufklärung entdeckte physiologische Ursachen sowie Kontingenz in der Ätiologie des nunmehr unschuldig Erkrankten. Das heute verbreitete psychosomatische Modell restituiert erneut eine quasi-moralische Bewertung. Grundlage eines modernen „verdienstvollen Lebenswandels“ sind eine obligatorisch rationale Lebensführung mit Prävention und Vorsorgemaßnahmen. Die Rituale der Selbstkontrolle beinhalten Fitness, durchdachte Ernährung, Schritt-, Puls- und sogar Schlafüberwachung.
Eine explorative Genetik ermöglicht darüber hinaus durch Identifizierung von persönlichen Defekten eine Individualisierung des Risikos. An die Stelle einer sozialen Wertung und Gerechtigkeit tritt eine versicherungsmathematische Logik.
All diese Prozesse nehmen mehr oder weniger direkten Einfluss auf unsere tägliche ärztliche Behandlung und auf unser professionelles Verhältnis zu unseren Patienten, ohne selbst immer sichtbar zu werden. Sie zu analysieren und kritisch zu hinterfragen ist eine wesentliche Funktion gemeinschaftlicher berufspolitischer Aktivität und wird von der Freien Ärzteschaft seit vielen Jahren betrieben sowie durch Publikationen und Veranstaltungen in der Fachöffentlichkeit kommuniziert.
Dr. Axel Brunngraber, Juni 2018