Stand: 14.12.17 02:00 Uhr

Der Todesalgorithmus: Computer berechnet Lebenserwartung

von Tina Soliman

"Wir können sagen, welche Patienten in einer Woche, sechs Wochen oder einem Jahr sterben. Wir können zu Behandlungsplänen sagen: Wie viel kostet der Patient?" - so wirbt Bill Frist für das auch von ihm gegründete US-Unternehmen "Aspire Health". Das von Google mitfinanzierte Unternehmen wertet mit Hilfe von Algorithmen ärztliche Diagnosen von Patienten aus - und gleicht das Krankheitsbild mit Mustern häufiger Therapien ab. Mit Hilfe des Algorithmus' soll verhindert werden, dass Schwerkranke unnötige Behandlungen bekommen, die außerdem noch viel Geld kosten. So spart man teure Untersuchungen, wenn man zu wissen glaubt, dass es um den Patienten ohnehin bald geschehen ist. 

Todesalgorithmus © NDR Fotograf: Screenshot

Todesalgorithmus: Berechnete Lebenserwartung
Ein Algorithmus, der berechnet, wie lange ein Mensch noch lebt, könnte Schwerkranken unnötige Behandlungen ersparen. Und Behandlungskosten senken. Was aber, wenn er sich täuscht?

"Aspire Health" will Kosten senken. Denn Behandlung ist teurer als Pflege. Das US-Unternehmen, das sein Geld mit Palliativpflege verdient, erwartet, dass sich so 40 Prozent der Behandlungskosten einsparen lassen. Das klingt nach Effizienz. Aber lässt sich die Prognose über den Krankheitsverlauf eines Menschen anhand von Statistiken errechnen? Was ist mit nicht messbaren, aber entscheidenden Faktoren? Dem Überlebenswillen zum Beispiel.

"Ich wollte leben!"

Vor über vier Jahren erfuhr Monika, dass sie vermutlich nur noch wenige Monate zu leben hatte. Sie litt unter schwarzem Hautkrebs auf fast allen Organen - und Brustkrebs. Monika bereitete ihre eigene Beerdigung vor. "Der Bestatter war hier, und wir haben die komplette Beerdigung besprochen, welcher Blumenschmuck gemacht wird, dass ich verbrannt werden möchte, welche Urne - und auf welchem Friedhof. Ich hätte wirklich gehen können", so die heute 55-jährige, ehemalige Krankenschwester. Die Leber drohte zu versagen, Monika hatte bereits die Zusage für einen Hospizplatz. "Ganz plötzlich, sozusagen über Nacht, entwickelte ich einen unbändigen Überlebenswillen. Ich wollte leben!"

Maschinen denken und fühlen nicht

"Algorithmen urteilen nur auf der Basis der Daten, mit denen sie gefüttert werden", warnt Kevin Baum, Computerethiker der Universität des Saarlandes, "sie bilden immer nur das Modell eines Menschen ab, nie den Menschen selbst!" Nicht beachtete individuelle Eigenschaften, die aber durchaus relevant sein können - wie etwa der Kampfeswille - können somit übersehen werden. Maschinen lernen, aber sie denken und fühlen nicht!

Kevin Baum, Computerethiker, Uni Saarbrücken © NDR Fotograf: Screenshot

Eigenschaften wie ein starker Überlebenswille könnten von Algorithmen übersehen werden, meint Computerethiker Kevin Baum.

"Was eine Maschine nicht kann, ist eine Einzelfallentscheidung zu fällen", so Baum. "Die Idee ist, dass ähnliche Fälle ähnlich funktionieren. Das muss aber auch nicht unbedingt sein! Wir könnten uns zwei Patienten vorstellen, die beide auf dem Fragebogen die gleichen Antworten gegeben haben, deren Patientenakten genau gleich aussehen. Wir können annehmen, dass das alles in den Algorithmus eingeht, und trotzdem können wir annehmen, dass der eine Patient nach sechs Monaten tot ist und der andere Patient noch 15 Jahre lebt."

Auf welcher Grundlage basieren die Algorithmen?

Grundsätzlich spielt die Vorhersage des Todes bereits in vielen Bereichen eine Rolle, etwa bei Lebensversicherungen. Doch Algorithmen setzen sich auch im medizinischen Bereich immer stärker durch. Längst werden sie auch in deutschen Krankenhäusern eingesetzt - in Erwartung von Berechenbarkeit der Lebenserwartung.

Prof. Dr. Wolfgang Hiddemann, Onkologe im Klinikum Großhadern in München. © NDR Fotograf: Screenshot

Algorithmen, die entwickelt werden, um Kosten zu senken, müsse man verbieten, sagt der Onkologe Prof. Wolfgang Hiddemann.

Der Rat von Software kann helfen und Therapieentscheidungen unterstützen, sagt der Onkologe Prof. Wolfgang Hiddemann von Klinikum Großhadern in München. Auch er setzt datenbasierte Statistiken als Hilfsmittel ein. "Das sind aber Algorithmen, die von uns selbst entwickelt worden sind und bei denen ganz klar ist, auf welcher Grundlage das basiert. Wenn aber Algorithmen entwickelt werden von Firmen, die etwas verkaufen wollen oder die Kosten dämpfen wollen, dann ist das ein Punkt, der mir zu weit geht, und den muss man in der Umsetzung verbieten", so der Onkologe. 

Start-Ups wie "Aspire Health" legen ihre Algorithmen nicht offen. So wird die Entscheidung über Leben und Tod an eine Firma ausgelagert, deren Manager und Strukturen nicht bekannt sind. Das Leben: ein Betriebsgeheimnis. Wenn wir nicht wissen, wer den Algorithmus aus welchen Gründen erstellt  - wie das Verhältnis zwischen Eingabe und Ausgabe aussieht - dann können wir nur schwer beurteilen, ob der Rat der Software taugt oder nicht.

Todesurteil per Mausklick

Lukas Hartmann ist Softwareentwickler und interessiert sich für Lebenszeitberechnung. Er hat eine US-Firma gefunden, die einen Selbsttest anbietet: Man schickt eine Speichelprobe ein und bekommt eine Analyse des eigenen DNA-Bauplans. Man erfährt etwa, ob man unter einer Erbkrankheit leidet. "23andme" heißt das Start-Up (auch von Google mitfinanziert), das die Entschlüsselung der Erbinformation anbietet. Längst arbeitet die Firma mit internationalen Pharmafirmen zusammen. 

Hartmann wartete gebannt auf das Ergebnis der Speichelprobenanalyse: Nach einiger Zeit kam eine Mail: "Es gibt ein neues Ergebnis. Das könnte beunruhigend sein! Wenn Sie hier klicken, können Sie das nicht mehr rückgängig machen!" Dort wurde ihm attestiert, dass er das Risiko habe, eine lähmende Muskelschwundkrankheit - Gliedergürteldystrophie - zu bekommen und das würde den Tod bedeuten. "Das war im ersten Moment natürlich schockierend", so Lukas Hartmann.

Lukas Hartmann, Softwareentwickler © NDR Fotograf: Screenshot

Seine Lebenserwartung wurde wegen eines Fehlers im Algorithmus falsch berechnet: Lukas Hartmann, Softwareentwickler.

Todesurteil per Mausklick - nun wollte Hartmann natürlich ganz genau wissen, wie die Firma zu diesem vernichtenden Ergebnis kam. Gut, dass die Trainingsdaten des Algorithmus von "23andme" einsehbar waren. So konnte er nachvollziehen, welche Daten bei der Berechnung verwendet wurden. Was er herausfand, ließ ihn erleichtert aufatmen. Sein Todesurteil basierte auf einem Fehler im Algorithmus. "Die haben sich vertan. Der Fehler war, dass das eine Gruppe von Krankheiten ist, die zu einer Krankheit zusammen gematcht wurden (...) Ich hatte eben einen Marker aus einem Krankheitsbereich und einen aus einem anderen,  und die beiden wurden fehlerhafterweise addiert", so Hartmann.

Berechnungen, die über Leben und Tod entscheiden

Eine Entschuldigung für die Fehldiagnose erhält er nicht. Man habe den Fehler korrigiert, hieß es bei "23andme" lapidar. Und Panorama gegenüber will man sich dazu nicht äußern. Genauso wie "Aspire Health", der Entwickler des "Todes-Algorithmus". 

Diese Rechenprogramme sind, auch wenn sie nüchtern und objektiv erscheinen, Menschenwerk! Und doch werden sie dann zu Black Boxes, wenn die Maschine sich selbst weiter entwickelt - sogar für ihre Entwickler, die nicht mehr genau wissen, wie ihr Geschöpf denkt, weshalb genau die Maschine welchen Lösungsweg gewählt hat. Dennoch sollen diese Berechnungen über Leben und Tod entscheiden!

"Wir können nicht zwei alternative Weltläufe betrachten - einen, in dem der Patient nicht überlebt hat, einen, in dem er es tut. Wir haben immer nur Einzelfälle!", mahnt Computerethiker Baum. Und nur ein Leben!

Freier Wille oder Algorithmus

Monika © NDR Fotograf: Screenshot

Monika leidet an schwarzem Hautkrebs. Ihre Prognose: mehr als schlecht. Trotzdem will sie weiterleben und kämpfen.

Vor vier Jahren plante Monika ihre Beerdigung. Seitdem gab es viele kostbare Momente in ihrem Leben. Ihr macht es Angst, dass ein Algorithmus anzeigen könnte, wann ihre letzte Stunde schlägt: "Ich habe Angst vor dieser Gesellschaft. Wie soll das denn weiter gehen? Ich male mir nicht eine Zukunft aus, bis ich 80 bin. Ich habe eine aggressive Krebsform und eine Lebenserwartung von einem Monat oder fünf Jahren, aber die will ich leben. Und ich gebe dann auf, wenn ich aufgebe und nicht, weil mir eine Maschine das sagt!

Dieses Thema im Programm:

Das Erste | Panorama | 14.12.2017 | 21:45 Uhr