Fallbeispiel: Ethisches Reinwaschen oder „Weiß, weißer geht’s nicht –Weißer Riese oder doch nur heiße Luft“

Otto Obert, Carsten Trinitis

Emma und Noah haben beide Medizin studiert und eine lukrative Position in der anwendungsorientierten Forschungseinrichtung EMPE3 bekommen, die sich insbesondere auf das Digitaltechnologie-gestützte Management von Krisenszenarien bei Pandemien spezialisiert hat. So liegt es in der Natur der Sache, dass bei EMPE3 sowohl Mitarbeiter(innen) mit medizinischer als auch mit informationstechnologischer Ausbildung beschäftigt sind, wie die beiden Informatiker Olivia und Ersoy. Darüber hinaus verfügen die meisten von ihnen zusätzlich über einen Abschluss in Philosophie oder Ethik, da bei derart sensiblen Themen, wie sie von EMPE3 bearbeitet werden, stets auch ethische Grundsätze und Spezifika zu beachten sind.

Für Firmen und Einrichtungen wie EMPE3 winken im Zuge von anwendungsnaher Forschung im Umfeld pandemischer Krisen lukrative Aufträge und Fördermittel, unter anderem wurden von der Europäischen Union aufgrund der Corona-Pandemie kurzfristig hohe Summen an Forschungsgeldern zur Verfügung gestellt.

Aus Emma, Noah, Ersoy und Olivia ist ein Spezialistenteam gebildet worden. Dieses Team hat ganz aktuell die Führung eines EU-Projektes namens PANDEMANIA übertragen bekommen, an dem zahlreiche weitere Partner aus dem In- und Ausland beteiligt sind. Projektziel ist die Entwicklung von Systemen zur Eindämmung und Entscheidungshilfe bei Pandemien.

Hauptschwerpunkte dabei sind die gemeinsame und einheitliche Entwicklung einer konkreten KI-Lösung auf mobilen Endgeräten zur Selbstdiagnose von Symptomatiken und automatisierten Benachrichtigung der Personen, die mit Infizierten in relevantem Kontakt standen (Tracing-App) sowie die Modellierung eines KI-basierenden Assistenzsystems zur transparenten und jederzeit vollständig nachvollziehbaren Entscheidungshilfe in Triage-Fällen (Triage-Assistenzsystem zur evidenzbasierten Ersteinschätzung der Behandlungsdringlichkeit und somit Priorisierung von z.B. konkurrierenden Intensiv- und Beatmungspatienten besonders bei Ressourcenengpässen).

Das Team hat hierbei mit seiner Kernkompetenz die Aufgabe, einen mit allen an der Entwicklung beteiligten Partnern abgestimmten einheitlichen Anforderungsrahmen samt dessen Einhaltung zu vereinbaren, der über die gesetzlichen Vorgaben hinaus (das jeweils strengste nationale Gesetz) wirkt und dabei insbesondere wertebasierte ethische Grundsätze berücksichtigen soll.

Weitere assoziierte Partnerländer sind neben EU-Ländern, vertreten durch die EMPE3, noch die EU-Nachbarn Asika, Eurasien und die Vereinigten Inseln.

Asika möchte seine Interessen insbesondere bei der Tracing-App durchsetzen, um über den notwendigen und gleichzeitig datenschutzkonformen Funktionsumfang hinaus auch noch die robuste Einhaltung der Quarantäne von Infizierten zu überwachen und Personen aktiv aufzuspüren, die relevanten Kontakt zu Infizierten hatten.

Da Eurasien mit einer nahezu flächendeckenden Überwachung auf Basis von Kameras und Gesichtserkennung sowie einem Social Scoring sowohl das Nachverfolgen von Infektionsketten als auch eine möglicherweise notwendige Richtung keine besonderen zusätzlichen Anforderungen.

Die Vereinigten Inseln hingegen haben besonders bei der Modellierung eines Assistenzsystems zur Entscheidungshilfe in Triage-Fällen individuelle Anforderungen angemeldet, die allen anderen Beteiligten auch nicht transparent werden sollen.

Olivia ist Hauptansprechpartnerin für die Delegation der Vereinigten Inseln, die durch Tommy vertreten wird. Sie versucht, Tommy das fünfstufige Triage-Design schmackhaft zu machen, auf das man sich eigentlich ursprünglich nach langwierigen Verhandlungen geeinigt hatte. Tommy möchte aber für die Version der Vereinigten Inseln eine exklusive sechste Stufe, die erlauben soll, alle fünf vorherigen Stufen zu übersteuern und damit mehr oder weniger willkürlich und völlig intransparent zu entscheiden. Tommy will Olivia darüber hinaus überzeugen, gar die pure Existenz dieser sechsten Stufe geheim zu halten und in der Öffentlichkeit nur von einer für alle einheitlichen Lösung zu sprechen.

Ersoy hat es mit Azra von der eurasischen Delegation zu tun. Azra trägt alle Entscheidungen mit und ist bedingungslos kooperativ bei der gemeinsamen ethik-konformen Lösungsentwicklung. Ersoy weiß genau, dass diese gemeinsam entwickelten Lösungen dort nie zum Einsatz kommen werden, da eine bereits vollständige Überwachung samt Social Scoring implementiert ist. Eurasien will dennoch um jeden Preis als vorbildlicher Entwicklungspartner erscheinen.

Die für Asika sprechende Esther macht gegenüber Noah erst gar keinen Hehl aus ihrer Haltung: Falls die Tracing-App im Infektionsfall keine genauen geografischen und zeitlichen Daten der relevanten Kontaktpersonen liefert (und das bei nachgewiesenen Infizierten in Quarantäne sogar in Echtzeit), würde Asika für diesen Teil aussteigen und eine vom eigenen Geheimdienst zur Terrorismusbekämpfung bereits sehr erfolgreich eingesetzte Lösung nutzen (Tracking per GPS-Ortung). Immerhin steht Asika voll hinter dem fünfstufigen Triage-Lösungsansatz.

Emma, die innerhalb aller direkt beteiligten Partnern der EU für Konsens sorgen muss, hat es da nur vermeintlich leichter. Besonders die Interessenvertreter der europäischen Pharmaindustrie würden sehr gerne aus rein kommerziellen Gründen die zu Beginn als nicht verhandelbar vereinbarten sogenannten „Roten Linien“ aufweichen. Auch wenn diese Gruppe von Emma nicht überzeugt werden konnte, ordnen sie sich zumindest den Rahmenbedingungen unter, um nicht ihrer Außenwirkung und Reputation zu schaden. Jedoch möchte die Pharmalobby im Falle des Eintretens einer Pandemie verbindlich Exklusivrechte eingeräumt bekommen. Das dann zum jeweiligen Zeitpunkt als am besten geeignete bereits zugelassene und verfügbare europäische Medikament aus zum Beispiel der Behandlung von HIV, Ebola oder Malaria soll kostenfrei, aber eben exklusiv, eingesetzt werden dürfen, bis zur Entwicklung und WHO-Zulassung eines der spezifischen Bekämpfung des aufgetreten Virenstammes dienenden Wirkstoffes. Abgesehen davon steht zumindest der überwiegende Teil der beteiligten Partner aus Europa voll und ganz hinter dem vereinbarten Anforderungsrahmen, insbesondere zu den wertebasierten ethischen Grundsätzen.

Emma, Noah, Ersoy und Olivia müssen für die nächste Sitzung des hochrangigen Projekt-Steuerungsgremiums, bestehend aus dem EU-Gesundheitskommissar als Vorsitzenden und den EU-Länder-Gesundheitsministern samt deren Staatssekretären, einen Statusbericht vorbereiten. Dieser soll einen Überblick über alle Partnerländer geben, differenziert nach gesetzlichen Vorgaben, ethischen Grundsätzen sowie den beiden Hauptthemen Tracing-App und Triage-Assistenzsystem. Sie tauschen zu Beginn ihres Vorbereitungstreffens ihre Erfahrungen aus, wundern sich über das Verhalten ihrer jeweiligen Länderansprechpartner und suchen Antworten auf Ihre Fragen …

Fragen

Arbeitsziel ist es, die verschiedenen Ebenen zu durchleuchten und einzuordnen – im Übergang von echter Überzeugung zu realer Wirksamkeit auch ohne Überzeugung dahinter, über „totales“ ethisches Reinwaschen bis hin zu unverhohlener Ignoranz. Damit sollen gute Kompromisse von nicht so guten, oder gar faulen, zu unterscheiden gelernt werden.

1. Welche Partnerländer verhalten sich bei welchem der beiden Schwerpunktthemen (Tracing-App und Triage-Assistenzsystem) vorbehaltlos vorbildlich und stehen voller Überzeugung zum einheitlichen Anforderungsrahmen und zur Einhaltung auch der wertebasierten ethischen Grundsätze?
2. Ist ein Partner nur dann vorbildlich, wenn er sich auch bei beiden Schwerpunktthemen an den Anforderungsrahmen hält?
3. Wie bewerten Sie die zwarmangelndeÜberzeugung einiger Partner zu den ethischen Grundsätzen, wenn sie diese aber dennoch mittragen und einhalten?
4. Auch wenn eine „Medikamentenspende“ aus einem sonst knallhart kalkulierenden Wirtschaftszweig auf den ersten Blick altruistisch und philanthropisch erscheint:Welche Aspekte „hinter den Kulissen“ sprechen für eine vermeintlich nur vorgetäuschte „WeißeWeste“? Nennen Sie die aus Ihrer Sicht wichtigsten drei.
5. Bei welchen Konstellationen kann man eindeutig von „ethischem Reinwaschen“ sprechen?
6. Wie ordnen Sie das Verhalten von Partnern ein, die offen gegen den gesetzlichen wie auch ethischen Teil des Anforderungsrahmen verstoßen?
7. Lassen sich ein Verstoß gegen den gesetzlichen Teil und ein Verstoß gegen den ethischen Teil unterschiedlich be- und verurteilen und wenn ja, wie könnte man das beschreiben?
8. Wie würden Sie die vier verschiedenen Ebenen im Übergang von echter Überzeugung zu Zweifel und dennoch realer Wirksamkeit, über „totales“ ethisches Reinwaschen bis hin zu offener Zuwiderhandlung beurteilen?

Zusatzfragen, die zwar über das Kernthema ethisches Reinwaschen hinausgehen, aber von besonderer Bedeutung sind:

9. Inwieweit ist es sinnvoll und ethisch vertretbar, europa bzw. länderweit oder entsprechend der Betroffenheit von Gegenden grundsätzlich eine App (Tracing) sämtlichen Bürgern vorzuschreiben, um das Infektionsrisiko zu minimieren oder Beschränkung zu lockern? Differenzieren Sie Ihre Begründung weiter mit Blick auf die App-Varianten mit einem zentralen oder dezentralen Ansatz (stark vereinfacht: pseudonymisierte Daten der relevanten Begegnungen werden zentral auf einem Server gespeichert oder verbleiben dezentral auf den jeweiligen Endgeräten) und darüber hinaus noch zusätzlich mit der Möglichkeit einer Standortbestimmung (Tracking).
10. Wäre der Einsatz eines transparenten und jederzeit vollständig nachvollziehbaren Triage-Assistenzsystems grundsätzlich ethisch vertretbar? Wie beeinflusst Ihre grundsätzliche Einordnung der Einsatz besonders in Ländern, in denen ansonsten eine besonders große Gefahr von fehlerbehafteter, willkürlich, politisch oder nicht-medizinisch induzierter Einflussnahme besteht? Auch wenn natürlich Triage-Entscheidungen am Ende immer von Ärzten getroffen werden, die sich dem hippokratischen Eid verpflichtet haben.

Erschienen im Informatik Spektrum 43(3), 2020, S. 227-229, doi : 10.1007/s00287-020-01282-3