Gewissensbits

Fallbeispiele zu Informatik und Ethik

Scenario: Smoke & Mirrors

Stefan Ullrich, Rainer Rehak

“Are you in it for the cause or in it for yourself?” Hannah doesn’t know how to answer her housemate’s question.

“If you’re in it for the cause,” Jelena continues, “you should accept. Ethics and sustainability are right up your alley. And there’s no such thing as bad publicity!“

Hannah takes another look at the letter from the big organization “AI&I4 Future”—a media conglomerate that is known in social media platforms not least of all for the impressive visuals in its ad campaigns. AI&I4F bills itself as a visionary lab incubator and crash-test institute for artificial intelligence systems. The letter is an invitation to join other experts and activists throughout Europe in formulating a manifesto for sustainable AI with an eye for the common good. The list of invitees reads like a roster of A-listers from all walks of life—established scientists and researchers, popular actors and actresses, veterans of the anti-nuclear movement, young influencers from the eco-tech scene—in short, the list has been curated to include every imaginable stakeholder.”

“Stakeholder,” Hannah suddenly repeats the term to herself out loud. “Right. As if I were on the same page as THEM. What does “multi-stakeholder” even mean in this context?”

Jelena is somewhat taken aback and slightly star-struck, fiddling at the multiple layers of her homemade outfit. “What’s the problem? Is it just that these AI people are so hip and put out such awesome visuals?” As much as she hates to admit it, above and beyond the substantive issues, somehow this is indeed her problem. She feels a bit like a fool, but after some back and forth, she decides to join the panel of experts after all.

A few weeks later the first gathering of all participants takes place at an old estate in the country’s south, where AI&I4F is headquartered. Electric cars pick them up from the train station. She’s seated in the back with the big-name transformation researcher Mats Hillebork. She can scarcely understand him through the plexiglass partition and mask, and she’s not a native speaker of English, either, but he’s obviously cutting jokes about all the hullabaloo surrounding the meeting. In English, he tells her that the estate once belonged to the Fugger Family of merchants and that AI&I4F ultimately renovated the place as a sustainability showcase. Hadn’t Hannah ever wondered about the historical windmill adorning the AI&I4F-logo? But it’s not exactly ecologically sustainable, Hillebork claims, as they drive past the mill. “That’s a mill from the Habsburg dynasty in Spain. Ten years ago, it was dismantled and brought here brick by brick and beam by beam—the old trestle windmill wasn’t snazzy enough!” Hillebork chuckles, leaving Hannah to wonder whether it was just an off-color joke or whether she might have missed something in its telling.

For an organization that specializes in artificial intelligence audits, there is surprisingly little by way of technology here. Sure, there are the E-cars, and the surveillance cameras, but aside from that, scores of employees are bustling around the sprawling grounds. Women washing clothes on washboards, young men drawing water from the well and an old butler posted at the entrance to the house giving directions. There are bowls of fruit and vegetarian snacks everywhere. It is pleasantly cool in the castle, yes, everything about the place is very castle-like. She has two rooms and a modern bathroom all to herself; everything here looks ultra-modern, in contrast to the rest of the building. The latest weather data and community news appear in a corner of the bathroom mirror. That’s how she finds out that the kick-off meeting will last three days. „There I go saying ‘kick-off’ again, I’m already picking up their language: that is not A-OK-AI. “ Those last words are the advertising slogan of a well-known AI voice assistant, and indeed: the characteristic double ring can be heard in the bathroom as the system waits for input from the unsuspecting user.

Hannah gets ready for the first meeting before the scheduled “AI Dinner.” She’s expecting it to be a work meeting, so doesn’t bother getting all done up for it. And she’s especially surprised when she arrives downstairs in the lobby to find a slew of TV cameras running. People are being interviewed and photographed, and she sees journalists wandering around asking the experts to explain the extraordinary potential of AI and how important it is that this technology be dealt with ethically—not the way it is in the USA or China, as they say. What a wonderful world it will be with AI taking so many problems off our hands—and it can even be exported. The remaining events that follow in the next few days at the castle aren’t especially big on content, either. Moderators often trade in generalizations and platitudes, and the agenda is peppered with PR-heavy breaks—plenty of photo-ops and interviews, in some cases, even with an international media presence. Hannah is rather disappointed: she was expecting much more along the lines of substantive work. At the same time, she met a lot of interesting people active in her area of expertise, and she must concede that she’s enjoyed these few days of respite from her daily grind. Maybe things like this are needed now and then, and she should just relax a bit—she certainly has earned it by working so diligently the rest of the time.

These types of meetings take place every couple of months, and within two years the experts have penned a final report, signed by all parties. With its smartly designed visuals, the document features prominently in AI&I4F’s current ad campaign promoting the option of obtaining an AI Quality Seal for European value-based AI products. But, in Hannah’s view, the document is anything but “visionary” in substance. At its core, it merely outlines the overall state of discourse on the subject and otherwise falls far short of presenting the participants’ ideas, visions, and potentialities. Besides, there was never any mention of this campaign at the outset, and she’s not exactly on board with it because it essentially calls for “voluntary self-regulation of the economy.” Ultimately, Hannah is annoyed that she invested so much time and energy into the project that turned out to be exactly what she was critical of and had feared it would be from the beginning: the paper is riddled with shallow generalizations—after all, who would be opposed to “trustworthy AI that supports sustainability and the common good”? Although the signatories include all the relevant figures from critical circles in culture and science, the document contains little well-founded critique and few concrete constructive ideas. On the other hand, she’s come away from it with greater notoriety as an activist-influencer–she’s getting a lot more media inquiries than she used to and is thus better equipped to disseminate the results of her work and her ideas in the media.

Meanwhile, she reads with piqued interest that, while she was busy working on the AI&I4F project, her fellow activists were actively participating in political and legislative processes, both nationally and EU-wide —and she hadn’t even bothered to respond to the emails from her old clique. These activities certainly didn’t get the same kind of media attention, but maybe they are having an under-the-radar effect because the EU Parliament and the German federal government had actually asked for assessments of digital regulation in general and AI in particular within the context of sustainability—precisely her area of specialization. She’s not sure what to make of the whole thing, or how to respond to future initiatives involving AI&I4F because there won’t be any immediate action resulting from the legislative consultations either. That night, she remembers something else she told Jelena two years ago: “Activists and scientists should really think about where they invest their precious time—and where they don’t.”

Questions:

What do you think about these types of events? Are they essential in fostering meaningful social discourse? What dangers do they entail?
The whole castle looks like it’s been sustainably designed, but it actually reproduces clichés and artifice. Does this succeed in supporting a good work atmosphere?
What might Hannah have done to make the meetings more productive for her?
Isn’t it better to attract media attention than it is to work silently on deep thematic issues encapsulated in your own little cubicle? Is Hannah hypercritical in this regard?
What forms of participation in the democratic process are advantageous? What criteria are applicable here? Do the activities of AI&I4F meet them?
Irrespective of this scenario: What recent social issues have elicited calls to consider “ethics” and “values”? Was this topic in fact a new and uncharted territory so that it merited widespread thematization and discussion, or was the call to action perhaps merely a ploy to forestall regulation of the industry?
Do we need a code of ethics to regulate codes of ethics? That is, a set of guidelines and red lines applied to ethical guidelines to ensure that they actually serve their purpose and aren’t merely misused as a smokescreen?

Published in Informatik Spektrum 44 (2), 2021, S. 131–133.

–Translated from German by Lillian M. Banks

Fallbeispiel: Analog/Digital-Graben

Debora Weber-Wulff, Stefan Ullrich

Matthias und Melanie haben sich schon im Studium kennengelernt. Matthias hat Medizin studiert, Melanie Informatik. Sie haben sich bei der universitären Gremienarbeit kennengelernt und sind bald zusammengezogen. Matthias arbeitet nach seinem Studium aus Idealismus im öffentlichen Gesundheitsdienst. Melanie hat einen guten Job als Software-Ingenieurin, also haben sie keine Geldsorgen.

Seit Anfang der Corona-Pandemie ist Melanie im Home Office, aber Matthias hat immer mehr im Amt zu tun. Die schiere Menge an Fällen – und der ganze Papierkram drum herum – scheint ins Unendliche zu wachsen. Matthias tut, was er kann, aber es bleibt immer viel liegen. Er ist sehr frustriert darüber, wie langsam alles geht. Die Leute müssen doch schnell wissen, ob sie infiziert sind oder nicht. Er unterstützt sogar die medizinisch-technischen Assistentinnen und Assistenten und verbringt mehrere Stunden in Schutzkleidung, um Proben zu nehmen. Er und das ganze Team müssen höllisch aufpassen, die Formulare leserlich auszufüllen. Das erfolgt mit einem blauen Stift – digital ist nur der QR-Code auf dem Aufkleber, den sie oben anbringen müssen. Die Proben werden zu verschiedenen Laboren geschickt, es dauert dann aber Tage, teilweise Wochen, bis die Ergebnisse verarbeitet wurden und die Infektionskette zurückverfolgt werden kann.

Matthias beschwert sich über diese langsamen Abläufe eines Abends, als er mit Melanie auf dem Balkon bei einem Glas Wein sitzt. Melanie versteht nicht, was das Problem ist, warum es so lange dauert. Die Tests selber sind doch in wenigen Stunden durch, die Labore arbeiten inzwischen im Drei-Schicht-Betrieb. „Was ist das Problem?“, fragt sie. „Ich kann dir das leider nicht so genau sagen, die Abläufe und alles, was auf dem Amt passiert, unterliegen sehr strenger Geheimhaltung“. Seine Referatsleitung hat ihm immer wieder gesagt: Alles was im Amt passiert, bleibt im Amt.

„Sei nicht albern“, sagt Melanie. „Ich will nicht wissen, wer getestet worden ist oder das Ergebnis. Ich will nur verstehen, wie euer Laden läuft und warum es so lange dauert, bis ihr Ergebnisse habt. Ich bin doch Spezialistin in Prozessoptimierung, vielleicht kann ich helfen.“ Matthias gießt sich noch etwas Wein ein und beginnt zu erzählen. „Lach mich nicht aus“, sagt er, „und bitte nicht twittern. Jedes Labor hat andere Formulare für die Beauftragung und die Ergebnisse. Um die Aufträge gleichmäßig zu verteilen, wechseln wir die Labore regelmäßig. Und weil wir vor Ort nichts Digitales haben, füllen wir die Formulare mit der Hand aus. Mit blauer Tinte, das ist unserer Verwaltung wichtig, damit es von der Schwarz-Weiß-Kopie unterschieden werden kann. Proben und Formulare kommen in eine Post-Box, und wenn das Kästchen mit Proben voll ist, werden die Proben mit den Formularen von einem Boten zum Labor gebracht.“

„Na, das ist doch eine gute Notlösung, wäre natürlich schöner, wenn das alles gleich digitalisiert wäre, aber okay. So was kostet Zeit. Was macht das Labor mit den Ergebnissen?“ fragt Melanie.

„Sie tippen die Daten aus der Anforderung ab in ihr Befunde- und Abrechnungssystem, tragen die Ergebnisse ein, und faxen sie dann zurück an das Gesundheitsamt.“

„Faxen?!“ Melanie prustet. „In Ordnung, ich denke, wir kommen dem Problem schon näher“, scherzt sie.

„Das ist gar nicht so doof, denn das sind personenbezogene Daten. Sie sollen nicht über das Internet versendet werden.“ „Na gut, man kann es aber auch übertreiben. Ich kaufe euch ab, dass keiner das schafft, eine Verschlüsselungsinfrastruktur aufgebaut zu haben. Noch dazu für die Kommunikation mit Externen. Aber dann ist doch alles gut, dann habt ihr am nächsten Tag die Ergebnisse … als Fax!“

„Nein, so einfach ist es nicht. Der Computer, der bei uns die Faxe entgegennimmt, speichert sie als Datei mit dem Namen ,Telefax.pdf‘ ab. Immerhin werden sie durchnummeriert, aber wir haben mehrere tausend Dateien, die so heißen – täglich! Da sitzt also jemand und benennt die Dateien um, damit wir sie zuordnen können. Diese Person muss also die Datei öffnen, schauen, wie das Aktenzeichen heißt, und ob das Ergebnis positiv oder negativ ist. Die Dateien werden dann in unterschiedlichen Verzeichnisse abgelegt, je nach Ergebnis. Naja, und manchmal passiert bei der manuellen Umbenennung oder Sortierung eben ein Fehler und wir müssen bei den Laboren dann nachfragen. Jetzt, wo wir so viele Tests am Tag haben, merken wir erst, wie lange die manuelle Datenverarbeitung dauert. Hier..“, er unterbricht sich, „bricht gerade alles zusammen.“

Melanie kann kaum glauben, was sie hört. „Das ist nicht dein Ernst! Was für einen Rechner mit welcher Software setzt ihr da ein?“ „Ich weiß es nicht so genau, aber der darf nicht am Internet angeschlossen werden, da sein Betriebssystem so alt ist. Aber zum Fax-Empfang taugt er eigentlich gut genug, wenn wir gerade keine Pandemie haben“, antwortet Matthias.

Melanie schüttelt den Kopf. „Mensch, geht doch zum Megamarkt und kauft euch ein aktuelles Faxgerät, die können Dateien auch gleich weiter an eure PCs schicken, selbst wenn ihr im Home Office seid. Und kauft OCR-Software dazu, dann können die Ergebnisse gelesen und entsprechend abgelegt werden! Die Maschine macht im Gegensatz zum Menschen keine Fehler!“

„Naja, wir dürfen keine selbst gekauften Geräte einsetzen. Es muss alles über die Beschaffungsstelle und die IT gehen, es muss so ein Dings mit Datenschutz geben, ich weiß nicht wie es heißt, und noch eins mit medizinischer Sicherheit. Außerdem muss es Schulungen geben. Das dauert mindestens sechs Monate, bis so was durch ist, oft länger!“

Melanie meint nach einem weiteren großen Schluck Wein: „Weißt du was, wir beide kaufen so ein Gerät und ich richte es übers Wochenende ein. Eigentlich bin ich sehr teuer, aber das mache ich sogar kostenlos. Ich will, dass die Tests schneller durchgehen! Du musst ja auch regelmäßig getestet werden, und ich will, dass du schnell weißt, wenn du angesteckt worden bist. Na?“

Matthias ist sehr unsicher, ob er auf das Angebot eingehen soll. Es ist verlockend und hört sich wirklich einfach an, wie Melanie das beschreibt.

Fragen

Ist es nötig, dass allgemeine Abläufe auf dem Amt der Geheimhaltung unterliegen?
Kann in solchen Ausnahmezeiten ein moralischer Grund vorliegen, diese Geheimhaltung zu brechen?
War es in Ordnung, dass Matthias Melanie über die Abläufe im Amt eingeweiht hat?
Ist etwas daran auszusetzen, dass das Labor die Ergebnisse an das Gesundheitsamt faxt?
Würde es in moralischer Hinsicht einen Unterschied machen, wenn die OCR-Software einen Fehler macht – im Gegensatz zu einem menschlichen Benennungsfehler?
Ist Melanie zu sorglos im Umgang mit vernetzten Geräten?
Matthias hat sich freiwillig zu Mehrarbeit verpflichtet auf Kosten der gemeinsamen Familienzeit. Wie ist dies in moralischer Hinsicht zu bewerten?
In den meisten Städten werden nur die positiven Fälle vom Labor an das Amt übermittelt. Ändert dies etwas an Ihrer Einschätzung der Situation?

Erschienen im Informatik Spektrum 43 (5), 2020, S. 352–353, doi: https://doi.org/10.1007/s00287-020-01308-w

Fallbeispiel: Nachhaltigkeit im digitalen Wettbewerb

Dominik Pataky, Christina B. Class

Noah ist Mitgründer und CTO von SmartEcoTours, einem kleinen und aufstrebenden Startup. SmartEcoTours vermittelt auf seiner Internet-Plattform nachhaltige Reisen und Ausflüge, die von sorgfältig ausgewählten Partnern angeboten und von Kunden auf der Plattform gebucht werden können. Alle Angebote sind nachhaltig gestaltet und werden, größtenteils durch anerkannte Umweltzertifikatebeglaubigt, umweltschonend durchgeführt. Die Finanzierung der SmartEcoTours-Plattform erfolgt durch die Vermittlungsgebühren von Buchungen.

In der sechsjährigen Geschichte des Startups war Noah schon für diverse Umgestaltungen und Erweiterungen der Plattform verantwortlich, um einerseits die Stabilität des Onlineangebots zu garantieren und andererseits der immer größer werdenden Kundennachfrage nach Reise- und Urlaubszielen und dem wachsenden Angebot gerecht zu werden. Das zunehmende Interesse an nachhaltigem Reisen hat die letzten Jahre einen erheblichen Schub in den Besucher- und Buchungszahlen eingebracht. Das hat zwar für großes Umsatzwachstum gesorgt, musste gleichzeitig aber von Noah und seinen Mitstreitern technisch rechtzeitig unterstützt werden. Die Stabilität der Plattform ist essenziell, um keine Kunden zu verlieren. Auch wenn sie nicht über große Reserven verfügen, ist Noah mit der aktuellen Situation zufrieden und zuversichtlich, dass sich das Unternehmen auch weiterhin in diesem hoch kompetitiven Markt behaupten kann.

Dieser Erfolg liegt auch daran, dass zur Plattform über die Jahre mehr und mehr Funktionen hinzugefügt und neue Technologien integriert wurden. Der ursprüngliche Prototyp, bestehend aus einer Website mit dahinter liegenden Skripten und einer Datenbank, entwickelte sich im Laufe mehrerer Iterationen zu einer komplexen Software-Landschaft, eigens zugeschnitten für alle Anwendungsfälle der Plattform. Mittlerweile koordiniert Noah mehrere spezialisierte Abteilungen, z. B. für Daten-Schnittstellen, für die Verwaltung des verteilten Serverclusters sowie das Machine-Learning-Team, welches mit Hilfe künstlicher Intelligenz neue Angebote erstellen will. Leider kommt aber auch bis heute immer wieder hinzu, dass Altlasten aus der ersten Version der Plattform noch gewartet werden müssen, da bisher keine Zeit war, alle alten Komponenten ordentlich zu migrieren. Aber SmartEcoTours bietet nicht nur nachhaltige Ausflüge und Reisen an, sondern hat sich auch selbst viele Nachhaltigkeitsziele gesetzt, um langfristig eine positive Klima-und Sozialbilanz erreichen zu können. Als ausformulierte Jahresziele erstellen Noah und seine Kollegin Freya, ebenfalls Mitgründerin und CEO von SmartEcoTours, dazu jeden Januar eine Neuauflage der Corporate-Social-Responsibility-Richtlinien (CSR-Richtlinien), deren Einhaltung am Ende des Jahres von Dritten auditiert wird. So ist garantiert, dass SmartEcoTours auch das hält, was es verspricht. Darüber hinaus ist das kleine Unternehmen auch Teil eines Social-Entrepreneurship-Netzwerks, um sich mit Gleichgesinnten auszutauschen und den eigenen Überzeugungen mehr Gewicht zu geben.

Noahs Verantwortung ist im Kontext der Klimaziele unter anderem die Überprüfung der Energiequellen der Rechenzentren, in denen die eigene Plattform betrieben wird. Hierzu besucht Noah die Anlagen vor Ort beim Betreiber und lässt sich bescheinigen, dass aller Strom des Rechenzentrums aus erneuerbaren Energien geliefert wird. Auch wird die eigene Hardware so lange wie möglich verwendet und anschließend umweltgerecht entsorgt. Die Auditoren bescheinigen SmartEcoTours hier immer wieder hervorragende Ergebnisse.

Allerdings wurde in den Berichten der letzten beiden Jahre der phasenweise hohe Arbeitsdruck insbesondere in den technischen Teams erwähnt. Die Sorge, die Konkurrenz könnte die Marktposition von SmartEcoTours streitigmachen, hat im gesamten Team immer wieder zu stressigen Phasen mit wenig Schlaf und viel Frustration gesorgt. Noah ist sich bewusst, dass hier noch einiges zu tun wäre, aber auch in diesem Jahr waren nicht genügend Mittel vorhanden, um eine weitere Stelle zu schaffen. Sie konnten ihr Ziel der mitarbeiter-orientierten Gestaltung der Arbeitsbedingungen sowie des Abbaus der Überstunden wieder nicht ganz erreichen. Die Realisierung dieser Ziele ist im nächsten Jahr zu einer der Top-Prioritäten erklärt worden.

Abseits der bestehenden Herausforderungen steht nun eine folgenreiche Entscheidung der beiden Gründer an:

Nach ersten Kontakten auf der letzten Messe hat ein anderes Unternehmen, AdventureLive, Interesse an einer Beteiligung an SmartEcoTours geäußert. Nachdem Freya mit Vertretern von AdventureLive erste Gespräche führte, sucht sie das Gespräch mit Noah. Noah ist überrascht und auch schockiert. Er weiß zwar, dass ihre Reserven nicht allzu üppig sind, ist aber von der Idee einer Beteiligung nicht wirklich begeistert. Freya hingegen erläutert, dass sie neue Ideen und Angebote entwickeln müssten, um ihre Marktposition zu behalten und die vorhandenen Mittel seien zu knapp, um große Investitionen zu tätigen. Wenn sie nicht aktiv würden, könnten sie mittelfristig Probleme haben, Kunden zu halten. Es sei ja nicht so dringend und sie habe Noah nicht damit beunruhigen wollen, aber die Gelegenheit sei einfach sehr günstig: AdventureLive wollten nur 15% am Unternehmen und seien durch ihre Kompetenzen im Video-Livestreaming ein vielversprechender Partner.

In den Gesprächen ergab sich nämlich, dass sie gemeinsam ein neues und sehr attraktives Angebot aus der Kombination von Plattform und Video entwickeln könnten. Sie stellt Noah die Idee vor: Der Clou in einer Verbindung der SmartEcoTours-Plattform mit dem Video-Livestreaming-Service läge darin, dass Kunden von SmartEcoTours die Möglichkeit haben sollen, als Zusatzangebot ihr Abenteuer live über die Plattform zu übertragen. Hierfür könnten sie eine am Rucksack oder an der Ausrüstung montierbare Kamera mieten und mit dieser den Stream in Echtzeit verbreiten. Sie könnten auswählen, ob die Aufnahmen öffentlich oder nur für Freunde und Verwandte sichtbar sind. Darüber hinaus können auch eigene Kameras, z.B. solche von Smartphones, mit dem Service verbunden werden. Die Integration des Streamings wäre ein neues Feature imPortfolio von SmartEcoTours, führt zu Einnahmen durch Gerätegebühren und ermöglicht einen neuen Marketing-Kanal zu Zuschauern, welche als Neukunden der Plattformgewonnen werden könnten.

Doch Noah sieht vor allem eine riesige Welle technischer Herausforderungen auf sein Team zurollen: Wie gut ist das skalierbar? Brauchen wir neues Personal für die Verbindung der Plattformen? Was machen wir bei Inkompatibilitäten der Software, wie lange soll der Fusionsprozess anhalten? Wie werden die Videodaten ausgeliefert, ist die dafür notwendige Infrastruktur noch überprüfbar nachhaltig? Woher kommen die Kameras und wie kommen diese zu den Kunden? Wer übernimmt die Wartung und Entsorgung der Geräte? Und kann trotz des größeren Entscheiderkreises sichergestellt werden, dass die CSR von SmartEcoTours weiterhin realistisch sind?

Freya und Noah sind sich nicht wirklich einig, wie sie das Angebot bewerten sollen, müssen aber in den nächsten Tagen entscheiden, ob sie Verhandlungen aufnehmen wollen. Auf der einen Seite wäre die finanzielle Beteiligung eines umsatzstarken Partners richtig, um die Zukunft zu sichern, die notwendigen Erweiterungen des Angebots und der aktuellen Plattform vorzunehmen und die Qualität undIdeale weiter hoch zu halten. Auf der anderen Seite steht das Risiko, durch die Zusammenarbeit ihren Ruf zu riskieren, wichtige Weichen nicht mehr gemäß ihrer Unternehmensphilosophie stellen zu können und so ihre Marktposition und Wettbewerbsfähigkeit im Ökotourismus aufs Spiel zusetzen.

Fragen

Sollten die beiden der Beteiligung zustimmen?
Zum Thema Nachhaltigkeit zählt auch, dass Menschenweniger reisen und so die Umwelt geschont wird. Hierbei stellt sich die Frage, was zuerst kommt, die Nachfrage oder das Angebot. Könnte man behaupten, dass erst die Verfügbarkeit der Angebote auf der SmartEcoTours-Plattform eine erhöhte Nachfrage provoziert? Wie verhält sich diese Frage im Kontext des potenziellen neuen Angebots in Form von Videostreaming? Besteht das Risiko, dass das ressourcen-intensive Videostreaming später mehr Schaden verursacht, als anfangs gedacht?
SmartEcoTours verfügt über eine von Externen auditierte CSR-Richtlinie. Wie können Kunden beurteilen, wie ernst Richtlinien gelebt werden? Woher wissen Kunden, ob Richtlinien eher dem Marketingzweck dienen? Wie können Freya und Noah Kunden über CSR-Richtlinien informieren, ohne in den Verdacht zu geraten, diese für Werbezwecke zu formulieren?
Die angebotenen Reisen und Ausflüge von SmartEco-Tours verfügen über Umweltzertifikate. Für Außenstehende ist oft schwer nachzuvollziehen, wie gut Umweltzertifikate sind. Manche dienen eher Marketingzwecken oder sollen gesetzliche Regelungen verhindern. Die Zertifizierung kostet in der Regel Geld. Nach welchen Kriterien soll eine Firma entscheiden, welche Zertifikate beantragt werden? Wie kann ein Kunde überprüfen, wieviel ein Zertifikat wert ist? Was passiert, wenn ein Umweltzertifikat im Laufe der Zeit z.B. durch Betrügereien an Wert verliert? Inwiefern fällt das auf bereits zertifizierte Firmen und Angebote zurück? Sollte man nach Möglichkeit mehrere Zertifikate haben?
Wären andere Modelle einer „Zertifizierung“ von Angeboten denkbar, die z. B. auf Reviews vieler Nutzer basieren? Wie könnte hier eine Qualitätskontrolle aussehen?
Wie sollte Noah mit den kritischen CSR-Audits bzgl. der Arbeitsbedingungen in seinem Team umgehen?
Sollte Noah neben der Überprüfung der Energiequellen auch prüfen, welche Auswirkung der Betrieb von ineffizienten Legacy-Komponenten und der Overhead von verteilen Systemen auf den Stromverbrauch hat? Könnte die verstärkte Verwendung von ausgereifter und optimierterfreier Software, welche von vielen Wettbewerbern und Nutzern zusammen offen entwickelt wird, hier einen Unterschied machen?
Machine-Learning-Algorithmen könnten zu einem späteren Zeitpunkt bei der Sortierung und Filterung von neuen Angeboten unterstützend eingreifen. Wie kann beim Einsatz von automatisierten Prozessen, deren Entscheidungen möglicherweise gar nicht mehr zeitnah von Menschen überprüft werden können, sichergestellt werden, dass weiterhin nur die nachhaltigsten Angebote auf der Plattform angeboten werden?
Kann Infrastruktur, die über die Anmietung von Schränken in Rechenzentren hinausgeht, überhaupt kontrolliert werden? Welche Möglichkeiten hätte Noah, z. B. ein für Videostreaming notwendiges Content Delivery Network auf Umweltstandards zu prüfen?

Erschienen im Informatik Spektrum 43 (4), 2020, S. 302–304, doi: 10.1007/s00287-020-01289-w

Fallbeispiel: Ethisches Reinwaschen oder „Weiß, weißer geht’s nicht –Weißer Riese oder doch nur heiße Luft“

Otto Obert, Carsten Trinitis

Emma und Noah haben beide Medizin studiert und eine lukrative Position in der anwendungsorientierten Forschungseinrichtung EMPE3 bekommen, die sich insbesondere auf das Digitaltechnologie-gestützte Management von Krisenszenarien bei Pandemien spezialisiert hat. So liegt es in der Natur der Sache, dass bei EMPE3 sowohl Mitarbeiter(innen) mit medizinischer als auch mit informationstechnologischer Ausbildung beschäftigt sind, wie die beiden Informatiker Olivia und Ersoy. Darüber hinaus verfügen die meisten von ihnen zusätzlich über einen Abschluss in Philosophie oder Ethik, da bei derart sensiblen Themen, wie sie von EMPE3 bearbeitet werden, stets auch ethische Grundsätze und Spezifika zu beachten sind.

Für Firmen und Einrichtungen wie EMPE3 winken im Zuge von anwendungsnaher Forschung im Umfeld pandemischer Krisen lukrative Aufträge und Fördermittel, unter anderem wurden von der Europäischen Union aufgrund der Corona-Pandemie kurzfristig hohe Summen an Forschungsgeldern zur Verfügung gestellt.

Aus Emma, Noah, Ersoy und Olivia ist ein Spezialistenteam gebildet worden. Dieses Team hat ganz aktuell die Führung eines EU-Projektes namens PANDEMANIA übertragen bekommen, an dem zahlreiche weitere Partner aus dem In- und Ausland beteiligt sind. Projektziel ist die Entwicklung von Systemen zur Eindämmung und Entscheidungshilfe bei Pandemien.

Hauptschwerpunkte dabei sind die gemeinsame und einheitliche Entwicklung einer konkreten KI-Lösung auf mobilen Endgeräten zur Selbstdiagnose von Symptomatiken und automatisierten Benachrichtigung der Personen, die mit Infizierten in relevantem Kontakt standen (Tracing-App) sowie die Modellierung eines KI-basierenden Assistenzsystems zur transparenten und jederzeit vollständig nachvollziehbaren Entscheidungshilfe in Triage-Fällen (Triage-Assistenzsystem zur evidenzbasierten Ersteinschätzung der Behandlungsdringlichkeit und somit Priorisierung von z.B. konkurrierenden Intensiv- und Beatmungspatienten besonders bei Ressourcenengpässen).

Das Team hat hierbei mit seiner Kernkompetenz die Aufgabe, einen mit allen an der Entwicklung beteiligten Partnern abgestimmten einheitlichen Anforderungsrahmen samt dessen Einhaltung zu vereinbaren, der über die gesetzlichen Vorgaben hinaus (das jeweils strengste nationale Gesetz) wirkt und dabei insbesondere wertebasierte ethische Grundsätze berücksichtigen soll.

Weitere assoziierte Partnerländer sind neben EU-Ländern, vertreten durch die EMPE3, noch die EU-Nachbarn Asika, Eurasien und die Vereinigten Inseln.

Asika möchte seine Interessen insbesondere bei der Tracing-App durchsetzen, um über den notwendigen und gleichzeitig datenschutzkonformen Funktionsumfang hinaus auch noch die robuste Einhaltung der Quarantäne von Infizierten zu überwachen und Personen aktiv aufzuspüren, die relevanten Kontakt zu Infizierten hatten.

Da Eurasien mit einer nahezu flächendeckenden Überwachung auf Basis von Kameras und Gesichtserkennung sowie einem Social Scoring sowohl das Nachverfolgen von Infektionsketten als auch eine möglicherweise notwendige Richtung keine besonderen zusätzlichen Anforderungen.

Die Vereinigten Inseln hingegen haben besonders bei der Modellierung eines Assistenzsystems zur Entscheidungshilfe in Triage-Fällen individuelle Anforderungen angemeldet, die allen anderen Beteiligten auch nicht transparent werden sollen.

Olivia ist Hauptansprechpartnerin für die Delegation der Vereinigten Inseln, die durch Tommy vertreten wird. Sie versucht, Tommy das fünfstufige Triage-Design schmackhaft zu machen, auf das man sich eigentlich ursprünglich nach langwierigen Verhandlungen geeinigt hatte. Tommy möchte aber für die Version der Vereinigten Inseln eine exklusive sechste Stufe, die erlauben soll, alle fünf vorherigen Stufen zu übersteuern und damit mehr oder weniger willkürlich und völlig intransparent zu entscheiden. Tommy will Olivia darüber hinaus überzeugen, gar die pure Existenz dieser sechsten Stufe geheim zu halten und in der Öffentlichkeit nur von einer für alle einheitlichen Lösung zu sprechen.

Ersoy hat es mit Azra von der eurasischen Delegation zu tun. Azra trägt alle Entscheidungen mit und ist bedingungslos kooperativ bei der gemeinsamen ethik-konformen Lösungsentwicklung. Ersoy weiß genau, dass diese gemeinsam entwickelten Lösungen dort nie zum Einsatz kommen werden, da eine bereits vollständige Überwachung samt Social Scoring implementiert ist. Eurasien will dennoch um jeden Preis als vorbildlicher Entwicklungspartner erscheinen.

Die für Asika sprechende Esther macht gegenüber Noah erst gar keinen Hehl aus ihrer Haltung: Falls die Tracing-App im Infektionsfall keine genauen geografischen und zeitlichen Daten der relevanten Kontaktpersonen liefert (und das bei nachgewiesenen Infizierten in Quarantäne sogar in Echtzeit), würde Asika für diesen Teil aussteigen und eine vom eigenen Geheimdienst zur Terrorismusbekämpfung bereits sehr erfolgreich eingesetzte Lösung nutzen (Tracking per GPS-Ortung). Immerhin steht Asika voll hinter dem fünfstufigen Triage-Lösungsansatz.

Emma, die innerhalb aller direkt beteiligten Partnern der EU für Konsens sorgen muss, hat es da nur vermeintlich leichter. Besonders die Interessenvertreter der europäischen Pharmaindustrie würden sehr gerne aus rein kommerziellen Gründen die zu Beginn als nicht verhandelbar vereinbarten sogenannten „Roten Linien“ aufweichen. Auch wenn diese Gruppe von Emma nicht überzeugt werden konnte, ordnen sie sich zumindest den Rahmenbedingungen unter, um nicht ihrer Außenwirkung und Reputation zu schaden. Jedoch möchte die Pharmalobby im Falle des Eintretens einer Pandemie verbindlich Exklusivrechte eingeräumt bekommen. Das dann zum jeweiligen Zeitpunkt als am besten geeignete bereits zugelassene und verfügbare europäische Medikament aus zum Beispiel der Behandlung von HIV, Ebola oder Malaria soll kostenfrei, aber eben exklusiv, eingesetzt werden dürfen, bis zur Entwicklung und WHO-Zulassung eines der spezifischen Bekämpfung des aufgetreten Virenstammes dienenden Wirkstoffes. Abgesehen davon steht zumindest der überwiegende Teil der beteiligten Partner aus Europa voll und ganz hinter dem vereinbarten Anforderungsrahmen, insbesondere zu den wertebasierten ethischen Grundsätzen.

Emma, Noah, Ersoy und Olivia müssen für die nächste Sitzung des hochrangigen Projekt-Steuerungsgremiums, bestehend aus dem EU-Gesundheitskommissar als Vorsitzenden und den EU-Länder-Gesundheitsministern samt deren Staatssekretären, einen Statusbericht vorbereiten. Dieser soll einen Überblick über alle Partnerländer geben, differenziert nach gesetzlichen Vorgaben, ethischen Grundsätzen sowie den beiden Hauptthemen Tracing-App und Triage-Assistenzsystem. Sie tauschen zu Beginn ihres Vorbereitungstreffens ihre Erfahrungen aus, wundern sich über das Verhalten ihrer jeweiligen Länderansprechpartner und suchen Antworten auf Ihre Fragen …

Fragen

Arbeitsziel ist es, die verschiedenen Ebenen zu durchleuchten und einzuordnen – im Übergang von echter Überzeugung zu realer Wirksamkeit auch ohne Überzeugung dahinter, über „totales“ ethisches Reinwaschen bis hin zu unverhohlener Ignoranz. Damit sollen gute Kompromisse von nicht so guten, oder gar faulen, zu unterscheiden gelernt werden.

Welche Partnerländer verhalten sich bei welchem der beiden Schwerpunktthemen (Tracing-App und Triage-Assistenzsystem) vorbehaltlos vorbildlich und stehen voller Überzeugung zum einheitlichen Anforderungsrahmen und zur Einhaltung auch der wertebasierten ethischen Grundsätze?
Ist ein Partner nur dann vorbildlich, wenn er sich auch bei beiden Schwerpunktthemen an den Anforderungsrahmen hält?
Wie bewerten Sie die zwarmangelndeÜberzeugung einiger Partner zu den ethischen Grundsätzen, wenn sie diese aber dennoch mittragen und einhalten?
Auch wenn eine „Medikamentenspende“ aus einem sonst knallhart kalkulierenden Wirtschaftszweig auf den ersten Blick altruistisch und philanthropisch erscheint:Welche Aspekte „hinter den Kulissen“ sprechen für eine vermeintlich nur vorgetäuschte „WeißeWeste“? Nennen Sie die aus Ihrer Sicht wichtigsten drei.
Bei welchen Konstellationen kann man eindeutig von „ethischem Reinwaschen“ sprechen?
Wie ordnen Sie das Verhalten von Partnern ein, die offen gegen den gesetzlichen wie auch ethischen Teil des Anforderungsrahmen verstoßen?
Lassen sich ein Verstoß gegen den gesetzlichen Teil und ein Verstoß gegen den ethischen Teil unterschiedlich be- und verurteilen und wenn ja, wie könnte man das beschreiben?
Wie würden Sie die vier verschiedenen Ebenen im Übergang von echter Überzeugung zu Zweifel und dennoch realer Wirksamkeit, über „totales“ ethisches Reinwaschen bis hin zu offener Zuwiderhandlung beurteilen?

Zusatzfragen, die zwar über das Kernthema ethisches Reinwaschen hinausgehen, aber von besonderer Bedeutung sind:

Inwieweit ist es sinnvoll und ethisch vertretbar, europa bzw. länderweit oder entsprechend der Betroffenheit von Gegenden grundsätzlich eine App (Tracing) sämtlichen Bürgern vorzuschreiben, um das Infektionsrisiko zu minimieren oder Beschränkung zu lockern? Differenzieren Sie Ihre Begründung weiter mit Blick auf die App-Varianten mit einem zentralen oder dezentralen Ansatz (stark vereinfacht: pseudonymisierte Daten der relevanten Begegnungen werden zentral auf einem Server gespeichert oder verbleiben dezentral auf den jeweiligen Endgeräten) und darüber hinaus noch zusätzlich mit der Möglichkeit einer Standortbestimmung (Tracking).
Wäre der Einsatz eines transparenten und jederzeit vollständig nachvollziehbaren Triage-Assistenzsystems grundsätzlich ethisch vertretbar? Wie beeinflusst Ihre grundsätzliche Einordnung der Einsatz besonders in Ländern, in denen ansonsten eine besonders große Gefahr von fehlerbehafteter, willkürlich, politisch oder nicht-medizinisch induzierter Einflussnahme besteht? Auch wenn natürlich Triage-Entscheidungen am Ende immer von Ärzten getroffen werden, die sich dem hippokratischen Eid verpflichtet haben.

Erschienen im Informatik Spektrum 43(3), 2020, S. 227-229, doi : 10.1007/s00287-020-01282-3

Fallbeispiel: Energieintensives Energiesparen?

Christina B. Class, Carsten Trinitis, Nikolas Becker

Lisa und Martin haben sich im Studium kennengelernt und sind seitdem unzertrennlich. Beide haben Informatik auf Lehramt studiert, Martin mit Biologie, Lisa mit Physik im Nebenfach. Nun, fünf Jahre später, arbeiten sie zusammen beim Start-up-Unternehmen SchoolWithFun, das der gemeinsame Studienkollege Andreas gegründet hat. SchoolWithFun hat sich auf die Entwicklung von digitalen Unterrichtsmaterialien für Gymnasien spezialisiert. Die Materialien sind für den Einsatz während des Unterrichts gedacht und entworfen. In naturwissenschaftlichen Fächern kommen auch Simulationen zum Einsatz. Die Materialien sind für Tablets optimiert, welche den Schülerinnnen und Schülern von den Schulen zur Verfügung gestellt werden.

Die Gründer von SchoolWithFun haben von Anfang an großen Wert darauf gelegt, den ökologischen Fußabdruck ihrer Tätigkeit so gering wie möglich zu halten. SchoolWithFun hat daher Büros in einem Neubau von ÖkOffice angemietet, der mit neuester energieeffizienter Haustechnik ausgestattet ist. Neben energieeffizienter Dämmung, Dreifachverglasung und Solarzellen für Heizung und Warmwasser verfügt das Haus über allerlei „smarte“ Technologien, die sich mittels einer maßgeschneiderten App bequem vom Mobiltelefon aus steuern lassen.

Damit ist es möglich, Verbrauchskomponenten wie Heizung oder Licht automatisch nur dann zu aktivieren, wenn sich Personen im Haus befinden. Dies kann beliebig feingranular justiert werden, so dass jedes Gerät, das an der Steckdose hängt, wirklich nur dann aktiv ist, wenn es benötigt wird. Die Miete für die Büroräume zahlt SchoolWithFun in Kryptowährung, da dies für den Eigentümer ÖkOffice, der zahlreiche smarte Büroräume weltweit vermietet, wesentlich einfacher ist. ÖkOffice möchte gerne digitale Währungen fördern, die das Bezahlen mit Bargeld, also anonymes Bezahlen, nachahmen.

Lisa und Martin sind beide Vegetarier, meist vegan lebend, und versuchen auch privat, ihren ökologischen Fußabdruck klein zu halten. Es ist für sie selbstverständlich, jeden Freitag – wann immer möglich – an den regelmäßigen Demonstrationen der Fridays-for-Future-Bewegung teilzunehmen.

Im Anschluss an die letzte Demonstration kommen sie mit einem Vertreter des Bund Naturschutz (BUND) ins Gespräch, der ihnen ein Flugblatt mitgibt, das den Energieverbrauch digitaler Technologien thematisiert. Insbesondere geht es hier um Smart Homes und Internet of Things. Im Flugblatt ist eine Studie des Bund Naturschutz (BUND) erwähnt, die auch vom Bundesumweltministerium unterstützt wurde. In dieser heißt es: „Die Vernetzung von bisherigen Produkten kann zu erheblichen Mehrverbräuchen von Energie und Ressourcen führen – europaweit könnten so Mehrverbräuche von bis zu 70TWh im Jahr entstehen; pro Gerät bis zu 26kWh. Hierfür ist insbesondere der Standby-Stromverbrauch im vernetzten Bereitschaftsbetrieb verantwortlich“ [1].

Interessiert laden sich die beiden die Studie herunter. Sie möchten herausfinden, inwieweit dies auch auf ihr vermeintlich ressourcen-schonendes Büro zutrifft. Um die Betriebszeiten zu minimieren, müssen ja alle energieverbrauchenden Geräte vernetzt und permanent im Empfangsmodus sein.

Lisa und Martin setzen sich mit einem Glas Bier auf den Balkon und beginnen, den Energieverbrauch ihrer Büroräumlichkeiten mit Daten, die sie im Netz finden, abzuschätzen. Die Zahlen sind erschreckend … sie blicken sich verwundert an. Ob sie einmal mit Andreas darüber sprechen sollten? Er hatte sich ja so gefreut, die Räumlichkeiten bei ÖkOffice zu finden. Plötzlich schlägt sich Martin die Hand vor den Kopf und sagt: „Die Miete! Wir zahlen die Miete bei ÖkOffice doch mit Kryptowährung! Hast du eine Idee, wie energieintensiv das ist?“ Sie werden schnell fündig und finden Informationen zum Energieverbrauch von Kryptowährungen. Schweigend blicken sie sich an …

Ein Jahr später sitzen die beiden wieder auf ihrem Balkon und reden erneut über die Smart-Home-Ausstattung ihres Büros. Nachdem sie im letzten Sommer zu dem Entschluss gekommen waren, dass sie Andreas ausschließlich auf die Problematik der Kryptoüberweisung ansprechen würden, ist die Smart-Home-Technik heute unerwartet zum Thema in der Firma geworden: Durch einen Zufall ist Andreas darauf aufmerksam geworden, dass „EasySmart“, der chinesische Hersteller ihrer Komponenten, vor einem Monat Bankrott ging. Anders als ihnen in der Werbung versprochen wurde, können sie daher nicht davon ausgehen, dass ihre Geräte in den nächsten Jahren mit den nötigen Sicherheitsupdates versorgt werden.

Andreas macht sich daher große Sorgen um die IT-Sicherheit von SchoolWithFun. Er beabsichtigt, bereits nächste Woche alle Smart-Home-Komponenten durch neuere Modelle eines anderen Herstellers austauschen zu lassen. Lisa, die sich in ihrem Studium intensiv mit IT-Sicherheit beschäftigt hat, unterstützt Andreas’ Vorhaben. Um jeden Preis müssen sie verhindern, dass Angreifer Zugriff auf ihr internes Firmennetz erlangen, in dem unter anderem auch die Kundendaten der Firma gespeichert sind. Martin jedoch ist dagegen. Er denkt beim Austausch der gerade einmal ein Jahr alten Geräte an den wachsenden Müllberg aus Elektroschrott. Welcher Angreifer hat es schon auf ihre kleine Firma abgesehen? So dringend wird der Austausch doch wohl nicht sein. Nachdem die beiden über eine Stunde diskutiert haben, gießt sich Lisa resigniert noch ein Glas Bier ein. „Nur Ärger mit diesem Smart-Home-Zeug“, seufzt sie.

Fragen

Sowohl die Produktion als auch die Nutzung von elektrischen Geräten verbraucht Rohstoffe und Energie. Inwiefern muss man sich als Anwender damit auseinandersetzen?
Das Smart Home verspricht unter anderem, Energie einzusparen, indem nur bei Bedarf geheizt, beleuchtet etc. wird. Gleichzeitig setzt das Smart Home auf Sensoren und Steuerungselemente, die Strom benötigen. Wie soll eine Nutzenabwägung erfolgen? Wer soll daran beteiligt sein?
Neue Versionen von Betriebssystemen und Software mit steigenden Performance- und Speicheranforderungen machen es oft notwendig, neue Geräte zu kaufen, obwohl die alten noch funktionsfähig sind. Gibt es Möglichkeiten, hier gegenzusteuern, um Ressourcen zu schonen? Wie stark basiert unser Wirtschaftskreislauf auf dem regelmäßigen Austausch von Geräten? Sind Alternativen denkbar, die auch bei längeren Produktlebenszyklen Arbeitsplätze erhalten?
Smart-Home-Geräte sind kleine Computer. Genauso wie unsere Smartphones und Laptops benötigen auch sie von Zeit zu Zeit Sicherheitsupdates. Doch wer kümmert sich darum, die Geräte auf dem neuesten Stand zu halten? Wie viel Vertrauen können wir in die Hersteller setzen?
Digitale Währungen sind eigentlich ganz praktisch, weil sie ähnlich wie Bargeld anonymes Bezahlen erleichtern. Sie erleichtern aber auch Steuerhinterziehung. Sollten sie deshalb verboten werden?
Zum Energieverbrauch der Kryptowährung Bitcoin: https://www.tum.de/nc/die-tum/aktuelles/pressemitteilungen/details/35498/. Ist es in Anbetracht des Energieverbrauchs jeder Transaktion einer Kryptowährung überhaupt vertretbar, diese aufgrund der besseren Privatsphäre zu verwenden? Was wiegt hier höher – Privatsphäre oder Energieeffizienz?

Literatur

1. Hintemann R, Hinterholzer S (2018) Smarte Rahmenbedingungen für Energie- und Ressourceneinsparungen bei vernetzten Haushaltsprodukten. Borderstep Institut für Innovation und Nachhaltigkeit gGmbH, Berlin (gefördert durch das Umweltbundesamt
und das Bundesministerium für Umwelt, Naturschutz und nukleare Sicherheit)

Erschienen im Informatik Spektrum 43(2), 2020, S. 159-161, doi : 10.1007/s00287-020-01256-5

Scenario: Sustainability in the Digital Marketplace

Dominik Pataky, Christina B. Class

Noah is co-founder and CTO of a small, but ambitious Startup, SmartEcoTours. The company offers environmentally sustainable vacation and excursion packages on its internet platform. Trips are curated from carefully selected partners and can be booked by clients through the platform. All packages use mostly sustainability-certified businesses and partners. The SmartEcoTours platform is financed by brokerage fees from online bookings.

Over the course of the startup’s six-year history, Noah has been responsible for various reconfigurations and expansions of the platform, working to guarantee the sustainability of online offerings on the one hand, and keeping up with the steady increase in consumer demand and attendant offers on the other. In recent years, increased interest in sustainable travel has led to a substantial boost in visitors and bookings on the platform. While this has brought with it tremendous sales growth, it’s also meant that Noah and his colleagues have had to provide timely technical support. The stability of the platform is essential to retaining clientele. Even though they aren’t exactly swimming in capital surplus, Noah is satisfied with the current situation and confident that the company will continue to hold its own in this highly competitive market.

One reason for the company’s success is that the platform has added more functionalities and new technologies to the platform over the years. The initial prototype consisted of a website with underlying scripts and a databank. It has developed into a complex software landscape uniquely tailored to the platform’s applications. Noah now coordinates multiple departments: for example, one that specializes in data interfaces, one that manages the distributed server cluster, and a machine learning team that uses artificial intelligence to increase offers on the platform. Unfortunately, because there has never been enough time to properly migrate all components, various legacy issues from the original version of the platform remain and must be tended to.

SmartEcoTours not only offers sustainable excursions and trips, it has set many sustainability goals for long-term positive environmental and social outcomes. Every year in January, Noah and his colleague Freya, also a co-founder and CEO of SmartEcoTours, revisit and reformulate the company’s guidelines for Corporate Social Responsibility (CSR Guidelines) which are audited for compliance by a third party at the end of each year. This guarantees that SmartEcoTours practices what it promises. It is also a member of a social entrepreneurship network that allows them to exchange ideas with like-minded organizations and lends credence to their own convictions.

One of Noah’s responsibilities in the context of climate goals is to monitor the energy sources of their data centers. He conducts site visits at each operator’s facilities and obtains certification that all of the data center’s electricity is supplied by renewable energy sources. The company’s own hardware is also kept in use for as long as possible and then disposed of in an environmentally friendly manner. The auditors consistently attest to SmartEcoTours‘ excellent results in this area.

However, reports from the last two years have mentioned that employees are under a great degree of pressure, particularly in the technical teams. Concern that the competition could challenge SmartEcoTours‘ market position has repeatedly led to stressful periods with little sleep and a lot of frustration for the whole team. Noah knows there’s room for improvement in this regard, but there has never been enough revenue to fund another staff position. They still haven’t been quite able to achieve their goal of creating employee-oriented working conditions and reducing overtime. This is one of the top priorities for next year.

Above and beyond these existing challenges, the two founders now face a decision that will have long-term consequences:

At this year’s trade fair, SmartEcoTours established contact with another firm, AdventureLive. AdventureLive has expressed interest in acquiring shares of SmartEcoTours. After preliminary talks with AdventureLive, Freya calls a meeting with Noah. Noah is taken aback. While he knows that they don’t have an overabundance of reserves, he’s not enthusiastic about having shareholders. Freya, on the other hand, explains that they need to develop new ideas and products if they hope to maintain their market position and, as it stands, existing funds are insufficient for making investments. If they don’t act now, they could run into problems retaining customers in the medium term. It’s not necessarily urgent, and she didn’t want to worry Noah, but this surely looks like a prime opportunity: AdventureLive only wants to acquire 15% of the company, and with its expertise in live video streaming, it could be a promising partner.

What had emerged from the talks between Freya and Adventure Live was that together, they could develop a new and highly attractive product that combined platform uses with video. Freya presented the idea to Noah: With live streaming services on the SmartEcoTours platform, clients could broadcast their adventures live on the platform. They could rent a camera to mount on their backpack or gear and use it to record and stream in real-time. They could make the recordings visible to the public or only to a limited audience of friends and family. They could also connect their own cameras or cellphones to the service. Integrating streaming services could generate revenue from equipment rental fees and open a whole new marketing channel by bringing in viewers as potential clients for the platform.

But what Noah sees in the proposal is a huge wave of technical challenges crashing over his team: What about scalability? Will we need to hire new staff to connect the platforms? What are we going to do about incompatible software, and how long should the merger take? How will the video data be delivered, and is the infrastructure needed even verifiably sustainable? Who’s going to take on the maintenance and disposal of equipment? Where are we going to get the cameras and how do we get them to the consumers? Are SmartEcoTours’s CSR guidelines still feasible with this larger group of decision-makers?

Freya and Noah don’t really agree on how to assess the offer, but they must nevertheless decide within a few days whether to enter negotiations. On one hand, the financial involvement of a high-volume partner is a good way to secure the future by making crucial expansions to their product offerings and platform, maintaining their standards for quality, and continuing to live up to their ideals. On the other hand, they might lose their reputation in the partnership, should they be forced to deviate from their own corporate philosophy. And that would threaten their market position and competitive advantage in ecotourism.

Questions:

Should they just go ahead with the merger?
Sustainability also requires that people travel less in the interest of protecting the environment. The question is, which comes first: demand or supply? Couldn’t you contend that the availability of products on SmartEcoTours in itself increases demand? How does this question relate to the potential new options for video streaming? Is there a risk that video streaming—itself a resource-intensive offering—will eventually do more damage than anticipated?
SmartEcoTours has externally audited CSR guidelines. How can customers determine the degree to which these guidelines are adhered to? How are customers to know whether these guidelines aren’t simply a marketing gimmick? How can Freya and Noah inform the public about their CSR guidelines without being suspected of formulating them solely for marketing purposes?
All the trips and excursions offered by SmartEcoTours are stamped with environmentally responsible certificates. But it’s often hard for non-initiates to determine the value of such environmental certificates. They’re often just marketing gimmicks, or ploys to evade legal regulations. Certification usually costs money. What criteria should any firm use to decide what certificates to apply for? How can the consumer even check to see what any given certificate is worth? What happens if an environmental certificate loses its value over time, due to forgeries or fraud, for example? How does this reflect on companies and services that have already been certified? Is it best to have multiple certificates if possible?
Are any other models for “certification” feasible, based on reviews by many different users, for example? What form of quality control is possible here?
What should Noah do about the CSR audits criticizing the working conditions in his team?
In addition to monitoring the energy sources, should Noah also consider the impact of running inefficient legacy components and the overhead costs of distributed systems on energy consumption? Could increased reliance on more sophisticated, optimization-free software—much of which has been developed as open-source source software jointly by competitors and users—make a difference in this regard?
Machine learning algorithms could become available to support the sorting and filtering of new offers. How can sustainability be guaranteed when using automated processes such as these, where there is no human being to monitor in a timely fashion whether the platform’s offerings are still the most sustainable?
Is it even possible to monitor the sustainability of infrastructure beyond renting cabinets in data centers? What options does Noah have, for example, to check for environmental standards on the content delivery network required for video streaming?

Published in Informatik Spektrum 43(4), 2020, S. 302–304.

—Translated from German by Lillian M. Banks

Fallbeispiel: „Safety First“

Otto Obert, Debora Weber-Wulff

Zeit: In der nahen Zukunft

Paula und Viktor arbeiten nach ihrem gemeinsamen Studium seit einigen Jahren schon bei der Flying-Bavaria, einem noch recht jungen und aufstrebenden Unternehmen im Bereich Transport- und Passagierdrohnen. Paula ist als Informatikerin in einem interdisziplinären Team eingesetzt, das sich unter Hochdruck mit der Weiterentwicklung von autonomen Flugtaxis hin zur Marktreife beschäftigt. Viktor hingegen ist als Assistent des Vertriebsvorstandes und Schnittstelle zum Produktmanagement eingesetzt. Paula und Viktor sind sehr eng befreundet, können sich alles anvertrauen und treffen sich regelmäßig mindestens einmal pro Woche beim Badminton-Betriebssport, wo auch viele andere Kollegen aus den verschiedensten Unternehmensbereichen mit Freude teilnehmen und sich alle am Rande gerne privat wie beruflich rege austauschen.

Flying-Bavaria und ihr Hauptkonkurrent Air-Hang haben vom Bundesministerium für Verkehr und digitale Infrastruktur einen Millionenzuschuss bekommen, um möglichst rasch Prototypen für Passagierdrohnen zu erstellen. Sie wollen möglichst kostengünstig und vor allem noch vor Air-Hang einen Zweisitzer herausbringen. Laut Prognosen wird dies das mit Abstand umsatzstärkste Marktsegment. Daher leuchtet es ein, dass Flying-Bavaria einfach ihr bei Transportdrohnen bereits verfügbares und bewährtes Antriebsaggregat im Prototypen verwenden soll. Was schon läuft, kann nicht ganz verkehrt sein.

Allerdings ist dieses Antriebsaggregat für die Anwendung in einem Zweisitzer leicht unterdimensioniert. Bei ungünstigen Wetterbedingungen neigt es zur Instabilität. Es werden einfach zwei Aggregate verwendet, die aber miteinander kommunizieren müssen. Daher wurde das Team um Paula damit beauftragt, ein Maneuvering Characteristics Augmentation System (MCAS) zur Koordinierung der Flugstabilisierung zu entwickeln. In der Marketingliteratur wird man den eingeführten Begriff „Künstliche Intelligenz“ verwenden, obwohl das System nur auf Basis der Daten von Lagesensoren und mit dem Einsatz eines einfachen Algorithmus die Flugtauglichkeit garantieren soll. Schließlich sind es einfache, physikalische Zusammenhänge, die hier berechnet werden.

Paula empfindet das geplante Design des Zweisitzers als Fehlkonstruktion. Sie ist sich des Stellenwertes des MCAS bewusst und spricht mit ihrem Team über die Methodenauswahl. Im Scherz meint Andreas, ihr Maschinenbauingenieur: „Lasst uns doch KI einsetzen, wenn die Werbefritzen das schon schreiben!“. Eigentlich ist das keine schlechte Idee, meint Paula, und das Team beginnt, sich mit überwachten, selbstlernenden Verfahren zu beschäftigen. Allerdings brauchen sie noch sehr viel Zeit, sich in das Thema einzuarbeiten und die Algorithmen entsprechend zu trainieren.

Da es noch kein System gibt, das die geeigneten Trainingsdaten erzeugen kann, bietet sich Andreas an, diese zu generieren. Er habe ja im Studium gelernt, wie gut man mit einfachen Prototypen Daten generieren kann und dann mit einem weitverbreiteten Rechensystem durchrechnen lässt, wie die Parameter zu setzen sind. Er macht sich mit Begeisterung auf den Weg, einige neue Modelldrohnen für seine Experimente zu kaufen. Er erstellt „Menschendummys“ für die Drohnen, die vom Gewicht her passend sind, und zeichnet fleißig Flugdaten auf. Dann fragt er beim Team nach, das ein Einsitzermodell baut, ob sie nicht auch Daten haben, damit er überprüfen kann, ob er bei seinen Werten vielleicht einen Overfitting erzeugt hat oder nicht. Bei einer true positive rate von 97% ist er schwer begeistert – es funktioniert!

Aber Paula ist nicht so glücklich über die Lerndatengenerierung. Es gab ein sehr komplexes Umrechnungsmodell, angepasst an die Architektur des Zweisitzermodells, mit den Daten aus dem Transport- und dem Einsitzermodell. Sie ist sich nicht sicher, ob Algorithmen aus Modellen und Einsitzer sich beliebig auf Zweisitzer anwenden lassen. Paula weiß nur zu gut um Verzerrungen (Bias) in den Lerndaten, die man nie ganz in den Griff bekommen kann.

Nach einem Badmintonabend sitzen Paula, Viktor und weitere Kollegen auf ein Bier zusammen und kommen auch auf das aktuelle Thema, den Zweisitzer, zu sprechen. Viktor berichtet aus einer Vorstandssitzung, in der aufgrund des erneut gestiegenen Zeitdrucks weitere Maßnahmen vorgestellt wurden, mit der Bitte um Erarbeitung der Für und Wider. In der nächsten Vorstandssitzung in ein paar Tagen soll dann nach Diskussion und Abwägung entsprechend beschlossen werden.

Unter anderen ist man im Vorstand aktuell der Überzeugung, bei der Meldung für die Zulassung an die Flugaufsichtsbehörde das MCAS als nicht systemrelevant einzustufen. Auch sollen alle Möglichkeiten genutzt werden, die Entwicklungszeit zu verkürzen, was auch Paulas Methodenentscheidung revidieren würde. Viktor berichtet aus Gesprächen mit dem Produktmanagement über technische Konsequenzen aus der Einstufung des MCAS als nicht systemrelevant. Dadurch könnte man nun formal auf die redundante Auslegung des Lagesensors verzichten, um wieder etwas Kosten und besonders Zeit zu sparen. Immerhin waren selbst ein paar Kollegen im Produktmanagement dagegen, sie haben es als unverantwortlich kommentiert. Paula hatte mit mindestens vier Lagesensoren gerechnet, ist insgesamt entsetzt und möchte handeln.

Fragen

Sollte Paula mit dem Vorstand über ihre Sorgen sprechen? Sie bringt damit Viktor in eine schwierige Situation, denn die Diskussionen im Vorstand sollen geheim bleiben, bis eine Entscheidung getroffen worden ist.
Sollte der Vorstand bei technischen Fragen nicht besser direkt mit den Fachabteilungen sprechen?
Hätten Paula und ihr Team bei der Methodenauswahl schon aus ethischen Gründen maschinelles Lernen ablehnen sollten?
Als Maschinenbauer hat Andreas nicht besonders viel Erfahrung mit den Algorithmen, die sein Rechensystem anwendet. Er vertraut einfach auf die Ergebnisse, die geliefert werden. Hat er die Verantwortung für die Ergebnisse oder das gesamte Team?
Ist eine true positive rate von 97% bei Systemen, die Menschenleben tangieren, wirklich ein guter Wert?
Sollte Viktor seine Rollen als Direktreport zumVertriebsvorstand und Schnittstellenkoordinator nutzen, um auf Vorstandsebene auf das Risiko des Gesamtkonstruktes aufmerksam zu machen?
Wie bewerten Sie die Art und Weise der Lerndatengenerierung?
Welche Einzelaspekte führen zu der Gesamtsituation und wie würden Sie diese vom Gewicht ihrer negativen Auswirkung aus betrachtet bewerten?
Welche Gegenmaßnahmen entsprechend dieser Einzelaspekte würden Sie vorschlagen? Wie beurteilen Sie deren Wirksamkeit, um die Gesamtsituation zu verbessern?

Erschienen im Informatik Spektrum 43(1), 2020, S. 59-60, doi : 10.1007/s00287-020-01236-9

Fallbeispiel: Statistische Irrungen

Christina B. Class, Stefan Ullrich

Alex hat vor etwas mehr als einem Jahr seine Masterarbeit im Bereich Künstliche Intelligenz und Gesichtserkennung abgeschlossen. Sein adaptiertes selbstlernendes Verfahren konnte die bisherigen Ergebnisse der Echtzeit-Gesichtserkennung deutlich verbessern. Als er seine Abschlussarbeit auf einer Tagung vor einem Jahr vorgestellt hat, inklusive Proof-of-Concept auf der Bühne, wurde er vom Leiter der KI Forschungs- und Entwicklungsabteilung der EmbraceTheFuture GmbH angesprochen. Diese wurde vor drei Jahren gegründet, mit Schwerpunkt auf der Entwicklung angepasster Softwaresysteme, insbesondere im Bereich der intelligenten Systeme sowie Sicherheitssysteme. Nach einem kurzen Urlaub nach Ende seines Studiums nimmt Alex eine Stelle bei EmbraceTheFuture GmbH an.

In einem kleinen Team arbeitet er zur Zeit imAuftrag der Bundespolizei an Gesichtserkennungssoftware für ein neues Sicherheitssystem namens ,,QuickPicScan“ an Flughäfen. In Echtzeit werden die Gesichter der Passagiere an der Sicherheitskontrolle mit Fahndungsbildern verglichen, um verdächtige Personen zur Seite zu nehmen und extra zu kontrollieren. Die Behörden erhoffen sich so, gesuchte Personen bei Flügen innerhalb des Schengenraums identifizieren zu können, da dort keine umfassenden Passkontrollen vorgenommen werden.

Zudem soll der Durchsatz der kontrollierten Personen gesteigert werden. Das System wurde mit Millionen von Bildern umfassend trainiert. Bilder von gesuchten Personen, Fahndungsbilder, sind in einer Datenbank gespeichert, auf die bei einem Bildabgleich zugegriffen wird. Dadurch kann das System leicht an aktuell gesuchte Personen angepasst werden. Am Flughafen werden Bilder aller Passagiere in niedriger Qualität aufgenommen, sobald die Sicherheitsschleuse durchschritten wird.

Wenn die Software anschlägt, wird der übliche ,,Metall gefunden“-Alarm ausgelöst. In der darauffolgenden Durchsuchung wird das Gesicht in höherer Auflösung unter besseren Lichtverhältnissen fotografiert und erneut mit den Bilddaten verglichen. Erst wenn dieser zweite Test auch positiv ist, erfolgt eine tiefergehende Kontrolle im Nebenraum mit Abgleich der Personalien. Das Ergebnis des zweiten Tests wird an einem Kontrollterminal angezeigt. Die Fotos der Passagiere werden nicht gespeichert, ein eigenes Team stellt sicher, dass die aufgenommenen Bilder wirklich aus dem Hauptspeicher gelöscht werden und nicht von außen ausgelesen werden können. QuickPicScan wurde in Simulationen sowie in einem eigens dafür gebauten Studio mit einer nachgebauten Sicherheitskontrolle und Schauspielern umfangreich getestet.

Basierend auf den Tests geht das Team von einer False Negative Rate von 1 % aus, d. h. von 100 gesuchten Personen wird eine nicht gefunden. Die False Positive Rate – Personen, die zu Unrecht als verdächtig eingestuft werden – ist kleiner als 0,1 %. Sabine, die Marketingleiterin, ist von dem Ergebnis begeistert. Nur 0,1 % Fehlerrate für unschuldige Personen, das sei ein Riesenerfolg!

Um das System unter realen Bedingungen zu testen, wird es in Abstimmung mit der Bundespolizei während zweier Sommermonate in einem kleineren Flughafen mit einem Passagieraufkommen von ca. 400.000 Passagieren pro Jahr getestet. Das Kontrollterminal wird von einem Angestellten des Auftraggebers überwacht. Von 370 Darstellern wurden ,,Fahndungsbilder“ in unterschiedlich guter Qualität und verschiedenen Positionen aufgenommen und ins System gespeist.

Während der zwei Testmonate gehen die Darsteller zu vorher zufällig festgelegten Zeiten insgesamt 1.500 Mal durch die Sicherheitskontrolle. Sie geben sich nach Durchgang der Person am Kontrollterminal zu erkennen, damit das System getestet werden kann. Aufgrund der Ferienzeit werden in den zwei Testmonaten 163.847 Passagiere kontrolliert. Bei 183 Passagieren leuchtet die Lampe fälschlicherweise auf. Bei 8 der 1.500 Sicherheitskontrollen der Darsteller wurde die Übereinstimmung nicht erkannt.

Der Gesamtprojektleiter Viktor ist begeistert. Zwar war die False Positive Rate mit 0,11% etwas schlechter als ursprünglich erhofft, die False Negative Rate mit 0,53 % aber deutlich besser als angenommen. Mit diesen Zahlen und der Fehlerrate von 0,11 % geht EmbraceTheFuture GmbH an die Presse. Die Bundespolizei kündigt den baldigen Einsatz in einem Terminal eines großen Flughafens an.

Am Abend trifft Alex seine alte Schulfreundin Vera, die zufällig in der Stadt ist. Sie arbeitet als Geschichts- und Mathematiklehrerin. Nachdem sie sich über das neueste aus ihrem Alltag und Liebesleben aufs Laufende gebracht haben, berichtet Alex Vera begeistert von dem Projekt und erzählt von der Pressekonferenz. Vera reagiert ziemlich kritisch, automatische Gesichtserkennung behagt ihr irgendwie gar nicht. Darüber hatten sie schon während Alex’ Master häufiger diskutiert. Alex berichtet begeistert von den geringen Fehlerraten, der erhöhten Sicherheit und der Möglichkeit, untergetauchte Personen zu identifizieren. Vera schaut ihn skeptisch an. Sie findet die Fehlerrate überhaupt nicht gering. 0,11 % – bei einem großen Flughafen sind das doch Dutzende Personen, die für weitere Kontrollen beiseite genommen werden. Das findet sie gar nicht lustig.

Auch fragt sie sich, wie viele Personen, von denen es Fahndungsfotos gibt, tatsächlich mit dem Flugzeug fliegen. Alex will darüber nicht wirklich was hören und beginnt, ihr den Algorithmus, den er im Rahmen der Masterarbeit weiterentwickelt hat, genauer zu erläutern…

Einige Monate später ist das System im Airport City Terminal fertig installiert, Beamte wurden geschult und die Presse meldet den erfolgreichen Start. Wenige Tage später fliegt Alex vom Airport City Terminal ab und freut sich schon darauf, an QuickPicScan vorbeizugehen und sich in dem Gefühl zu sonnen, dass er einen Beitrag zu erhöhter Sicherheit leisten konnte. Doch als er in die Sicherheitsschleuse getreten ist, piepst der Metall-Alarm. Er wird gebeten, die Arme auszustrecken, die Füße abwechselnd auf einen Hocker zu stellen und zu guter Letzt geradeaus zu schauen. Er schielt nach rechts auf denMonitor der Sicherheitsbeamten und sieht, wie die kleine Kontrollleuchte am QuickPicScan-Terminal leuchtet. Hoffentlich geht das schnell, es wird knapp mit seinem Flug. Da er kein Gepäck eingecheckt hat, würden sie nicht auf ihn warten.

Er wird in einen separaten Raum geführt wo man ihn bittet, seine Papiere bereitzuhalten. Ein Beamter steht ihm gegenüber. Alex will ihm seinen Personalausweis reichen, dieser meint jedoch, dass die zuständige Kollegin gleich kommen würde, sie müsse noch jemand anderen überprüfen. Alex wird langsam ungeduldig.

Er bittet darum, dass seine Identität überprüft wird. Nein, das ginge nicht, der postierte Sicherheitsbeamte habe noch keine Einweisung für das neue System bekommen. Erst acht Minuten später taucht die verantwortliche Beamtin auf. Nach der Identitätsfeststellung ist klar, dass es sich bei Alex nicht um eine gesuchte Person handelt.

Sein Gepäck wird dennoch minutiös untersucht. ,,Ist Vorschrift“, sagt die Beamtin knapp. Alex wird unruhig, den Flieger wird er wohl verpassen. Plötzlich kommt ihm das Gespräch mit Vera wieder in den Sinn. ,,Passiert das öfter?“, fragt er mit gespielter Freundlichkeit. ,,Ach, ein paar Dutzend sind es schon am Tag“, sagt die Beamtin, als sie ihn wieder zurück ins Terminal geleitet.

Fragen

Alex wurde fälschlicherweise vom System als ,,Verdächtiger“ identifiziert und hat in Folge seinen Flug verpasst. Dies bezeichnet man als false positive. In welchen Fällen muss hingenommen werden, dass es false positive gibt? Welche Folgen sind für die Betroffenen hinnehmbar? Wie müssten Entschädigungen geregelt werden?
Auch Menschen können Fehleinschätzungen vornehmen. In einer ähnlich gelagerten Situation wie in der geschilderten könnte Alex auch von einem Sicherheitsbeamten zur Seite genommen werden, um genauer kontrolliert zu werden. Gibt es hier einen prinzipiellen Unterschied?
Menschen haben Vorurteile. Es ist bekannt, dass ausländisch aussehende Männer zum Beispiel häufiger kontrolliert werden. Welche Chancen bestehen, solche Diskriminierungen durch Menschen mithilfe von Softwaresystemen zu verringern?
Selbstlernende Algorithmen benötigen Trainingsdaten. Die Ergebnisse der Algorithmen hängen damit stark von den Trainingsdaten ab. Dies kann zu im Algorithmus manifestierter Diskriminierung führen.
Denkbar ist auch, dass z. B. Gesichter einer bestimmten Personengruppe weniger genau erkannt werden, wenn weniger Trainingsdaten zur Verfügung stehen.Dies kann sich auf Hautfarbe, Alter, Geschlecht, Vorhandensein eines Barts etc. beziehen. In einem System wie dem beschriebenen könnte dies dazu führen, dass Personen mit bestimmten äußerlichenMerkmalen schneller beiseite genommen werden, um sie zu kontrollieren.Wie kann man Trainingsdaten sinnvoll wählen, umdiskriminierende Systeme nach Möglichkeit zu verhindern? Wie kann man Systeme mit Blick auf solche Diskriminierungen testen?
Gibt es einen konzeptionellen Unterschied zwischen im System manifestierter Diskriminierung und Diskriminierung durch Menschen? Welche ist einfacher zu identifizieren?
Menschen tendieren dazu, Antworten, die von einer Software gegeben wird, schnell zu vertrauen und Verantwortung abzugeben. Macht dies Diskriminierung durch technische Systeme besonders gefährlich? Welche Möglichkeiten der Sensibilisierung gibt es? Sollte, und wenn ja in welcher Form, eine Sensibilisierung in den Schulen erlernt werden? Ist sie Teil notwendiger digitaler Kompetenzen für die Zukunft?
Zahlen für die false positive und false negative Rate werden oft in Prozent angegeben. Fehlerraten von unter 1 % klingen zuerst mal gar nicht so schlecht. Oftmals fällt es Menschen schwer, sich vorzustellen, wie viele Personen in realen Anwendungen davon betroffen wären, welche Folgen dies haben könnte und was das bedeutet. Oft werden auch beide Zahlen nebeneinander gestellt, ohne das Verhältnis zwischen Positives (in unserem Fall die Personen, die per Fahndungsbild gesucht werden) und Negatives (in unserem Fall alle anderen Passagiere) abzubilden. Oft ist dieses Verhältnis sehr unausgeglichen. Beim beschrieben Testlauf sollten 1.500 Personen (Positives) von 163.847 Passagieren identifiziert werden, also ein Verhältnis von ca. 1:100. Ist ein solcher Vergleich irreführend? Dürfen solche Zahlen in Produktbeschreibungen bzw. Marketingbroschüren genutzt werden? Handeln die Verantwortlichen von EmbraceTheFuture GmbH unethisch, wenn Sie an die Presse gehen? Gibt es andere Fehlermaße? Wie kann man Fehlerraten realistisch darstellen, sodass Systeme realistisch eingeschätzt werden?

Erschienen im Informatik Spektrum 42(5), 2019, S. 367-369, doi : 10.1007/s00287-019-01213-x

Fallbeispiel: Unachtsamkeiten

Stefan Ullrich, Debora Weber-Wulff

Nach dem Unfall mit Galene, dem so genannten selbstfahrenden Auto [1], bei dem ein Kind mit seinem Drachen zwischen zwei parkenden Autos auf die Straße gerannt ist und von Galene erfasst wurde, ist viel Aufwand in die Ausbesserung der Gefahrenerkennung gesteckt worden. Das Kind, das damals bewusstlos zu Boden gestürzt ist, ist zum Glück genesen. Die Firma hat ihm sogar für sein Schülerpraktikum einen Platz in der Firma gegeben. Jürgen, der Hauptverantwortlicher für Galene, hat damals die Pressekonferenz mit Vorführung abgesagt und nur ein kurzes Statement abgegeben, in dem mitgeteilt worden ist, dass noch einiges an Feinjustierung notwendig sei.

Es hat dennoch damals ein aufgeregtes Presseecho gegeben. Es wurde vorgeschlagen, hochautomatisierte Autos gleich gänzlich aus der Innenstadt zu verbannen. Manche wollten sogar alle SUVs verbieten, obwohl der Unfall wirklich glimpflich ausgegangen ist. Um ein Autoverbot zu vermeiden, hat damals die Politik angekündigt, dass Innovationen auf dem Gebiet der Verkehrssicherheit gezielt gefördert werden sollen. Außerdem sollen die Fahrer solcher Autos jährlich ein Training absolvieren müssen, in dem sie zeigen, dass sie jederzeit in der Lage sind, in Gefahrensituationen die Kontrolle über denWagen wieder zu erlangen. Das fand die Firma zwar problematisch, weil sie gerne damit wirbt, dass man während der Fahrt mit Galene einen Film anschauen oder Kaffee trinken kann. Wenn man den Verkehr immer im Auge halten muss, kann man eigentlich genau so gut selber fahren!

Jürgen und seine Teams haben dennoch an der Erkennung von Gefahrensituationen weitergearbeitet. Es ging darum, sich bewegende Gegenstände im Umfeld zu erkennen und deren Laufrichtung und Geschwindigkeit einzuschätzen. Es gab etliche trainierte Maschinelles- Lernen-Modelle, die einigermaßen gut die Bewegungsrichtungen erkennen könnten. Aber es gab auch einige Randfälle, die richtig knifflig waren. Große Menschenmassen waren problematisch, und die neu zugelassenen E-Scooter haben alle Modelle über den Haufen geworfen, weil sie so schnell und wendig waren.

Es gab immer wieder Fälle, in denen ein sich bewegendes Objekt nicht erkannt worden ist. Renate, eine Entwicklerin in Jürgens Abteilung und Leiterin der Bewegungserkennungsgruppe, hat sich in der letzten Zeit viel mit der Theorie von Edge Computing auseinandergesetzt. Sie schlägt vor, dass Kameras in die Lichtmasten eingebaut werden könnten, die permanent die Bewegungsrichtungen der Objekte in ihrer Nachbarschaft überwachen. Sie sind aus Datenschutzgründen nicht an einen zentralen Computer angeschlossen, aber versenden permanent Informationen über sich bewegende Objekte. Die autonomen Fahrzeuge können diese Daten in ihren Berechnungen berücksichtigen, müssen es aber nicht. Gerade auf dem Land gibt es nicht so viele Lichtmasten wie in der Stadt.

Die Gruppe schafft es, in Berlin eine Teststrecke auf einem Abschnitt der Straße des 17. Juni (eine lange, gerade Straße mit vielen Lichtmasten) genehmigen zu lassen und aufzubauen. Sie können recht große Recheneinheiten in die Lichtmasten einbauen, daher klappt die Richtungserkennung der bewegten Objekte sehr gut. Renates Teammuss diese gesendeten Daten interpretieren. Sie haben leider sehr große Probleme. Metall und feuchte Blätter beeinflussen die Signale, außerdem können die Sensoren praktisch nur dort in den Autos angebracht werden, wo sich die Kameras befinden. Es müssen daher besondere Geräte entwickelt werden, die die Kamera und unterschiedliche Sensoren kombinieren. Damit werden die Autos noch teurer als sie sowieso sind. Renate erstattet Bericht über die Auswirkungen an Jürgen, aber er wiegelt ab. Ist nicht so schlimm, da hat er eine bessere Idee.

Jürgen ist Techniker und wusste daher sehr gut, dass viele Probleme grundlegender Natur und nicht einfach zu beheben waren. Da kam ihm der Vorschlag eines seiner Teams genau richtig, vielleicht besser das Verhalten der Fußgänger zu regeln als das der Autos. In einigen Städten gab es schon Straßenschilder, die auf dem Boden gemalt wurden, um die zu Boden blickenden Smartphone- Nutzer vor dem Verkehr zu warnen. Außerdem sollte man dem Bezirk vorschlagen, auf der Teststrecke die E-Scooter zu verbieten. Während der Testphase wurden für Fußgänger Hinweisschilder auf Englisch und auf Deutsch angebracht, die über den Testbetrieb informieren. Im Bordstein eingelassene LEDs leuchten rot und blinken, wenn ein Fußgänger außerhalb der Signalanlagen auf die Fahrbahn treten möchte. Während des Testbetriebs wird dann auch ein Signal an die Mobilgeräte der eigens dafür eingesetzten Beamten des Ordnungsamtes gesendet.

Bei der anschließenden Auswertung ergab sich trotz der erheblichen technischen Mängel, dass viele potenzielle Unfälle verhindert wurden. Fachleuten war bewusst, dass dies eher auf den massiven Personaleinsatz, das E-Scooter-Verbot auf der Teststrecke und die Gängelung der Fußgänger zurückzuführen war, das Projekt wurde dennoch als ein technischer Erfolg gefeiert. Auf der anschließenden Pressekonferenz willigt die Kommune des Firmensitzes öffentlichkeitswirksam ein, die komplette Kleinstadt für autonome Fahrzeuge umzurüsten. Und auch das Bundesverkehrsministerium zieht mit: Die Einwohner können ihre alten Fahrzeuge gegen Galene quasi tauschen; zumindest bekommen sie einen beträchtlichen Zuschuss zum Einkaufspreis.

Renates Team ist nach wie vor damit beschäftigt, die gesammelten Daten auszuwerten. Sie und ihr Team kommenzu demSchluss, dass sich die Gefahrenerkennung nicht wesentlich verbessert hat, ein ähnlicher Unfall könnte jederzeit wieder stattfinden. Jürgen beruhigt sie, sie müsse doch das Gesamtsystem betrachten. Und zusammen mit denWarnungen für die Fußgänger hat sich die Situation ja tatsächlich verbessert. Vielleicht sollte die Firma über autonome Poller nachdenken, die sich Leuten in den Weg stellen, scherzt Renate. Zu ihrer Überraschung schweigt Jürgen ein paar Sekunden. Keine schlechte Idee, meint er schließlich.

Galene geht in Produktion, und wird erstaunlicherweise von knapp der Hälfte der Bürger in der Testkommune angeschafft. Die Anzahl von Blechunfällen geht stark zurück, sie passieren eigentlich nur noch im Mischverkehr, wenn ein autonomes mit einem nicht-autonomem Fahrzeug verschiedene Strategien zur Vermeidung von Unfällen anwendet.

An einem feinen Herbsttag sind Kinder auf der Herbstwiese dabei, ihren Drachen steigen zu lassen. Es ist ein sehr windiger Nachmittag, und die Drachen können sehr hoch fliegen. Peter ist mit seiner Mutter auf der Wiese, sie hat ihn überschwänglich gelobt, wie gut er den Drachen hinbekommen hat. Sie fotografiert ihn und ist dabei, das Bild online zu teilen. Sie bekommt nicht mit, dass der Drachen jetzt über die Straße zieht. Peter stemmt sich dagegen, wird mitgezogen, hält an, geht weiter in eine leicht andere Richtung, bleibt stehen, versucht, die Kontrolle über seinen Drachen wieder zu bekommen. Er will ihn nicht loslassen, den Drachen, das Geschenk seines Vaters. Er ist gefährlich nah an der Straße, seine Mutter schaut immer noch auf ihr Handy. Er kann die Straße nicht einsehen, weil ein Transportfahrzeug in der zweiten Reihe parkt. Galene setzt zum Überholen an.

Fragen

Ist es moralisch gesehen in Ordnung, lauffähige Fahrzeuge umzutauschen,
um einen technischen Test durchzuführen?
Hätte man sich nicht schon denken können, dass die Probleme prinzipieller Natur sind?
Haben die Entwickler eine Verantwortung dafür, darauf hinzuweisen, dass sie nicht grundsätzlich Gefahren erkennen können?
Ist es problematisch, wenn Lichtmasten solche Daten erfassen und aussenden? Besteht auch noch Diebstahlgefahr für die Rechenelemente?
Wer trägt die Verantwortung, wenn es einen Unfall mit Peter und Galene gibt? Peter, seineMutter, der Fahrer des Lieferwagens, die Hersteller von Galene, Renates Team?
Autos und Fußgänger stehen in starker Konkurrenz zueinander. Ist es problematisch, das Verhalten der Fußgänger beeinflussen zu wollen, damit die Autos es leichter haben? Siehe hierzu auch [2].
Reicht es aus, Warnungen in der Landessprache und auf Englisch anzubringen – in einer Gegend, in der sich viele Touristen aufhalten?
Müssen Eltern besser auf ihre Kinder aufpassen und sich nicht immer mit dem Handy beschäftigen?

Literatur
1. Informatik Spektrum (2015) 38(6):575–577, online unter https://gewissensbits.gi.de/fallbeispiel-das-selbstfahrende-auto/

2. Novak M (2013) The Invention of Jaywalking Was a Massive Shaming Campaign, 22 July 2013, https://paleofuture.gizmodo.com/the-invention-of-jaywalking-was-a-massive-shaming-campa-858926923

Erschienen im Informatik Spektrum 42(6), 2019, S. 448-450, doi : 10.1007/s00287-019-01218-6

Gewissensbits

Fallbeispiele Chronologisch

English Scenarios

Aktuelles

Kommentare

Archiv

Kommentare

Scenario: Smoke & Mirrors

Fallbeispiel: Analog/Digital-Graben

Fallbeispiel: Nachhaltigkeit im digitalen Wettbewerb

Fallbeispiel: Ethisches Reinwaschen oder „Weiß, weißer geht’s nicht –Weißer Riese oder doch nur heiße Luft“

Fallbeispiel: Energieintensives Energiesparen?

Scenario: Sustainability in the Digital Marketplace

Fallbeispiel: „Safety First“

Fallbeispiel: Statistische Irrungen

Fallbeispiel: Unachtsamkeiten

Autoren

Kategorien

Meta