Archiv

Die Ausbildung der „Eliten der Automation“

Für die FAZ habe ich mir ein paar Gedanken zum Informatik-Studium, zur Ausbildung von Schülern und zum micro:bit-Projekt der BBC gemacht:

Wenn man ehrlich auf die bundesdeutsche MINT-Realität an Schulen blickt, wird sowohl Informatik als auch Technik de facto kaum unterrichtet, erst recht zu wenig mit spannenden Projekten, die das Zeug hätten, mehr Studenten in die technischen Fächer der Universitäten zu locken. Vielerorts wird allen Ernstes in den Schulen nur der Umgang mit gängiger Office-Software gelehrt, nicht aber grundlegendes Informatik-Verständnis.

bbc micro:bitMich hat das micro:bit-Projekt auch deswegen begeistert, weil es auf so einfache Weise Zugang zu informatischen Welten eröffnet. Wer ein wenig mehr über micro:bit erfahren möchte, das die BBC in Zusammenarbeit mit Google, Microsoft, Samsung, der British Computing Society und weiteren Unterstützern auf den Weg gebracht hat: hier entlang, mit weiteren Links.

Es geht mir in dem Artikel auch um die Wahrnehmung der universitären Informatik und darum, ob ein angehender Informatiker im Studium eigentlich angeleitet wird, technische Projekte und Entwicklungen kritisch zu beurteilen, um sein Handeln später in verantwortungsvoller Weise ausführen zu können. Es wird wohl wenig überraschen, dass ich finde, dass das im Studium zu kurz kommt.

Bildlizenz: CC BY-SA 2.0, via flickr/Les Pounder

Man kann nicht so schräg denken, wie es kommt

Im Fallbeispiel „Data Mining für Public Health“ haben wir rumgesponnen, was die Krankenkassen so alles mit unsere Daten anstellen können. Die Apotheker haben sich wohl inspirieren lasen: Weitergabe von Rezeptdaten.

 

Fallbeispiel: Das selbstfahrende Auto

Christina Class & Debora Weber-Wulff

Sie haben sich seit Jahren darauf vorbereitet. Visionen der 50er Jahre eines selbstfahrenden Autos werden wirklich wahr. Galene, haben sie ihre Entwicklung, das selbstfahrende Auto, getauft, und es ist auf dem Testgelände fantastisch gefahren. Auch bei Testfahrten in Amerika – dazu musste Galene verschifft werden – lief alles prima. In den USA gibt es nicht so viele Vorschriften, und es gibt unendlich weite Straßen, auf denen man gute Sicht hat und viel ausprobieren kann.

In Deutschland war alles komplizierter und es hat länger gedauert, um die Genehmigung für Testfahrten im Straßenverkehr zu erhalten, aber diese lag nun vor. Morgen war die Presse für die breit angekündigte „Jungfernfahrt“ eingeladen. Jürgen, einer der stolzen „Eltern“ von Galene, will sie nach Absprache mit dem Teamleiter erst einmal so ohne Pressetrubel auf der geplanten Strecke fahren lassen, um sicher zu sein, dass alles klappt. Als guter Ingenieur hat er die Strecke mit Bedacht ausgewählt. Es ist Sonntagnachmittag, da ist auf diesen Straßen wenig Verkehr. Und er selber sitzt ja auch hinterm Steuer undkannnotfalls eingreifen, wenn etwas sein sollte. Er ist sich sicher, dass er nicht auffallen und evtl. andere Autofahrer oder Passanten irritieren wird.

Er gibt das Ziel mündlich im Sprachcomputer ein. Galene bestätigt das Ziel, und berechnet den Weg unter Berücksichtigung der aktuellen Verkehrsnachrichten, den bekannten Baustellen und der Wettervorhersage. Alles ist ruhig, keine Baustellen im Weg, kein Regen oder Nebel aber etwas Wind: ein sonniger Herbsttag und der perfekte Tag für eine erste Testfahrt!

Jürgen genießt die Fahrt auf der ihm wohl bekannten Strecke. Es ist schon ein tolles Gefühl, sich fahren zu lassen, obwohl es immer noch sehr ungewohnt ist, kein Gas zu geben, nicht zu bremsen und nicht zu steuern. Galene fädelt auf der Stadtautobahn perfekt ein, überholt einen Oldtimer, und fährt an der nächste Ausfahrt wieder raus, sanft an der Ampel anhaltend. Galene hält dabei immer genügend Abstand zum Vordermann ein. Die Steuerung ist so präzise, dass sie bis auf einen Zentimeter heranfahren könnte, um hinter dem Vordermann anzuhalten. Aber das macht andere Verkehrsteilnehmer unnötig nervös, und so haben sie Galene auf 40 cm Abstand programmiert.

Jürgen würde gerne mit seinem Handy filmen, wie er die grüne Welle bekommt und dann an der dritten Ampel links abbiegt – er war sich nicht ganz sicher, ob Galene das alles korrekt berechnen würde, aber es hat perfekt geklappt. Da er für die anderen Autofahrer den Anschein aufrecht halten muss als fahre er das Auto, kann er schlecht mit dem Handy filmen. Sie kommen in ein neueres Wohnviertel und Galene bremst auf die vorgeschriebenen 30 km/h runter. Links ist eine Schule, auf beiden Seiten befinden sich Bushaltestellen für die Schulbusse. Sie haben viel Zeit darauf verwendet, Galene auf solche Verkehrssituationen vorzubereiten.

Aber zum Glück sind je gerade Herbstferien. Rechts kommen sie an einem Park mit großen Rasenflächen vorbei. Er hört Kindergeschrei und blickt nach rechts. Jürgen sieht Hunde tollen, bunte Bälle auf der Wiese und noch buntere Drachen in der Luft fliegen. Sie bewegen sich mit dem Wind in seine Richtung. Jürgen greift instinktiv zum Steuer, er ist sich bewusst, dass Kinder beim Spielen nicht auf den Verkehr achten.

Gerade zu Beginn hat er das öfter erlebt: er wurde nervös, griff zum Steuer und drückte den Knopf, um die Kontrolle zu übernehmen. Aber es war nie notwendig und so lernte er, entspannt zu bleiben und Galene die Kontrolle zu überlassen. Und plötzlich passiert es: Ein Kind rennt mit seinem Drachen zwischen zwei parkenden Autos auf die Straße und wird von Galene erfasst. Es stürzt bewusstlos zu Boden.

Galene bremst sofort, da die Sensoren den Aufprall erfasst haben. Jürgen zieht gleichzeitig den Nothaltknopf. Galene steht, der Warnblinker ist eingeschaltet. Jürgen steigt aus und rennt zum Kind, die Mutter kommt dazu und schreit Jürgen an. Eine junge Frau steigt aus dem Auto, das hinter Jürgen gefahren ist und leistet erste Hilfe. Sie sagt, sie sei Krankenschwester.

Ein Hundebesitzer aus dem Park hat schon den Notruf abgesetzt, der Krankenwagen ist schnell da und fährt das Kind mit seiner Mutter mit Blaulicht in das nächstgelegene Krankenhaus. Auch die Polizei ist da, um den Unfall aufzunehmen. Jürgen steht ziemlich unter Schock. Die junge Frau, die erste Hilfe geleistet hat, wendet sich sofort an die Polizei, noch bevor diese Jürgen befragen kann. Ihr Name sei Sabine und sie
sei hinter dem Unfallauto gefahren. Ihrer Meinung nach sei es zu schnell gefahren. Sie selber sei viel langsamer als 30 gefahren, bei all dem Kindergeschrei aus dem Park, den Hunden,
Bällen und Drachen musste man ja mit sowas rechnen!

Die Polizisten bitten Jürgen, sich auszuweisen. Er gibt ihnen den Personalausweis, Führerschein, sowie die Betriebserlaubnis für Testfahrten. Die Polizisten sind erstaunt und stellen einige Fragen zum Auto, sie sind neugierig. Da es sich um Testfahrten handelt und das Auto nicht generell zugelassen ist, wollen sie Galene in jedem Fall abschleppen lassen, umgenauere Untersuchungen anzustellen, insbesondere auch um Daten für die Auswertung auszulesen. Jürgen weiß, dass Galene korrekt gefahren ist, aber der Vorwurf der Zeugin Sabine macht ihn trotzdem nachdenklich. Die Probefahrt und Pressekonferenz am nächsten Nachmittag sind gefährdet. Ein PR Desaster, vor allen Dingen nach diesem Unfall!

Fragen

– Das Auto hatte eine offizielle Betriebserlaubnis für Testfahrten. War es in Ordnung, vor der offiziellen Probefahrt, eine Testfahrt durchzuführen?

– Flugzeugpiloten müssen immer wieder ein Training absolvieren, um im Notfall schnell genug zu reagieren und die Kontrolle vom Autopiloten zu übernehmen. Wird ein solches Training auch bei selbstfahrenden Autos notwendig sein? Durfte Jürgen sich während der Probefahrt so entspannt zurücklehnen?

– Als Jürgen die Kinder im Park sah, griff er instinktiv zum Lenkrad. Müsste er als Fahrer in einer solchen Situation, in der er mit auf die Straße rennenden Kindern rechnete, die Kontrolle über das Fahrzeug übernehmen?

– Galene fuhr die vorgeschriebene Geschwindigkeit von 30 km/h. Die Zeugin machte denVorwurf, das sei bei den vielen Kindern im Park zu schnell gewesen. Inwiefern kann und soll eine Anpassung der Geschwindigkeit an Gegebenheiten, die neben der Straße stattfinden, in Algorithmen abgebildet werden?

– Es kann immer wieder zu Unfällen kommen, weil Unvorhergesehenes passiert: ein Kind rennt auf die Straße, Wildwechsel, ein Ast stürzt auf die Fahrbahn. Oft ist es das schnelle Reaktionsvermögen des Fahrers oder ein instinktives Zögern, das Schlimmeres verhindert. Sollten Algorithmen versuchen, eine Art Instinkt abzubilden? Inwiefern können selbstlernende Systeme hilfreich sein?

– Manchmal kommt es auch zu Auffahrunfällen, wenn sich ein Fahrer „zu korrekt“ verhält, z. B. an einer viel befahrene Straße bei gelb an der Ampel hält oder bei einer unübersichtlichen Kurve nach einer Schnellstraßenausfahrt die Geschwindigkeitsbegrenzung exakt einhält. Sollten man in selbstfahrende Autos, die darauf programmiert sind, sich so korrekt zu verhalten, eine gewisse Unschärfe im Umgang mit Verkehrsregeln einbauen, je nachdem wie sich die vorausfahrenden bzw. hinterherfahrenden Autos verhalten?

– Es wird kaum möglich sein, in Tests alle möglichen Fälle abzudecken. Daher kann es vorkommen, dass die Software von selbstfahrenden Autos falsch reagiert.Wer ist dann zur Verantwortung zu ziehen? Die Entwickler? Die Hersteller? Der Fahrer, der für den Fall der Fälle im Auto sitzt? Oder werden wir solche Fälle hinnehmen, da die Autos in anderen Fällen größere Sicherheit versprechen? Wo können dann aber die Grenzen gezogen werden?

– Wie und wann werden Software Updates bei selbstfahrenden Autos durchgeführt? Nur in der Werkstatt, oder wenn das Auto gerade steht? Wer kontrolliert, ob und wann ein Update durchgeführt werden soll? Und wie sieht die Situation aus, wenn ein Unfall durch ein nicht durchgeführtes Update wahrscheinlich hätte verhindert werden können? Wer übernimmt dann die Verantwortung?


Erschienen in Informatik Spektrum 38(6), 2015, S. 575–577.

Informationelle Mü(n)digkeit

Über die unbequeme Selbstbestimmung. Beitrag von Stefan Ullrich in der Zeitschrift Datenschutz und Datensicherheit 10/2014. Ein Jahr nach seinem Erscheinen nun hier im Volltext verfügbar.

Die technische Umsetzung sowie die politische Einforderung der informationellen Selbstbestimmung sind mühsam, die Nutzung informationstechnischer Artefakte hingegen bequem. Den Technikern fällt somit eine gesellschaftliche Verantwortung zu, die sie stärker als je zuvor wahrnehmen müssen.

Informationelle Mü(n)digkeit – Stefan Ullrich (PDF, 352 KB)

Drohnen – Jahrestagung 15.-16. 10. 2015 in Berlin

Im Geheimdienstbefugnisklärungsausschuss des Deutschen Bundestags taucht am Rande immer wieder auf, was der Ex-Geheimdienstler Michael Hayden so drastisch ausdrückte: Wir töten Menschen auf der Basis von Meta-Daten. Der nicht mehr ganz so geheime Drohnenkrieg der militärisch stärksten Staaten zeigt in erschreckender Weise, welch zentrale Rolle Technikerinnen und Techniker in der Schönen Neuen (Gewalt-)Welt einnehmen.

Algorithmen entscheiden in autonomen Systemen über Wohl und Wehe einer Person, weisen dem inkommensurablen Menschen einen Wert zu, der Vergleiche, Optimierungen und im Zweifel eben: Auslöschungen erlaubt.

Unsere Fachgruppe lädt Sie und Euch ein, mit uns erneut über die Verantwortung der Informatikerinnen und Informatiker zu diskutieren.

Verkörperung von Algorithmen: Drohnen
15. Oktober, 14 Uhr bis 16. Oktober 2015, 16 Uhr
Humboldt-Universität zu Berlin
Senatssaal, Unter den Linden 6, 10099 Berlin

Die Teilnahme ist kostenlos, um Anmeldung unter drohnen@turing-galaxis.de wird freundlich gebeten.

Beiträge und Programmänderungen können der Tagungs-Website entnommen werden.

Auf ein Wort

Wie würden Sie entscheiden?« – Dieser Satz bezieht sich, wie Sie im Anriss gerade gelesen haben, normalerweise auf ethische Fallbeispiele, die zu moralischer Reflexion und angeregter Diskussion anregen sollen. Die Beispiele sind fiktiver Natur, sie spielen mit Möglichkeiten, sie sind mit der Einleitung »was wäre, wenn…?« zu lesen. Was uns als Autoren zunächst amüsiert hat, inzwischen aber nachhaltig schockiert: Egal wie zugespitzt wir die Geschichten formulieren, so finden sich in der Presse stets sehr ähnliche Ereignisse oder Skandale, die tatsächlich wider Erwarten eingetreten sind. Im Netz gibt es das schöne Bonmot: »Orwells 1984 war nicht als Blaupause für die Wirklichkeit gedacht«.

»Wie würden Sie entscheiden?« würden wir diesmal gern als Grundsatzfrage stellen. Rufen Sie sich in Erinnerung: Sie sind die Architekten der Informationsgesellschaft, Sie stellen die Bauelemente der Turing’schen Galaxis her, Sie riefen die informationstechnischen Geister, die wir nun nicht mehr los werden (können oder wollen). Würden Sie sich noch einmal so entscheiden und beispielsweise Software programmieren?

Die jung und verspielt wirkende Informatik ist längst erwachsen geworden – und doch handeln viele ihrer Vertreter wie digital Naive, da hilft es auch nichts, dass in Sonntagsreden und Nachrufen auf Informatikpioniere immer wieder auf die Verantwortung des Technikwissenschaftlers hingewiesen wird. Das Erschreckende hierbei: Bereits vor dreißig Jahren warnten weitsichtige Informatiker wie Klaus Brunnstein, Joseph Weizenbaum oder Andreas Pfitzmann vor den nun zu beobachteten Fehlentwicklungen der Informatik. »Big Data« degradiert die Wissenschaft Informatik zu einer Korrelationssuchmaschine; »Biometrie« weist dem inkommensurablen Menschen plötzlich eine Prozentzahl zu; die als »Robotik« getarnte Kriegsbegeisterung ist einfach nur noch erschreckend. Doch nicht nur das Individuum, auch die offene Gesellschaft wird massiv mit Hilfe von informationstechnischen Systemen angegriffen, beispielsweise durch die vollständige Unterminierung der Mündigkeit des Nutzers, der schon längst Benutzter ist. Nicht zuletzt sollte auf die Beihilfe zu Drohnen-Morden hingewiesen werden, etwa durch Bilderkennungsalgorithmen oder unfreiwillig bereitgestellte Verkehrs- und andere Log-Daten, die als Zielkoordinaten dienen können.

Versuchen Sie, wenn es Ihnen möglich ist, diese Zeilen nicht als kulturkritische Verfallsgeschichte oder Technophobie zu lesen, sondern als erneuten Anreiz, Ihr eigenes Handeln zu hinterfragen. Insofern sind die üblicherweise an dieser Stelle gedruckten Fallbeispiele bequemer, weil Sie die aufgeworfenen Probleme aus sicherer Distanz betrachten können. Doch es sind nun einmal Techniker wie Sie, die Stück für Stück dazu beitragen, die Welt im Wortsinn berechenbarer zu gestalten, sei es als Nutzer oder insbesondere als Entwickler informationstechnischer Systeme.

Fragen an Sie als Nutzer informationstechnischer Systeme

  • Ist Ihr (Arbeits-)Gerät sozial verträglich hergestellt?
  • Haben Sie in den Quelltext der von Ihnen verwendeten Software geschaut?
  • Geben Sie URLs direkt ein oder suchen Sie in einer Suchmaschine (oder Omnibox) danach?
  • Kennen Sie den Stromverbrauch eines kleineren Rechenzentrums?
  • Haben Sie von Ihrem Gewährleistungsrecht auf integre und vertrauliche informationstechnische Systeme Gebrauch gemacht?

Fragen an Sie als Entwickler

  • Trägt die von Ihnen entwickelte Systemkomponente dazu bei, dass Menschen zu Schaden kommen?
  • Haben Sie die obige Frage ehrlich beantwortet?
  • Wie können Sie Ihre Aussage belegen?
  • Finden Sie, dass dieser Text zu undifferenziert ist?
  • Wenn Sie sich nicht angesprochen fühlen, warum ärgert Sie dieser Text?

Gemeinsame Pressemitteilung der Fachgruppe Informatik und Ethik der Gesellschaft für Informatik (GI e.V.) und des Forums InformatikerInnen für Frieden und gesellschaftliche Verantwortung (FIfF e.V.) zum Ermittlungsverfahren gegen netzpolitik.org

Die Fachgruppe Informatik und Ethik der Gesellschaft für Informatik (@gewissensbits) und das Forum InformatikerInnen für Frieden und gesellschaftliche Verantwortung (fiff.de) missbilligen das juristische Vorgehen von Verfassungsschutz, Generalbundesanwalt und Bundesjustizministerium gegen ein Presseorgan. Sie fordern klare Stellungnahmen und Positionierungen von allen Regierungsministerien. Die Mitglieder beider Vereinigungen sehen sich verpflichtet, allgemeine moralische Prinzipien, wie sie in der Allgemeinen Deklaration der Menschenrechte formuliert sind, zu wahren. Zu diesen essentiellen Rechten gehören die Meinungs- und Pressefreiheit sowie die Freiheit, mit Zivilcourage gegen offenkundige Missstände einzutreten. »Die Geschichtsvergessenheit ist mit das Erschreckendste am Verfahren gegen netzpolitik.org«, empört sich der Sprecher der GI-Fachgruppe Informatik und Ethik, Stefan Ullrich. »Als die Wochenzeitschrift Weltbühne die heimliche, rechtswidrige Aufrüstung der Deutschen Luftwaffe 1929 öffentlich machte, wurden Herausgeber und Informanten wegen Landesverrats verurteilt. Nun erleben wir, wie mit der Berichterstattung an einem heimlichen, moralisch fragwürdigen Wettrüsten im Cyberspace umgegangen wird: Mit einer Ermittlung wegen Landesverrats.«

Die Informationsgesellschaft erwartet von Informatikerinnen und Informatikern, eine ihrer Gestaltungsmacht angemessene individuelle und gemeinschaftliche Verantwortung zu tragen. Für die Herausbildung der dazu notwendigen Urteilkraft jedoch ist eine unabhängige, engagierte Presse unabdingbar, eine Presse, die schon längst nicht mehr mit Bleilettern hantiert, sondern vorwiegend digitale Medien nutzt. Das FIfF-Vorstandsmitglied Rainer Rehak kritisiert: »Die Integrität und Vertraulichkeit informationstechnischer Systeme wird systematisch und mit voller Absicht von geheim operierenden Diensten im Auftrag verschiedener Staaten unterminiert; doch nicht gegen die für die Grundrechtsverletzungen Verantwortlichen, sondern gegen die darüber berichtenden Journalisten wird ermittelt.«

Das Ermittlungsverfahren des Generalbundesanwalts wurde aufgrund der Berichterstattung von netzpolitik.org angestoßen, die wir hier prominent noch einmal verlinken wollen:

(Die von netzpolitik veröffentlichten Dokumente werden unter http://landesverrat.org/ gespiegelt.)

Die Fachgruppe Informatik und Ethik der Gesellschaft für Informatik und das Forum InformatikerInnen für Frieden und gesellschaftliche Verantwortung rufen die politisch Verantwortlichen zur Raison sowie ihre Mitglieder zur erneuten Lektüre der höchstrichterlichen Grundsatzurteile auf.

Berlin, den 3. August 2015

Fallbeispiel: Menschenrechte

Carsten Trinitis & Ursula Münch

Maria ist als wissenschaftliche Mitarbeiterin in einem befristeten Projekt, das an ihrer Universität eingeworben wurde, beschäftigt und arbeitet dort seit eineinhalb Jahren an ihrer Promotion im Fach Informatik. Da das Forschungsprojekt in einem Monat ausläuft, muss Maria, um ihre Promotion erfolgreich abschließen zu können, über ein anderes Projekt finanziert werden. Maria ist eigentlich fest liiert mit einer Frau, Anna. Sie möchte Anna nicht so lange alleine lassen, da Anna Diabetikerin ist. Und sie ist sich sicher, nicht mit Anna zusammen dorthin fahren zu können.

Im vergangenen Jahr ist ihre Universität eine neue Kooperation eingegangen, und zwar mit einer neu aus der Taufe gehobenen Universität in einem mit Ölvorkommen gesegneten fernöstlichen Land. Das Gute daran: Damit stehen ausreichend finanzielle Mittel zur Verfügung, aus denen auch Marias Stelle bis zum erfolgreichen Abschluss ihrer Promotion gesichert werden könnte. Auch in fachlicher Hinsicht decken sich die Projektziele sehr gut mit denen ihres Promotionsthemas.

Die entsprechende Kooperation ist aber an Bedingungen geknüpft: Die Projektmitarbeiter müssen regelmäßig zum ausländischen Kooperationspartner reisen, mindestens zwei von ihnen sogar für mehrere Monate am Stück innerhalb von drei Jahren. Der Campus der neu errichteten Universität verfügt neben modernster technischer Ausstattung auch über zahlreiche Freizeitmöglichkeiten und kostenlose Verpflegung – kurzum: Geld spielt keine Rolle, um hier ideale Forschungsbedingungen zu schaffen. Auf diese Weise will die dortige Regierung Vorsorge für die Zeit „nach dem Öl“ treffen und Spitzenforscher aus aller Welt anlocken.

Das Land, in dem die neue Universität entsteht, ist neben seinem Reichtum jedoch auch dafür bekannt, dass dort elementare Menschenrechte missachtet werden. Die Meinungsfreiheit ist in letzter Zeit massiv eingeschränkt worden. Eine sogenannte Religionspolizei wacht streng über die Einhaltung der Gesetze. Auf tatsächliche oder vermeintliche Vergehen wie Ehebruch, Verschwörung, Sabotage, Hexerei oder Abfall vom Glauben steht die Todesstrafe, die häufig als öffentliche Enthauptung vollstreckt wird. Frauen dürfen ohne Zustimmung eines Mannes weder arbeiten noch Verträge unterzeichnen. Auch Auto fahren oder ohne Begleitung eines männlichen Verwandten ins Ausland zu reisen, ist Frauen untersagt. Sogar Vergewaltigungen in Ehegemeinschaften sind per Gesetz erlaubt.

Dagegen gelten gleichgeschlechtliche Partnerschaften als kriminelle Handlung und werden mit drakonischen Strafen geahndet. Da das Land über sehr hohe Finanzmittel verfügt, entstehen überall repräsentative Bauten, die von billigen Leiharbeitern – meist aus Drittweltländern – errichtet werden. Diese Leiharbeiter verfügen über so gut wie keinerlei Rechte und werden mehr oder weniger wie Leibeigene der Bauherren behandelt.

Doch innerhalb des Campus der neuen Universität gelten diese nach westlichen Maßstäben mittelalterlich anmutenden Gesetze nicht. Schließlich will man ja die besten Forscher (womöglich sogar Forscherinnen) aus dem Westen anzulocken und vor Ort eine liberale Atmosphäre zu schaffen.

Maria hat Skrupel, die Stelle anzunehmen. Da man normalerweise nur in Begleitung eines Mannes in das Land einreisen darf, ist nicht daran zu denken, dass Maria jemals mit Anna dorthin reisen kann. Die Situation vor Ort erscheint ihr unerträglich, und sie fürchtet, als Frau vor Ort massiv in ihren Freiheiten eingeschränkt zu sein. Wie soll sie ihren eigenen persönlichen Nutzen, den ihr das neue Projekt zweifelsohne bringen würde, mit ihrem Gewissen vereinbaren: Schließlich würde sie durch ihre Arbeit, in gewisser Weise doch auch das Regime vor Ort unterstützen und damit auch dessen Ablehnung rechtsstaatlicher Prinzipien.

Marias Kollege Josef, mit dem sie seit Beginn ihrer Promotion intensiv zusammenarbeitet und die gemeinsamen Ergebnisse veröffentlicht, sieht dies anders. Josefs Stelle ist bereits über das neue Projekt verlängert worden, der erfolgreiche Abschluss seiner Promotion hängt jedoch davon ab, ob Maria beim neuen Projekt zusagt und für einige Monate dort hingeht. Josef kann Marias Bedenken nicht nachvollziehen: Zum einen hat er noch nie auch nur annähernd so gute Forschungsbedingungen vorgefunden. Zum anderen, so versucht er Maria zu beruhigen, kann man das Projekt mit der neuen Universität doch auch als wichtigen Schritt in die richtige Richtung interpretieren: Durch die Präsenz von Forschern aus westlichen Kulturen werde es, das ist seine feste Überzeugung, eine Initialzündung zur Liberalisierung des in Sachen Menschenrechte noch immer rückständigen Landes geben.

Fragen:

In diesem Szenario geht es um eine grundsätzliche ethische Fragestellung, die häufig in technischen Berufen und besonders in der Informatik auftritt.

  1. Für Maria und Josef hängt der erfolgreiche Abschluss ihrer Promotionen von der Mitarbeit in dem Projekt ab. Die Finanzierung des Projektes kommt von der Regierung eines Staates, der elementare Menschenrechte eklatant missachtet. Soll Maria, um ihre Promotion erfolgreich abzuschließen, diese Tatsache ignorieren, oder soll sie ihrem Gewissen folgen und damit ihre und auch Josefs Promotion aufs Spiel setzen?
  2. Soll Maria ihrer Karriere zuliebe die Beziehung zu ihrer Partnerin Anna aufs Spiel setzen, in dem sie alleine in ein Land reist, in dem ihre Neigungen als verbrechen betrachtet werden und sie Anna alleine zurücklässt?
  3. Wird durch das Errichten neuer Großprojekte wie der Universität nicht auch noch die Ausbeutung der Leiharbeiter weiter vorangetrieben?
  4. Ist es überhaupt vertretbar, wenn Maria und Josef mit ihrer Expertise dazu beitragen, Regierungen, die die Menschenrechte missachten, zu unterstützen? Oder zementiert Maria, wenn sie sich dem Projekt verweigert, die Isolation das Landes, da sie verhindert, dass dort mehr Einfluss ausgeübt werden kann?

Erscheinen in Informatik-Spektrum 38(3), 2015, S. 249–250

Fallbeispiel: Das Assoziationsmodul

Christina Class & Rainer Rehak

Antonia hat Computerlinguistik studiert und vor einem Jahr ihre Dissertation im Bereich maschineller Übersetzung abgeschlossen. Für ihre Arbeit verwendete sie Text, der von einer Spracherkennungssoftware erzeugt wurde. Der Schwerpunkt ihrer Arbeit bestand in der Erstellung und Implementierung eines Modells, das anhand der Wortwahl positive wie negative Gefühle und Assoziationen erkennen und in der Übersetzung wiederzugeben sollte, was auch recht passabel gelang. Nach einer kleinen Auszeit hat sie dann vor sieben Monaten bei der Firma SpeechTranslate in der Entwicklungsabteilung angefangen.

First Year Creative Interests - CC BY-NC-ND Irish Typepad

First Year Creative Interests – CC BY-NC-ND Irish Typepad

SpeechTranslate wurde vor vier Jahren als Spin-Off von Antonias Doktorvater gegründet. Ein mittlerweile 14-köpfiges Team unter der Leitung ihrer Kollegin Franziska entwickelt im Auftrag verschiedener Kunden spezialisierte Übersetzungsmodule. Ein weiteres Team arbeitet an der Optimierung von Sprach- und Themenerkennung.

Antonia arbeitet in Franziskas Team daran, die bestehenden Übersetzungsmodule mit Spracherkennungsmodulen zu verbinden. Antonias Aufgabe ist es außerdem, ihr Assoziationsmodul produktreif weiterzuentwickeln und in das Übersetzungsmodul einzubinden.

SmartPhony ist ein neuer Anbieter von Smartphones, die sich laut Werbung durch eine einfache Bedienung auszeichnen. Die große Handelskette Bundle AG entwickelt gerade in Kooperation mit SmartPhony und dem Mobilfunkanbieter Violet einen neuen, innovativen Handyvertrag. Auf den Smartphones sollen spezielle kostenlose Apps vorinstalliert sein, die die Kunden regelmäßig über Sonderangebote und Preisnachlässe bei Unternehmen der Bundle AG informieren. Der Clou des Handyvertrag soll jedoch werden, dass keine Kommunikationskosten anfallen. Die Deinstallation der Bundle-AG-Apps ist zwar schwierig, soll aber dennoch ohne Folgen für den Vertrag möglich sein.

Ursprünglich hatte sich SmartPhoney von SpeechTranslate nur ein Angebot für die Entwicklung einer normalen Spracherkennungsapp für ihre Smartphonepalette erstellen lassen. Als Martin, der schneidige Produktportfoliomanager von SpeechTranslate, in einem ersten Meeting jedoch das Modul zur automatischen Erkennung von Assoziationen und Stimmungen erwähnte, war SmartPhoney gleich begeistert und initiierte, SpeechTranslate einen größeren Auftrag zu geben, der direkt mit dem neuen Handyvertrag in Zusammenhang stehen soll.

Heute findet ein erstes technisches Projektmeeting zwischen SmartPhoney und SpeechTranslate statt. Als großer Kooperationspartner ist auch Peter, ein Produktmanager der Bundle AG zugegen.

Zu Beginn des Meetings stellt Franziska die aktuellen Übersetzungs- sowie Sprachmodule vor und beschreibt deren Funktionalität im Detail. Zu beiden Modulen stellen die Vertreter von SmartPhoney und der Bundle AG einige Fragen. Insbesondere möchten sie wissen, ob es möglich ist, die Spracherkennung dauerhaft im Hintergrund laufen zu lassen und wie viele Ressourcen (Akku, Prozessorauslastung) das benötigen würde. Im Anschluss bitten sie Antonia, ihr Modul vorzustellen, wobei ihr danach sehr viele detaillierte Fragen gestellt werden. Frank, der verantwortliche Produktleiter bei SmartPhoney möchte z. B. wissen, ob es möglich wäre, nach gezielten Begriffen zu filtern und die im Zusammenhang mit diesen Begriffen auftretenden Assoziationen der gesprochenen Sprache zu erkennen und zu speichern. Franziska antwortet sichtlich interessiert, dass dies technisch durchaus möglich sei, dafür aber sicherlich einige zusätzliche Entwicklungen notwendig wären.

Nach den Diskussionen findet eine längere Pause statt. Antonia holt sich etwas Obst aus ihrem Büro, nimmt sich einen Kaffee und geht dann auf den Raucherbalkon. Der ist meistens recht leer und sie möchte nach all den Diskussionen etwas frische Luft schnappen.

Als sie sich an die Wand neben der Balkontür lehnt, hört sie die Stimme Franks, des Vertreters von SmartPhoney. „Peter, warum wolltest Du heute eigentlich mit? Die Marketingfragen hatten wir doch geklärt! Und warum sollte ich so viel über das Assoziationsmodul in Erfahrung bringen?“ Die Antwort folgt prompt: „Das ist noch sehr vertraulich, aber wir möchten gerne herausfinden, wie oft bestimmte Produkte in Telefongesprächen genannt werden – und ob dies in einem positiven oder negativen Kontext geschieht. Wir wollen das nutzen, um die Produktpalette und Preise anzupassen. Auch können wir, wenn wir die Informationen intern weitergeben, vielleicht die Preise von Lieferung und Einkauf drücken. Aber das weißt Du nicht von mir!“ Antonia hört deutlich, wie Frank scharf Luft einzieht, bevor er nach dem Schutz der Privatsphäre der Kunden fragt. Doch Peter wischt den Einwand locker beiseite; erstens würden die Kunden beim Kauf des Smartphones und Abschluss des Vertrages ja einwilligen, dass Daten durch Bundle AG erhoben und gespeichert werden. Zudem steht es den Kunden ja frei, die Apps zu deinstallieren. Außerdem würden die personalisierten Daten ja nur innerhalb der Bundle AG verwendet, wobei die Lieferanten die Daten wahrscheinlich nur in aggregierter Form erhalten sollen.

Erschrocken verlässt Antonia den Balkon und geht leise zurück in den Konferenzsaal. Sie setzt sich auf ihren Stuhl, atmet tief durch und kann trotzdem kaum einen klaren Gedanken fassen. Was sie soeben gehört hat, passt überhaupt nicht in die Firmenphilosohie von SpeechTranslate. Aber sie hat es ja nur per Zufall mitbekommen und kann es jetzt im Meeting wohl kaum ansprechen. Ob Martin ihr später überhaupt glauben würde? Und wenn schon, er hatte ihr schon mehrmals seine Ansicht mitgeteilt, dass man es sich im realen Leben nicht immer aussuchen könne, mit wem man gute Geschäfte macht.

Frage:

  • Ist es vertretbar, eine Anwendungen wie Spracherkennung immer laufen zu lassen?
  • Eine solche Anwendung würde es jemanden, der durch einen Sturz oder eine andere Situation hilflos geworden ist, ermöglichen, einfach nach Hilfe zu rufen, sofern die Software an ein Alarmsystem gekoppelt ist. Wenn die Software dies leisten könnte, wäre es dann ethisch vertretbar, eine permanente Spracherkennung durchzuführen? Wie müsste eine Aufklärung und Einwilligung von Nutzern und nahen Betroffenen aussehen?
  • Im vorliegenden Fall soll die Anwendung kommerziell genutzt werden. Ergeben sich für den Kunden hierdurch Vorteile? Welche? Welche Risiken ergeben sich; ggf. auch für Dritte?
  • Welche Möglichkeiten des Missbrauchs beinhaltet die vorgeschlagene Anwendung?
  • Welche Möglichkeiten hat Antonia, das Wissen, dass sie durch zufälliges Belauschen eines Gespräches erlangt hat, zu verwenden? Welche ethischen Probleme ergeben sich hier?
  • Gibt es eine Verpflichtung von Bundle AG, den geplanten Gebrauch des Projektes offenzulegen? Können Sie sich Kriterien für eine solche Verpflichtung vorstellen?
  • Sollte Antonia das Thema sofort im Meeting ansprechen? Warum oder warum nicht?

Erschienen in Informatik-Spektrum 38(2), 2015, S. 160–162