3.-4. Juni 2016, Tutzing: »Mündig in der smarten Welt«

Die Bedeutungsmacht der Informationstechnologien ist immens. Sie reicht vom privaten Alltag bis in die Weltpolitik. Um zu einem angemessenen Umgang mit ihnen zu gelangen, reichen technische, juristische oder moralphilosophische Kenntnisse allein nicht aus. Vielmehr gilt es, technische Expertise mit der politisch-gesellschaftlichen Dimension zu verknüpfen.

Die Akademie für Politische Bildung und die Gesellschaft für Informatik eröffnen durch diese Tagung einen Diskussionsraum, in dem sich Informatiker und Nicht-Informatiker über die Selbstbestimmung im Informationszeitalter verständigen. Ziel ist es, einerseits Nichtinformatikern ein besseres Verständnis der Materie zu vermitteln, andererseits mit Informatikern
über deren gesellschaftliche Verantwortung zu diskutieren. Neben Vorträgen und Diskussionen werden einzelne Fragestellungen in Workshops vertieft.

Wir laden Sie herzlich zu unseren Diskussionen nach Tutzing ein.

Den Einladungs-Flyer finden Sie auf den Seiten der Regionalgruppe München der GI, das Anmeldungsformular stellt die Akademie für Politische Bildung Tutzing bereit.

Fallbeispiel: Panoptikum vs. Zivilcourage

Eine Firma aus Bayern entwickelt Kamerasysteme und Software zur Videoüberwachung von öffentlichen Plätzen. Durch eine neue Funktion soll es dem System jetzt auch unter Zuhilfenahme von mehreren Mikrofonen möglich sein, verschiedene Geräusche (z. B. Schüsse) an einem Ort genau lokalisieren zu können. Dazu werden durch die Mikrofone aufgenommenen Daten auch aufgezeichnet.

Die Daten sind dabei so gut, dass sich daraus recht einfach einzelne Konversationen extrahieren lassen. Es ist nun in Echtzeit möglich, über Gesichtserkennung und eine Anfrage bei Facebook festzustellen, wer auf einem Überwachungsvideo zu sehen ist, und automatisch zu extrahieren, was die Person sagt.

Obwohl sich die Mitarbeiter der Entwicklungsfirma der Konsequenzen auf die Privatsphäre der Beobachteten bewusst sind, halten sie die Technik doch für einen wichtigen Baustein in der Verbrechensbekämpfung, da sie annehmen, dass potentielle Kriminelle innerhalb des mit Kameras ausgestatteten Bereiches abgeschreckt werden.

Aus diesem Grund bewerben Sie ihr System auch als Videoschutzsystem.

Mitarbeiter Bernd ist sich zwar im Klaren, dass durch die neue Technik nicht nur die Bewegungsprofile der Menschen gespeichert werden, sondern auch deren Konversationen für 30 Tage aufbewahrt werden. Er kann sich jedoch nicht vorstellen, dass jemand diese Daten für niedere Zwecke missbrauchen könnte. Außerdem, so denkt er, ist die Firma ja ohnehin noch so klein, dass sich niemand für die erhobenen Daten interessieren würde.

Daher, und weil das Budget für das Systembeschränkt ist, setzt er die entsprechenden Server und Datenbanksysteme, auf denen die sensiblen Daten gespeichert werden sollen, selbst auf, ohne sich vorher imDetail mit dem Thema Datensicherheit zu beschäftigen.

Nach einer 18-monatigen Testphase an zwei zentralen Plätzen und in den öffentlichen Verkehrsmitteln der Stadt soll das neue audiovisuelle Überwachungssystem nun flächendeckend in der Stadt eingesetzt werden.

Politik wie Exekutive sprechen von einem wichtigem System, das die Verbrechensrate in der Stadt bereits gesenkt hat und mit Hilfe der neuen Technik weiter senken kann (,,Unsere Erfolge geben uns recht!“). Obwohl viele Bürger der Stadt amAnfang sehr misstrauisch waren, da sie nun flächendeckend überwacht werden und sogar all ihre Konversationen gespeichert werden, haben sich die meisten doch schnell an das System gewöhnt und fühlen sichmit dem System sehr sicher.

An einem lauen Sommerabend, nach dem Ende der Testphase, fahren zwei Journalisten aus dem Ausland mit dem Bus durch das Stadtzentrum. Sie beobachten durch das Fenster, wie ein einzelner Mann rückwärts aus einem Lokal auf die Straße stolpert. Dem Mann folgen unvermittelt zwei weitere Personen mit kräftiger Statur, die den am Boden liegenden attackieren.

Die Touristen beobachten auch, dass sich umstehende Passanten, anstatt einzugreifen, zurückziehen und das Geschehen aus sicherer Entfernung beobachten, während die Täter weiterhin auf das blutend am Boden liegende Opfer einschlagen. Unter den Passanten befindet sich auch Peter, der davon ausgeht, dass die Täter problemlos mit Hilfe der Audio- und Videoaufzeichnungen identifiziert und überführt werden können.

Peter unterlässt es demnach, selbst einzugreifen, da er die Gefährdung seiner Person als unnötig einschätzt.

Die Touristen im Bus bitten indes den Busfahrer, einen Notruf abzusetzen und anzuhalten, um sie aus dem Bus zu lassen, damit sie in der Situation einschreiten können. Der Busfahrer entgegnet jedoch nur: ,,Macht Euch keine Gedanken, das ist alles auf Video. Sie werden die Täter schon finden“. Eine weitere im Bus sitzende Passantin schreit die Touristen noch an: ,,Wollt Ihr Euch umbringen, die machen doch vor Euch keinen Halt“. Im Vorbeifahren sehen sie noch den regungslosenKörper des Opfers in seinem eigenen Blut liegen.

Nach dem Vorfall wird der Polizist Karl beauftragt, die Videodaten zu sichten und herauszufinden, was genau an besagtem Abend passiert ist, und um wen es sich bei den Tätern handelt. Zuerst befragt der Polizist einige Passanten, darunter auch Peter, dessen Kontaktdaten direkt nach dem Vorfall durch eine Funkzellenabfrage ermittelt und welcher daher in Folge automatisch vorgeladen wurde. Die meisten Zeugen können sich jedoch nur noch sehr vage an den Vorfall erinnern. Sie haben das Ereignis schon verdrängt in der Annahme, dass das Geschehene doch bereits auf Video aufgezeichnet wurde. Daraufhin beantragt Karl Einsicht in die Audio- und Videoaufnahmen des Tatortes. Nach ca. zwei Wochen erfährt er jedoch, dass die Kameras an besagtem Ort zum Tatzeitpunkt anscheinend defekt waren. Aus den Tonaufnahmen kann er jedoch entnehmen, dass das Opfer in dem Lokal schon längere Zeit von den Tätern bedroht wurde. Aufgrund der fehlenden Videoaufnahmen verläuft die Ermittlung jedoch nach kurzer Zeit im Sand.

Wieder zu Hause angekommen, schreiben die beiden Journalisten einen Artikel über Zivilcourage in Deutschland, der sowohl in einer großen Zeitung als auch im Internetportal der Zeitung veröffentlicht wird. In den sozialen Medien entsteht schnell eine Diskussion über den Vorfall, der dazu führt, dass der Vorgang auch in den klassischen Medien tiefer beleuchtet wird. Es wird deutlich, dass die gefühlte Sicherheit in Wahrheit zu einer großen Unsicherheit und Gleichgültigkeit führt, da sich niemand mehr selbst in der Verantwortung sieht. Nach genauerer Analyse wird auch klar, dass sich das Verbrechen nur von den großen Plätzen an andere, nicht überwachte Orte verlagert hat. Insbesondere ist das Verbrechen an einigen dieser Orte mittlerweile so schlimm, dass sich die Bürger nicht mehr in diese Stadtviertel trauen. Auch die Polizei hat Schwierigkeiten, an den neuen Verbrechensherden die Kontrolle zu behalten.

In der Folge besteht auch großes mediales Interesse an den Entwicklern des Überwachungssystems. Diese werden sich jedoch immer mehr der Schwächen des Einsatzes der Technik bewusst. Durch ihre Technik, die die Stadt eigentlich sicherermachen sollte, ist jetzt mindestens eine Person verstorben. Bernd, der Zweifel am zufälligen Ausfall der Kamerasysteme hat, durchsucht insgeheim noch einmal die Logdateien der Datenbank und bemerkt einige Zugriffe auf die Datenbank. Könnte es sein, dass jemand die Daten gezielt gelöscht hat? Da dies jedoch auf seinen eigenen Fehler beim Design der Datenbank und der entsprechenden Zugriffsrechte zurückfallen würde, beschließt er den Fund für sich zu behalten.

Insgeheim hofft er, dass sich die mediale Aufmerksamkeit bald wieder legen wird.

Fragen

Sollte die Technik als Allheilmittel zur Lösung gesellschaftlicher Probleme gesehenwerden?

  • Wie ist mit der Datenmenge der überwachten Bevölkerung umzugehen?
  • Welche Gefahren ergeben sich dabei?
  • Welche Konsequenzen sollte Bernd nach seinem Fund eigentlich ziehen?
  • Sollte er trotz des fehlenden Budgets seine private Zeit in das Projekt stecken? Soll er die Flucht nach vorne antreten und die Presse kontaktieren?
  • Wer sollte Zugriff auf die erfassten Daten bekommen? Aufgrund welcher (richterlichen) Vorbehalte?
  • Machen sich die Passanten aufgrund der unterlassenen Hilfeleistung strafbar?
  • Hat sich dieVerantwortung von der Zivilgesellschaft zu den Überwachern verlagert?
  • Kann überhaupt noch irgend jemand zur Verantwortung gezogen werden, wenn alles der Technik überlassenwird?

Das Fallbeispiel ist im Informatik Spektrum erschienen, Band 39, Heft 1, Februar 2016, S. 82-84.

Die Ausbildung der „Eliten der Automation“

Für die FAZ habe ich mir ein paar Gedanken zum Informatik-Studium, zur Ausbildung von Schülern und zum micro:bit-Projekt der BBC gemacht:

Wenn man ehrlich auf die bundesdeutsche MINT-Realität an Schulen blickt, wird sowohl Informatik als auch Technik de facto kaum unterrichtet, erst recht zu wenig mit spannenden Projekten, die das Zeug hätten, mehr Studenten in die technischen Fächer der Universitäten zu locken. Vielerorts wird allen Ernstes in den Schulen nur der Umgang mit gängiger Office-Software gelehrt, nicht aber grundlegendes Informatik-Verständnis.

bbc micro:bitMich hat das micro:bit-Projekt auch deswegen begeistert, weil es auf so einfache Weise Zugang zu informatischen Welten eröffnet. Wer ein wenig mehr über micro:bit erfahren möchte, das die BBC in Zusammenarbeit mit Google, Microsoft, Samsung, der British Computing Society und weiteren Unterstützern auf den Weg gebracht hat: hier entlang, mit weiteren Links.

Es geht mir in dem Artikel auch um die Wahrnehmung der universitären Informatik und darum, ob ein angehender Informatiker im Studium eigentlich angeleitet wird, technische Projekte und Entwicklungen kritisch zu beurteilen, um sein Handeln später in verantwortungsvoller Weise ausführen zu können. Es wird wohl wenig überraschen, dass ich finde, dass das im Studium zu kurz kommt.

Bildlizenz: CC BY-SA 2.0, via flickr/Les Pounder

Man kann nicht so schräg denken, wie es kommt

Im Fallbeispiel „Data Mining für Public Health“ haben wir rumgesponnen, was die Krankenkassen so alles mit unsere Daten anstellen können. Die Apotheker haben sich wohl inspirieren lasen: Weitergabe von Rezeptdaten.

 

Fallbeispiel: Das selbstfahrende Auto

Sie haben sich seit Jahren darauf vorbereitet. Visionen der 50er Jahre eines selbstfahrenden Autos werden wirklich wahr. Galene, haben sie ihre Entwicklung, das selbstfahrende Auto, getauft, und es ist auf dem Testgelände fantastisch gefahren. Auch bei Testfahrten in Amerika – dazu musste Galene verschifft werden – lief alles prima. In den USA gibt es nicht so viele Vorschriften, und es gibt unendlich weite Straßen, auf denen man gute Sicht hat und viel ausprobieren kann.

In Deutschland war alles komplizierter und es hat länger gedauert, um die Genehmigung für Testfahrten im Straßenverkehr zu erhalten, aber diese lag nun vor. Morgen war die Presse für die breit angekündigte „Jungfernfahrt“ eingeladen. Jürgen, einer der stolzen „Eltern“ von Galene, will sie nach Absprache mit dem Teamleiter erst einmal so ohne Pressetrubel auf der geplanten Strecke fahren lassen, um sicher zu sein, dass alles klappt. Als guter Ingenieur hat er die Strecke mit Bedacht ausgewählt. Es ist Sonntagnachmittag, da ist auf diesen Straßen wenig Verkehr. Und er selber sitzt ja auch hinterm Steuer undkannnotfalls eingreifen, wenn etwas sein sollte. Er ist sich sicher, dass er nicht auffallen und evtl. andere Autofahrer oder Passanten irritieren wird.

Er gibt das Ziel mündlich im Sprachcomputer ein. Galene bestätigt das Ziel, und berechnet den Weg unter Berücksichtigung der aktuellen Verkehrsnachrichten, den bekannten Baustellen und der Wettervorhersage. Alles ist ruhig, keine Baustellen im Weg, kein Regen oder Nebel aber etwas Wind: ein sonniger Herbsttag und der perfekte Tag für eine erste Testfahrt!

Jürgen genießt die Fahrt auf der ihm wohl bekannten Strecke. Es ist schon ein tolles Gefühl, sich fahren zu lassen, obwohl es immer noch sehr ungewohnt ist, kein Gas zu geben, nicht zu bremsen und nicht zu steuern. Galene fädelt auf der Stadtautobahn perfekt ein, überholt einen Oldtimer, und fährt an der nächste Ausfahrt wieder raus, sanft an der Ampel anhaltend. Galene hält dabei immer genügend Abstand zum Vordermann ein. Die Steuerung ist so präzise, dass sie bis auf einen Zentimeter heranfahren könnte, um hinter dem Vordermann anzuhalten. Aber das macht andere Verkehrsteilnehmer unnötig nervös, und so haben sie Galene auf 40 cm Abstand programmiert.

Jürgen würde gerne mit seinem Handy filmen, wie er die grüne Welle bekommt und dann an der dritten Ampel links abbiegt – er war sich nicht ganz sicher, ob Galene das alles korrekt berechnen würde, aber es hat perfekt geklappt. Da er für die anderen Autofahrer den Anschein aufrecht halten muss als fahre er das Auto, kann er schlecht mit dem Handy filmen. Sie kommen in ein neueres Wohnviertel und Galene bremst auf die vorgeschriebenen 30 km/h runter. Links ist eine Schule, auf beiden Seiten befinden sich Bushaltestellen für die Schulbusse. Sie haben viel Zeit darauf verwendet, Galene auf solche Verkehrssituationen vorzubereiten.

Aber zum Glück sind je gerade Herbstferien. Rechts kommen sie an einem Park mit großen Rasenflächen vorbei. Er hört Kindergeschrei und blickt nach rechts. Jürgen sieht Hunde tollen, bunte Bälle auf der Wiese und noch buntere Drachen in der Luft fliegen. Sie bewegen sich mit dem Wind in seine Richtung. Jürgen greift instinktiv zum Steuer, er ist sich bewusst, dass Kinder beim Spielen nicht auf den Verkehr achten.

Gerade zu Beginn hat er das öfter erlebt: er wurde nervös, griff zum Steuer und drückte den Knopf, um die Kontrolle zu übernehmen. Aber es war nie notwendig und so lernte er, entspannt zu bleiben und Galene die Kontrolle zu überlassen. Und plötzlich passiert es: Ein Kind rennt mit seinem Drachen zwischen zwei parkenden Autos auf die Straße und wird von Galene erfasst. Es stürzt bewusstlos zu Boden.

Galene bremst sofort, da die Sensoren den Aufprall erfasst haben. Jürgen zieht gleichzeitig den Nothaltknopf. Galene steht, der Warnblinker ist eingeschaltet. Jürgen steigt aus und rennt zum Kind, die Mutter kommt dazu und schreit Jürgen an. Eine junge Frau steigt aus dem Auto, das hinter Jürgen gefahren ist und leistet erste Hilfe. Sie sagt, sie sei Krankenschwester.

Ein Hundebesitzer aus dem Park hat schon den Notruf abgesetzt, der Krankenwagen ist schnell da und fährt das Kind mit seiner Mutter mit Blaulicht in das nächstgelegene Krankenhaus. Auch die Polizei ist da, um den Unfall aufzunehmen. Jürgen steht ziemlich unter Schock. Die junge Frau, die erste Hilfe geleistet hat, wendet sich sofort an die Polizei, noch bevor diese Jürgen befragen kann. Ihr Name sei Sabine und sie
sei hinter dem Unfallauto gefahren. Ihrer Meinung nach sei es zu schnell gefahren. Sie selber sei viel langsamer als 30 gefahren, bei all dem Kindergeschrei aus dem Park, den Hunden,
Bällen und Drachen musste man ja mit sowas rechnen!

Die Polizisten bitten Jürgen, sich auszuweisen. Er gibt ihnen den Personalausweis, Führerschein, sowie die Betriebserlaubnis für Testfahrten. Die Polizisten sind erstaunt und stellen einige Fragen zum Auto, sie sind neugierig. Da es sich um Testfahrten handelt und das Auto nicht generell zugelassen ist, wollen sie Galene in jedem Fall abschleppen lassen, umgenauere Untersuchungen anzustellen, insbesondere auch um Daten für die Auswertung auszulesen. Jürgen weiß, dass Galene korrekt gefahren ist, aber der Vorwurf der Zeugin Sabine macht ihn trotzdem nachdenklich. Die Probefahrt und Pressekonferenz am nächsten Nachmittag sind gefährdet. Ein PR Desaster, vor allen Dingen nach diesem Unfall!

Fragen

– Das Auto hatte eine offizielle Betriebserlaubnis für Testfahrten. War es in Ordnung, vor der offiziellen Probefahrt, eine Testfahrt durchzuführen?

– Flugzeugpiloten müssen immer wieder ein Training absolvieren, um im Notfall schnell genug zu reagieren und die Kontrolle vom Autopiloten zu übernehmen. Wird ein solches Training auch bei selbstfahrenden Autos notwendig sein? Durfte Jürgen sich während der Probefahrt so entspannt zurücklehnen?

– Als Jürgen die Kinder im Park sah, griff er instinktiv zum Lenkrad. Müsste er als Fahrer in einer solchen Situation, in der er mit auf die Straße rennenden Kindern rechnete, die Kontrolle über das Fahrzeug übernehmen?

– Galene fuhr die vorgeschriebene Geschwindigkeit von 30 km/h. Die Zeugin machte denVorwurf, das sei bei den vielen Kindern im Park zu schnell gewesen. Inwiefern kann und soll eine Anpassung der Geschwindigkeit an Gegebenheiten, die neben der Straße stattfinden, in Algorithmen abgebildet werden?

– Es kann immer wieder zu Unfällen kommen, weil Unvorhergesehenes passiert: ein Kind rennt auf die Straße, Wildwechsel, ein Ast stürzt auf die Fahrbahn. Oft ist es das schnelle Reaktionsvermögen des Fahrers oder ein instinktives Zögern, das Schlimmeres verhindert. Sollten Algorithmen versuchen, eine Art Instinkt abzubilden? Inwiefern können selbstlernende Systeme hilfreich sein?

– Manchmal kommt es auch zu Auffahrunfällen, wenn sich ein Fahrer „zu korrekt“ verhält, z. B. an einer viel befahrene Straße bei gelb an der Ampel hält oder bei einer unübersichtlichen Kurve nach einer Schnellstraßenausfahrt die Geschwindigkeitsbegrenzung exakt einhält. Sollten man in selbstfahrende Autos, die darauf programmiert sind, sich so korrekt zu verhalten, eine gewisse Unschärfe im Umgang mit Verkehrsregeln einbauen, je nachdem wie sich die vorausfahrenden bzw. hinterherfahrenden Autos verhalten?

– Es wird kaum möglich sein, in Tests alle möglichen Fälle abzudecken. Daher kann es vorkommen, dass die Software von selbstfahrenden Autos falsch reagiert.Wer ist dann zur Verantwortung zu ziehen? Die Entwickler? Die Hersteller? Der Fahrer, der für den Fall der Fälle im Auto sitzt? Oder werden wir solche Fälle hinnehmen, da die Autos in anderen Fällen größere Sicherheit versprechen? Wo können dann aber die Grenzen gezogen werden?

– Wie und wann werden Software Updates bei selbstfahrenden Autos durchgeführt? Nur in der Werkstatt, oder wenn das Auto gerade steht? Wer kontrolliert, ob und wann ein Update durchgeführt werden soll? Und wie sieht die Situation aus, wenn ein Unfall durch ein nicht durchgeführtes Update wahrscheinlich hätte verhindert werden können? Wer übernimmt dann die Verantwortung?


Das Fallbeispiel ist im Informatik Spektrum erschienen, Band 38, Heft 6, Dezember 2015, S. 575-577.

Informationelle Mü(n)digkeit

Über die unbequeme Selbstbestimmung. Beitrag von Stefan Ullrich in der Zeitschrift Datenschutz und Datensicherheit 10/2014. Ein Jahr nach seinem Erscheinen nun hier im Volltext verfügbar.

Die technische Umsetzung sowie die politische Einforderung der informationellen Selbstbestimmung sind mühsam, die Nutzung informationstechnischer Artefakte hingegen bequem. Den Technikern fällt somit eine gesellschaftliche Verantwortung zu, die sie stärker als je zuvor wahrnehmen müssen.

Informationelle Mü(n)digkeit – Stefan Ullrich (PDF, 352 KB)

Drohnen – Jahrestagung 15.-16. 10. 2015 in Berlin

Im Geheimdienstbefugnisklärungsausschuss des Deutschen Bundestags taucht am Rande immer wieder auf, was der Ex-Geheimdienstler Michael Hayden so drastisch ausdrückte: Wir töten Menschen auf der Basis von Meta-Daten. Der nicht mehr ganz so geheime Drohnenkrieg der militärisch stärksten Staaten zeigt in erschreckender Weise, welch zentrale Rolle Technikerinnen und Techniker in der Schönen Neuen (Gewalt-)Welt einnehmen.

Algorithmen entscheiden in autonomen Systemen über Wohl und Wehe einer Person, weisen dem inkommensurablen Menschen einen Wert zu, der Vergleiche, Optimierungen und im Zweifel eben: Auslöschungen erlaubt.

Unsere Fachgruppe lädt Sie und Euch ein, mit uns erneut über die Verantwortung der Informatikerinnen und Informatiker zu diskutieren.

Verkörperung von Algorithmen: Drohnen
15. Oktober, 14 Uhr bis 16. Oktober 2015, 16 Uhr
Humboldt-Universität zu Berlin
Senatssaal, Unter den Linden 6, 10099 Berlin

Die Teilnahme ist kostenlos, um Anmeldung unter drohnen@turing-galaxis.de wird freundlich gebeten.

Beiträge und Programmänderungen können der Tagungs-Website entnommen werden.

Auf ein Wort

Wie würden Sie entscheiden?« – Dieser Satz bezieht sich, wie Sie im Anriss gerade gelesen haben, normalerweise auf ethische Fallbeispiele, die zu moralischer Reflexion und angeregter Diskussion anregen sollen. Die Beispiele sind fiktiver Natur, sie spielen mit Möglichkeiten, sie sind mit der Einleitung »was wäre, wenn…?« zu lesen. Was uns als Autoren zunächst amüsiert hat, inzwischen aber nachhaltig schockiert: Egal wie zugespitzt wir die Geschichten formulieren, so finden sich in der Presse stets sehr ähnliche Ereignisse oder Skandale, die tatsächlich wider Erwarten eingetreten sind. Im Netz gibt es das schöne Bonmot: »Orwells 1984 war nicht als Blaupause für die Wirklichkeit gedacht«.

»Wie würden Sie entscheiden?« würden wir diesmal gern als Grundsatzfrage stellen. Rufen Sie sich in Erinnerung: Sie sind die Architekten der Informationsgesellschaft, Sie stellen die Bauelemente der Turing’schen Galaxis her, Sie riefen die informationstechnischen Geister, die wir nun nicht mehr los werden (können oder wollen). Würden Sie sich noch einmal so entscheiden und beispielsweise Software programmieren?

Die jung und verspielt wirkende Informatik ist längst erwachsen geworden – und doch handeln viele ihrer Vertreter wie digital Naive, da hilft es auch nichts, dass in Sonntagsreden und Nachrufen auf Informatikpioniere immer wieder auf die Verantwortung des Technikwissenschaftlers hingewiesen wird. Das Erschreckende hierbei: Bereits vor dreißig Jahren warnten weitsichtige Informatiker wie Klaus Brunnstein, Joseph Weizenbaum oder Andreas Pfitzmann vor den nun zu beobachteten Fehlentwicklungen der Informatik. »Big Data« degradiert die Wissenschaft Informatik zu einer Korrelationssuchmaschine; »Biometrie« weist dem inkommensurablen Menschen plötzlich eine Prozentzahl zu; die als »Robotik« getarnte Kriegsbegeisterung ist einfach nur noch erschreckend. Doch nicht nur das Individuum, auch die offene Gesellschaft wird massiv mit Hilfe von informationstechnischen Systemen angegriffen, beispielsweise durch die vollständige Unterminierung der Mündigkeit des Nutzers, der schon längst Benutzter ist. Nicht zuletzt sollte auf die Beihilfe zu Drohnen-Morden hingewiesen werden, etwa durch Bilderkennungsalgorithmen oder unfreiwillig bereitgestellte Verkehrs- und andere Log-Daten, die als Zielkoordinaten dienen können.

Versuchen Sie, wenn es Ihnen möglich ist, diese Zeilen nicht als kulturkritische Verfallsgeschichte oder Technophobie zu lesen, sondern als erneuten Anreiz, Ihr eigenes Handeln zu hinterfragen. Insofern sind die üblicherweise an dieser Stelle gedruckten Fallbeispiele bequemer, weil Sie die aufgeworfenen Probleme aus sicherer Distanz betrachten können. Doch es sind nun einmal Techniker wie Sie, die Stück für Stück dazu beitragen, die Welt im Wortsinn berechenbarer zu gestalten, sei es als Nutzer oder insbesondere als Entwickler informationstechnischer Systeme.

Fragen an Sie als Nutzer informationstechnischer Systeme

  • Ist Ihr (Arbeits-)Gerät sozial verträglich hergestellt?
  • Haben Sie in den Quelltext der von Ihnen verwendeten Software geschaut?
  • Geben Sie URLs direkt ein oder suchen Sie in einer Suchmaschine (oder Omnibox) danach?
  • Kennen Sie den Stromverbrauch eines kleineren Rechenzentrums?
  • Haben Sie von Ihrem Gewährleistungsrecht auf integre und vertrauliche informationstechnische Systeme Gebrauch gemacht?

Fragen an Sie als Entwickler

  • Trägt die von Ihnen entwickelte Systemkomponente dazu bei, dass Menschen zu Schaden kommen?
  • Haben Sie die obige Frage ehrlich beantwortet?
  • Wie können Sie Ihre Aussage belegen?
  • Finden Sie, dass dieser Text zu undifferenziert ist?
  • Wenn Sie sich nicht angesprochen fühlen, warum ärgert Sie dieser Text?

Gemeinsame Pressemitteilung der Fachgruppe Informatik und Ethik der Gesellschaft für Informatik (GI e.V.) und des Forums InformatikerInnen für Frieden und gesellschaftliche Verantwortung (FIfF e.V.) zum Ermittlungsverfahren gegen netzpolitik.org

Die Fachgruppe Informatik und Ethik der Gesellschaft für Informatik (@gewissensbits) und das Forum InformatikerInnen für Frieden und gesellschaftliche Verantwortung (fiff.de) missbilligen das juristische Vorgehen von Verfassungsschutz, Generalbundesanwalt und Bundesjustizministerium gegen ein Presseorgan. Sie fordern klare Stellungnahmen und Positionierungen von allen Regierungsministerien. Die Mitglieder beider Vereinigungen sehen sich verpflichtet, allgemeine moralische Prinzipien, wie sie in der Allgemeinen Deklaration der Menschenrechte formuliert sind, zu wahren. Zu diesen essentiellen Rechten gehören die Meinungs- und Pressefreiheit sowie die Freiheit, mit Zivilcourage gegen offenkundige Missstände einzutreten. »Die Geschichtsvergessenheit ist mit das Erschreckendste am Verfahren gegen netzpolitik.org«, empört sich der Sprecher der GI-Fachgruppe Informatik und Ethik, Stefan Ullrich. »Als die Wochenzeitschrift Weltbühne die heimliche, rechtswidrige Aufrüstung der Deutschen Luftwaffe 1929 öffentlich machte, wurden Herausgeber und Informanten wegen Landesverrats verurteilt. Nun erleben wir, wie mit der Berichterstattung an einem heimlichen, moralisch fragwürdigen Wettrüsten im Cyberspace umgegangen wird: Mit einer Ermittlung wegen Landesverrats.«

Die Informationsgesellschaft erwartet von Informatikerinnen und Informatikern, eine ihrer Gestaltungsmacht angemessene individuelle und gemeinschaftliche Verantwortung zu tragen. Für die Herausbildung der dazu notwendigen Urteilkraft jedoch ist eine unabhängige, engagierte Presse unabdingbar, eine Presse, die schon längst nicht mehr mit Bleilettern hantiert, sondern vorwiegend digitale Medien nutzt. Das FIfF-Vorstandsmitglied Rainer Rehak kritisiert: »Die Integrität und Vertraulichkeit informationstechnischer Systeme wird systematisch und mit voller Absicht von geheim operierenden Diensten im Auftrag verschiedener Staaten unterminiert; doch nicht gegen die für die Grundrechtsverletzungen Verantwortlichen, sondern gegen die darüber berichtenden Journalisten wird ermittelt.«

Das Ermittlungsverfahren des Generalbundesanwalts wurde aufgrund der Berichterstattung von netzpolitik.org angestoßen, die wir hier prominent noch einmal verlinken wollen:

(Die von netzpolitik veröffentlichten Dokumente werden unter http://landesverrat.org/ gespiegelt.)

Die Fachgruppe Informatik und Ethik der Gesellschaft für Informatik und das Forum InformatikerInnen für Frieden und gesellschaftliche Verantwortung rufen die politisch Verantwortlichen zur Raison sowie ihre Mitglieder zur erneuten Lektüre der höchstrichterlichen Grundsatzurteile auf.

Berlin, den 3. August 2015

Fallbeispiel: Menschenrechte

Maria ist als wissenschaftliche Mitarbeiterin in einem befristeten Projekt, das an ihrer Universität eingeworben wurde, beschäftigt und arbeitet dort seit eineinhalb Jahren an ihrer Promotion im Fach Informatik. Da das Forschungsprojekt in einem Monat ausläuft, muss Maria, um ihre Promotion erfolgreich abschließen zu können, über ein anderes Projekt finanziert werden. Maria ist eigentlich fest liiert mit einer Frau, Anna. Sie möchte Anna nicht so lange alleine lassen, da Anna Diabetikerin ist. Und sie ist sich sicher, nicht mit Anna zusammen dorthin fahren zu können.

Im vergangenen Jahr ist ihre Universität eine neue Kooperation eingegangen, und zwar mit einer neu aus der Taufe gehobenen Universität in einem mit Ölvorkommen gesegneten fernöstlichen Land. Das Gute daran: Damit stehen ausreichend finanzielle Mittel zur Verfügung, aus denen auch Marias Stelle bis zum erfolgreichen Abschluss ihrer Promotion gesichert werden könnte. Auch in fachlicher Hinsicht decken sich die Projektziele sehr gut mit denen ihres Promotionsthemas.

Die entsprechende Kooperation ist aber an Bedingungen geknüpft: Die Projektmitarbeiter müssen regelmäßig zum ausländischen Kooperationspartner reisen, mindestens zwei von ihnen sogar für mehrere Monate am Stück innerhalb von drei Jahren. Der Campus der neu errichteten Universität verfügt neben modernster technischer Ausstattung auch über zahlreiche Freizeitmöglichkeiten und kostenlose Verpflegung – kurzum: Geld spielt keine Rolle, um hier ideale Forschungsbedingungen zu schaffen. Auf diese Weise will die dortige Regierung Vorsorge für die Zeit „nach dem Öl“ treffen und Spitzenforscher aus aller Welt anlocken.

Das Land, in dem die neue Universität entsteht, ist neben seinem Reichtum jedoch auch dafür bekannt, dass dort elementare Menschenrechte missachtet werden. Die Meinungsfreiheit ist in letzter Zeit massiv eingeschränkt worden. Eine sogenannte Religionspolizei wacht streng über die Einhaltung der Gesetze. Auf tatsächliche oder vermeintliche Vergehen wie Ehebruch, Verschwörung, Sabotage, Hexerei oder Abfall vom Glauben steht die Todesstrafe, die häufig als öffentliche Enthauptung vollstreckt wird. Frauen dürfen ohne Zustimmung eines Mannes weder arbeiten noch Verträge unterzeichnen. Auch Auto fahren oder ohne Begleitung eines männlichen Verwandten ins Ausland zu reisen, ist Frauen untersagt. Sogar Vergewaltigungen in Ehegemeinschaften sind per Gesetz erlaubt.

Dagegen gelten gleichgeschlechtliche Partnerschaften als kriminelle Handlung und werden mit drakonischen Strafen geahndet. Da das Land über sehr hohe Finanzmittel verfügt, entstehen überall repräsentative Bauten, die von billigen Leiharbeitern – meist aus Drittweltländern – errichtet werden. Diese Leiharbeiter verfügen über so gut wie keinerlei Rechte und werden mehr oder weniger wie Leibeigene der Bauherren behandelt.

Doch innerhalb des Campus der neuen Universität gelten diese nach westlichen Maßstäben mittelalterlich anmutenden Gesetze nicht. Schließlich will man ja die besten Forscher (womöglich sogar Forscherinnen) aus dem Westen anzulocken und vor Ort eine liberale Atmosphäre zu schaffen.

Maria hat Skrupel, die Stelle anzunehmen. Da man normalerweise nur in Begleitung eines Mannes in das Land einreisen darf, ist nicht daran zu denken, dass Maria jemals mit Anna dorthin reisen kann. Die Situation vor Ort erscheint ihr unerträglich, und sie fürchtet, als Frau vor Ort massiv in ihren Freiheiten eingeschränkt zu sein. Wie soll sie ihren eigenen persönlichen Nutzen, den ihr das neue Projekt zweifelsohne bringen würde, mit ihrem Gewissen vereinbaren: Schließlich würde sie durch ihre Arbeit, in gewisser Weise doch auch das Regime vor Ort unterstützen und damit auch dessen Ablehnung rechtsstaatlicher Prinzipien.

Marias Kollege Josef, mit dem sie seit Beginn ihrer Promotion intensiv zusammenarbeitet und die gemeinsamen Ergebnisse veröffentlicht, sieht dies anders. Josefs Stelle ist bereits über das neue Projekt verlängert worden, der erfolgreiche Abschluss seiner Promotion hängt jedoch davon ab, ob Maria beim neuen Projekt zusagt und für einige Monate dort hingeht. Josef kann Marias Bedenken nicht nachvollziehen: Zum einen hat er noch nie auch nur annähernd so gute Forschungsbedingungen vorgefunden. Zum anderen, so versucht er Maria zu beruhigen, kann man das Projekt mit der neuen Universität doch auch als wichtigen Schritt in die richtige Richtung interpretieren: Durch die Präsenz von Forschern aus westlichen Kulturen werde es, das ist seine feste Überzeugung, eine Initialzündung zur Liberalisierung des in Sachen Menschenrechte noch immer rückständigen Landes geben.

Fragen:

In diesem Szenario geht es um eine grundsätzliche ethische Fragestellung, die häufig in technischen Berufen und besonders in der Informatik auftritt.

  1. Für Maria und Josef hängt der erfolgreiche Abschluss ihrer Promotionen von der Mitarbeit in dem Projekt ab. Die Finanzierung des Projektes kommt von der Regierung eines Staates, der elementare Menschenrechte eklatant missachtet. Soll Maria, um ihre Promotion erfolgreich abzuschließen, diese Tatsache ignorieren, oder soll sie ihrem Gewissen folgen und damit ihre und auch Josefs Promotion aufs Spiel setzen?
  2. Soll Maria ihrer Karriere zuliebe die Beziehung zu ihrer Partnerin Anna aufs Spiel setzen, in dem sie alleine in ein Land reist, in dem ihre Neigungen als verbrechen betrachtet werden und sie Anna alleine zurücklässt?
  3. Wird durch das Errichten neuer Großprojekte wie der Universität nicht auch noch die Ausbeutung der Leiharbeiter weiter vorangetrieben?
  4. Ist es überhaupt vertretbar, wenn Maria und Josef mit ihrer Expertise dazu beitragen, Regierungen, die die Menschenrechte missachten, zu unterstützen? Oder zementiert Maria, wenn sie sich dem Projekt verweigert, die Isolation das Landes, da sie verhindert, dass dort mehr Einfluss ausgeübt werden kann?

C. Trinitas / U. Münch

Erscheinen Informatik-Spektrum 38(3), 2015