Die ethischen Leitlinien der GI – ein langer Weg (zur dritten Version)

Wolfgang Coy, Helmholtz-Zentrum für Kulturtechnik, HU Berlin

In ihrem historischen Selbstverständnis ist die Informatik immer noch eine Kreuzung der Theorie der Berechenbarkeit, der formalen Logik und der Mikroelektronik. Programme werden so als Abbild mathematischer Modelle verstanden; den Grundstoff bilden Algorithmen – ein Begriff, der etwas nebulös in den journalistischen Alltag diffundiert ist. Andererseits werden IT-Systeme unter engen ökonomischen Randbedingungen entwickelt, d.h. vor allem unter zeitlichen und finanziellen Randbedingungen. Die Softwaretechnik hat eine Vielzahl von Erkenntnissen in den letzten Jahrzehnten entwickelt und integriert – oft in heftigen Auseinandersetzungen und stets unter dem Eindruck, unter einer nicht enden wollenden Softwarekrise zu leiden. Gelegentliche Fantasien automatisierter Vorgehensweisen und formallogischer Korrektheitsbeweise haben nur selten und unter klaren Einschränkungen zu praktischen Ergebnissen geführt. Es gibt freilich im Hintergrund große “Paradigmen” wie Software, aber auch Hardware und IT-Systeme geplant und konstruiert werden sollten – wenn hinreichende Fähigkeiten auf ausreichende finanzielle und zeitliche Rahmenbedingungen treffen.

Dabei sind immer wieder schön formulierte, aber nicht so einfach umzusetzende Leitgedanken formuliert worden, z.B.

• „Adding manpower to a late software project makes it later.” ¹ als Antwort auf das grandiose Scheitern der ersten Version des Mainframe-Betriebssystems OS/360 der IBM.
• „Release Early, Release Often.“ als Leitmotiv der offenen Softwareentwicklung nach den Linux-Prinzipien.²

Oder Niklaus Wirths Analyse der Ungleichzeitigkeit von Software- und Hardwarefortschritten

• „Software’s girth has surpassed its functionality, largely because hardware advances make this possible. The way to streamline software lies in disciplined methodologies and a return to the essentials.“³

Technik folgt Regeln – expliziten wie impliziten. Nicht alle sind wissenschaftlicher Strenge geschuldet, manche sind eher Lebensweisheiten arbeitender Entwickler.⁴ Doch die technische Entwicklung folgt nicht nur fortschreitender Erfahrung, sie findet auch unter rechtlichen Randbedingungen statt. So gibt es Software und Hardware, deren Einsatz, Besitz oder Entwicklung nicht nur unziemlich, sondern sogar strafbewehrt ist. Einen brisanten und immer wieder umstrittenen Bereich bildet etwa Software zur Umgehung des Urheberschutzes, insbesondere zur Umgehung „technischer Maßnahmen” des DRM. Spitzfindige Informatiker mögen darüber streiten, ob Maßnahmen „wirksam“ genannt werden sollen, die umgangen werden können; Juristen streiten darüber nicht. Im § 95a UrhG „Schutz technischer Maßnahmen” heißt es u.a.:

(1) Wirksame technische Maßnahmen zum Schutz eines nach diesem Gesetz geschützten Werkes oder eines anderen nach diesem Gesetz geschützten Schutzgegenstandes dürfen ohne Zustimmung des Rechtsinhabers nicht umgangen werden …
(3) Verboten sind die Herstellung, die Einfuhr, die Verbreitung, der Verkauf, die Vermietung, die Werbung im Hinblick auf Verkauf oder Vermietung und der gewerblichen Zwecken dienende Besitz von Vorrichtungen, Erzeugnissen oder Bestandteilen sowie die Erbringung von Dienstleistungen, die
…
3.hauptsächlich entworfen, hergestellt, angepasst oder erbracht werden, um die Umgehung wirksamer technischer Maßnahmen zu ermöglichen oder zu erleichtern.

Ein anderes Beispiel ist die „Nichtgewerbsmäßige Waffenherstellung”, die nach § 26 des Waffengesetzes einer besonderen Erlaubnis bedarf – und damit Bastelaktionen am 3D-Drucker klar einschränkt.

Zwischen rechtlichen und ökonomischen Grenzen auf der einen Seite und technischen Möglichkeiten andererseits verläuft ein erheblicher Graubereich, bei dem immer wieder die Frage auftaucht: „Sollen wir das machen, weil wir es können?” Oder gibt es da vielleicht gewichtige Gründe, warum etwas nicht gemacht werden sollte. Eine ständige Auseinandersetzung ist bei werbefinanzierten Dienstleistungen zu sehen: Wieviel und welche Werbung auf den Bildschirmen darf solche Dienste begleiten? Soll und darf das aktuelle Android-Betriebssystem unaufgefordert erheblichen Speicherplatz eines Mobilfons belegen, um umfangreiche Programmen, wie z.B. Spiele zu installieren, deren dauerhafte Nutzung zusätzliche Kosten einfordert („Bloatware”)⁵ Ein anderes Feld sind Programme, die ohne funktionale Notwendigkeit die Daten der Nutzung und Nutzenden erheben, speichern und auf andere Rechner übertragen – ohne es mitzuteilen. Ähnlich gelagerte Fragen tauchen immer wieder in der Arbeitssituation der Informatik und ihrer Anwendungen auf. Und dann gibt es eine fortwährende Auseinandersetzung über Programme, die selbstständige Entscheidungen über Freiheit, Freizügigkeit, Gesundheit oder gar Tod und Leben treffen (Militärische Drohnen, Killerrobots). Solche automatisierten Waffensysteme waren schon in den achtziger Jahren heiß umstritten (U.S.-Präsident Reagans Star Wars, SS-20-Raketenrüstung und der damit verbundene NATO-Nachrüstungsbeschluss). Dahinter stehen ethische bzw. moralische Fragen, die üblicherweise nicht im technisch-mathematischen en Kernbereich der Informatik diskutiert werden.

Die Informatik ist nun keineswegs allein mit diesen Problemstellungen. Der VDI hat nach grauenvollen technischen Entwicklungen im Zweiten Weltkrieg, unter dem Eindruck von Panzern, Bombern, Gaskammern und Atombomben ein „Bekenntnis des Ingenieurs”⁶ abgelegt, das als Vorgabe künftige Ingenieursgenerationen mahnen und leiten sollte. Mit gewisser Verzögerung wurden auch in technisch-wissenschaftlichen und berufsständischen Gesellschaften, die sich weltweit um Informatik und IT gruppieren, diese Problemfelder frühzeitig diskutiert. ACM, IEEE und BCS legten Regelsysteme zu angemessenem ethisch-moralischem Verhalten vor⁷ – in unterschiedlicher Strenge und mit unterschiedlicher Schärfe bzgl. der organisatorischen Folgen bei Verstößen. Die 1969 gegründete GI bot mit dem von Klaus Brunnstein vorgeschlagenen Fachbereich 8 ›Informatik und Gesellschaft‹ eine Basis für solche Aktivitäten. Dieser trat dann aber vergleichsweise spät in die Ethik- Diskussion ein, nicht zuletzt, weil der GI-Vorstand eine von GI-Mitgliedern aus der ›Friedensbewegung‹ vorgetragene Bitte ablehnte, dem Informatik-Spektrum ein (bezahltes) Flugblatt zum Nachrüstungsbeschluss und gegen automatisierte Waffensysteme beizulegen. Solch mangelnde Kompromißbereitschaft führte 1984 zur Gründung des eigenständigen ›Forums Informatiker für Frieden und gesellschaftliche Verantwortung‹ (FifF). Innerhalb der GI war die Präsidialentscheidung durchaus umstritten – die meisten neuen FifF-Mtglieder blieben weiterhin GI-Mitglieder. Die Problemstellungen blieben auch. 1987 schloss sich auf Vorschlag von Karl-Heinz-Rödiger im FB8 ein GI-Arbeitskreis 8.3.3 ›Grenzen eines verantwortbaren Einsatzes von Informationstechnik‹ zusammen. Er umfasste Personen aus der Informatik, aber auch der Medizininformatik, Psychologie, Theologie, Soziologie und Philosophie. Das nach langem Ringen entstandene Arbeitspapier, das viele unterschiedliche Positionen aufnahm, wurde auf der GI-Jahrestagung 1988 vorgestellt⁸ – und freundlich aufgenommen.

Auf Grund der weit überwiegenden positiven Resonanz ging das Präsidium nun einen Schritt weiter. Der GI-Präsident Roland Vollmar vergab den Auftrag, einen Entwurf für eine Aussage zur Ethik der GI zu erstellen. Wiederum unter Leitung von Karl-Heinz Rödiger wurde ein Entwurf für „Ethische Leitlinien” im Arbeitskreis „Informatik und Verantwortung” erarbeitet. Die leicht veränderte Zusammensetzung gab den Leitlinien (die Idee eines Regelwerks wie bei den angelsächsischen Organisationen wurden als Konzept zu Gunsten von „Leitlinien“ verworfen) ein deutlich stärkere Betonung und auch Abgrenzung von den rechtlichen Randbedingungen. Einerseits wurde die Verankerung an den Menschenrechten und an der Menschenwürde im Sinne des Grundgesetzes gefordert, andererseits wurde Forderung nach Gesetzeskonformität betont. Bei allem Respekt vor individuellen ethischen Verankerungen sollte die Leitlinien den Ideen einer säkularen Gesellschaft verpflichtet sein. Aus einer Fokussierung auf die Arbeitswelt der Informatik wurden unterschiedliche Verpflichtungen gemäß der Rolle der Mitglieder im Arbeits- und Ausbildungsprozess betont: Eine Dreiteilung der Mitgliederschaft nach Vorgesetzten, Lehrenden und Mitgliedern, wobei an die ersten beiden Gruppen zusätzliche Anforderungen gestellt wurden. Zudem bot die GI als Selbstverpflichtung des Präsidiums an, in ethischen Konflikten eine Mittlerrolle einzunehmen.

Der Entwurf⁹ wurde vom Präsidium übernommen und den Mitgliedern zu Abstimmung vorgelegt – die ihm weit überwiegend zustimmten. Auch auf der folgenden GI-Jahrestagung wurde er diskutiert. Dort zeigte sich ebenfalls eine breite Zustimmung, es gab aber auch ernsthafte Diskussionen zum generellen Vorgehen. Nicht zuletzt der Universalität beanspruchende Ansatz, den die GI mit ihren Leitlinien verfolgte, frei von Anleihen an Regelsystem, wie sie in den Schriftreligionen über Jahrtausende ausgearbeitet wurden, gab innerhalb der IFIP der Spezial Interest Group (SIG 9.2.2) im Fachbereich ›Computers and Society‹ einen starken Impuls. Deren Sprecher Jaques Berleur, Université de Namur und Klaus Brunnstein, der damalige IFP-Präsident, verwiesen dazu auf die neu beschlossenen Leitlinien der GI.

Nachdem die Leitlinien von 1994 einige Jahre dem Alltag ausgesetzt waren, wurden problematische Aspekte sichtbar. Die ›Digitalisierung› der Gesellschaft schritt voran. Insbesondere die Öffnung des Internets und die einhergehende Globalisierung warf neue Probleme auf, die über die Arbeits- und Ausbildungswelt, die in der Fassung von 1994 im Zentrum stand, weit hinaus gingen. Und es zeigte sich ein Detailproblem: Die GI war mit dem versprochenen Willen zu klärender Mediation in Konfliktfällen schlicht überfordert. Anders als etwa die BCS hat die GI keine gewerkschaftsähnliche Funktion und letztlich auch nicht den Willen, Mitglieder zu maßregeln. Und die Leitlinien fanden nur sehr zaghaft Eingang in die Informatiklehre, was klar an der mathematisch-technischen Ausrichtung des Faches an den Universitäten und Fachhochschulen lag. Neu hinzu gekommene “Bindestrich”-Informatiken hatten ihrerseits Mühe überhaupt den Kernbereich notweniger Informatikanteile abzudecken. Einzig die wenigen Arbeitsgruppen mit dem Themenbereich ›Informatik und Gesellschaft‹ fanden vereinzelt Zugänge zu ethischen Fragen in der Lehre – und auch das nur zusätzlich zum bunten Strauß ihrer Lehraufgaben.

Um der Veralterung der Leitlinien auf Grund der technischen und gesellschaftlichen Entwicklung entgegen zu treten, beschloss der Arbeitskreis, wieder unter Leitung von K.-H. Rödiger, eine Neufassung der Leitlinien zu entwerfen. Dies führte zu einer zweiten, modifizierten Version, die 2003 im Informatik Spektrum zur Diskussion gestellt wurde.¹⁰ Die Modifikationen waren nach langen Diskussionen eher gemäßigt – stabilisierten den Text aber für weitere fünfzehn Jahre. Klar war freilich, dass die Betreuung der Leitlinien eine Daueraufgabe der GI ist und bleiben wird. Der Arbeitskreis wurde auf der GI-Jahrestagung 2003 in eine dauerhafte Fachgruppe ›Informatik und Ethik‹ im FB8 umgewandelt. Die Fachgruppe befasste sich im folgenden Jahr unter dem sanften Druck ihrer neuen Sprecherin Debora Weber-Wulff mit der Aufbereitung der Leitlinien für die Lehre. Erste Versuche, die Self-Assessment-Bögen der Communications of the ACM für ethische Fragen anzupassen, überzeugten nicht. Erst Experimente mit Diskursformen, Gesprächen in kleinen Gruppen von drei oder vier Personen lösten zwei wesentliche Aspekte: Versuche, ein schriftlich vorgegebenes ethisch-moralisches Problem zu analysieren (und einer Lösung zuzuführen) kreisten nicht in einem isolierten Kopf (der sich allzu leicht in eine einzige, möglichst schnell fixierte Lösungsstrategie verbiss), unterschiedliche Analysen und Antworten trafen auf einander und bei etwas gutem Willen kamen alle Beteiligten zu Worte. Gleichzeitig konnten Argumente auf ihren logischen und faktischen Gehalt geprüft werden – was der informatischen Tradition entgegen kam. Eine erfolgreiche Anwendung dieses Ansatzes, der unter dem Namen ›Critical thinking‹ in der angelsächsischen und skandinavischen Lehre an Schulen und Hochschulen zu finden ist, überprüfte die FG bei der Tagung des FB8 in Berlin. Rund 50 Personen wurden in Dreier und Vierergruppen eingeteilt und je mit einem möglichen Konfliktfall, der auf einer Druckseite beschrieben war, konfrontiert. Im Schnitt dauerte eine solche interne Diskussion 20-30 Minuten, wenn gleich die informatorisch geschulten Leser meist glaubten, innerhalb von 5-10 Minuten den „Fall” analysiert zu haben. Der GI-Präsident Heinrich Mayr nahm an einer der Gruppen teil – sie brauchte am Längsten um zu einer einverständlichen Fallbeschreibung mit möglichen Lösungen zu kommen.

Aus den positiven Erfahrungen mit dieser dialog-orientierten Herangehensweise entstand ein Lehrbuch zum Umgang mit ethischen Konflikten der Informatik (“Gewissensbisse – Ethische Probleme der Informatik”¹¹). 2009 startete die FG eine ständige Kolumne, die unter dem Titel Gewissensbits bis heute im Informatik-Spektrum und im Internet¹² Fälle aufarbeitet, die direkt oder modifiziert in der Lehre eingesetzt werden können. Damit liegt eine Fülle von Material vor, mit dem Seminare oder Übungen gestaltet werden können. Selbstverständlich sind die Leser des Informatik Spektrum aufgefordert, eigene Fallbeispiele über die Fachgruppe einzureichen.

Um die Leitlinien verständlicher und handhabbarer zu machen, liegt ihnen ein Glossar bei, das wichtige Begriffe erläutert. Freilich sind die Erläuterungen selber diskutierbar. Für die 2017/2018 erfolgte dritte Bearbeitung der Leitlinien hat sich die Fachgruppe unter der Leitung von Stefan Ullrich dazu entschieden, Leitlinien und Glossar nicht mehr als ein einheitliches Dokument zu beschließen, sondern als zwei getrennte Papiere vorzulegen. Damit lassen sich evt. Änderungen künftig getrennt vornehmen, da wir davon ausgehen, dass technische und gesellschaftliche Änderungen eher im Glossar zu vermerken sind.

Ansonsten hat die dritte Fassung der Leitlinien die starke Trennung unterschiedlicher Funktionen im Arbeits- und Forschungsprozess deutlich schwächer zu gestalten. Das „Mitglied in einer Führungsposition” wird nicht mehr hervorgehoben, sondern die Rolle von Arbeitsbedingungen und Organisationsstrukturen betont. Das explizite Angebote von „Mediation” wurde in weniger pointierter Form den Aufgaben der Organisation zugeordnet. „Interdisziplinäre Diskurse” werden nicht mehr gefordert, da dies ebenso wie eine „Fallsammlung“ in die laufende Arbeit der Ethik-Fachgruppe des Fachbereichs 8 eingegliedert ist. Der Abschnitt „Zivilcourage” ” wird mit den Abschnitten „Soziale Verantwortung“ und „Ermöglichung von Selbstbestimmung“ verstärkt dargestellt. Die Zahl der Artikel sank damit von 13 auf zwölf, was manche als ästhetische Note empfinden mögen.

Die Neugestaltung der Leitlinien ist nicht ohne Abstimmung mit anderen Informatik-Gesellschaften erfolgt. Der Präsident der Schweizer Informatik Gesellschaft SI Jürg Gutknecht nahm beratend an einer Sitzung teil. Don Gotterbarn von der ACM, die gleichfalls Ihren ACM Code of Ethics and Professional Conduct¹³ neu gestaltete, informierte sich über den Stand und den Prozess unserer Arbeit. Ein (fast) letzter Entwurf wurde der IFIP SIG 9.2.2 vorgestellt.

Vor der endgültigen Beschlussfassung der dritten Version der Leitlinien wurde eine Diskussionsseite im Netz eröffnet, die regen Zuspruch von GI-Mitgliedern fand – es liegen über 150 Kommentare vor¹⁴. Die Anregungen und Kritikpunkte flossen in einen Vorschlag¹⁵ für eine abschließende Präsidiumssitzung ein, die nach mehreren Stunden Beratung zu einer endgültigen Fassung führte, die schließlich am 29.Juni 2018 beschlossen wurde.¹⁶

Endnoten

¹ Brooks, Frederick P. (1975). The mythical man-month: essays on software engineering. Reading, Mass: Addison-Wesley Pub. Co.

² Raymond, Eric (1997-05-27). Release Early, Release Often. The Cathedral and the Bazaar: Musings on Linux and Open Source by an Accidental Revolutionary. http://www.catb.org/~esr/writings/cathedral-bazaar/cathedral-bazaar/ar01s04.html

³ Wirth, Niklaus – A Plea for Lean, IEEE Computer Feb.1995, p.64 ff.

⁴ wenngleich „alternative Fakten” nicht zum Arbeitsansatz mathematisch-naturwissenschaftlich begründeter Arbeitswesen gehören.

⁵ Ronald Eikenberg, Aufgeblasen, Editorial der Zeitschrift c’t 21, 2018. S. 3

⁶ „Resolution ›Die Verantwortung des Ingenieurs‹”, berichtet in: Der VDI tagte in Frankfurt, DIE ZEIT Nr. 37 vom 14. Sept. 1950, S. 8

⁷ ACM Code of Professional Conduct 1972 ff., 1997: canons (Prinzipien) – ethical considerations – disciplinary rules und 2018 ACM Code of Ethics and Professional Conduct. BCS Code of Good Practice 1972 ff. und BCS Code of Good Conduct. IEEE 1979 Code of Ethics 1979.

⁸ Wolfgang Coy, Günter Feuerstein, Rolf Günther, Werner Langenheder, Bernd Mahr, Peter Molzberger, Hartmut Przybylski, Karl-Heinz Rödiger (Sprecher), Horst Röpke, Eva Senghaas-Knobloch, Birgit Volmerg, Walter Volpert, Hellmut Weber, Herbert Wiedemann: Informatik und Verantwortung. in: Proc. GI-Jahrestagung 1988: Vernetzte und komplexe Informatik-Systeme, Bd.I S. 691-702
Auch in: Coy W. et al. (eds) Sichtweisen der Informatik. Vieweg-Verlag, 1992, S.311 ff.

⁹ Rafael Capurro, Wolfgang Coy, Herbert Damker, Bernd Lutterbeck, Hartmut Przybylski, Herrmann Rampacher, Karl-Heinz Rödiger (Sprecher), Horst Röpke, Gabriele Schade, Jürgen Seetzen, Reinhard Stransfeld, Roland Vollmar, Rudolf Wilhelm (GI-Arbeitskreis »Informatik und Verantwortung«): Ethische Leitlinien der Gesellschaft für Informatik – Vom Präsidium der GI am 13.1.1994 verabschiedet; redigierte Fassung vom 10.6.94.

¹⁰ Karl-Heinz Rödiger (Sprecher), Peter Bittner, Rafael Capurro, Wolfgang Coy, Eva Hormecker, Constanze Kurz, Britta Schinzel, Ute Twisselmann, Roland Vollmar, Karsten Weber, Alfred Winter, Cornelia Winter: Ethische Leitlinien der GI – Entwurf des Arbeitskreises ›Informatik und Verantwortung‹, Informatik Spektrum 5, Dez 2003, S.418 ff.

¹¹ Weber-Wulff, D., Class, Ch., Coy, W., Kurz,C., Zellhöfer, D.: Gewissensbisse – Ethische Probleme der Informatik, Bielefeld: transcript, 2009

¹² https://gewissensbits.gi.de am 27.9.18

¹³ ACM Code of Ethics and Professional Conduct. http://www.acm.org/code-of-ethics am 27.9.18

¹⁴ https://comments.gi.de/ethik/ am 28.9.18

¹⁵ Stefan Ullrich (Sprecher), Christina Class, Wolfgang Coy, Hannes Federrath, Hans-Jürgen Garstka, Britta Schinzel, Judith Simon, Carsten Trinitis, Debora Weber-Wulff, Klaus Wiegerling, Cornelia Winter, Roland Vollmar: Entwurf der Neufassung der Ethischen Leitlinien, Juni 2018

¹⁶ https://gi.de/ueber-uns/organisation/unsere-ethischen-leitlinien/