Carsten Trinitis, Stefan Ullrich, Christina B. Class, Otto Obert, Gudrun Schiedermeier & Debora Weber-Wulff
New tools, new rules? Ist es nötig, die ethischen Leitlinien der Gesellschaft für Informatik in Zeiten generativer KI zu überarbeiten? Eine Bestandsaufnahme.
Wie wollen wir als Gesellschaft für Informatik (GI) agieren? Auf welche Werte können wir uns verständigen? Diese Frage treibt den Verein schon seit Jahren um. Zuletzt überarbeitete die Fachgruppe Informatik und Ethik der GI 2017/2018 die ethischen Leitlinien der GI unter der Leitung von Stefan Ullrich, dem damaligen Sprecher der Fachgruppe. Um allen Interessierten eine Beteiligung zu ermöglichen, wurde eine Diskussionsseite eröffnet.
Etwa 150 Anregungen und Kommentare gingen ein, die in der Gruppe eingehend diskutiert wurden. Eine wichtige Frage war, ob in dieser aktualisierten Version der Leitlinien konkrete Techniken und Teilgebiete der Informatik wie etwa KI genannt werden sollen – man entschied sich klar dagegen. Konsens war, die Leitlinien allgemein zu halten. Man muss und sollte daher keine Technologie gesondert herausgreifen, um den allgemeinen Anspruch nicht zu verwässern.
Heute sind Diskussionen rund um KI, insbesondere in ihrer generativen Form, in allen Feuilletons und auf jeder Social-Media-Plattform zu verfolgen. Nur logisch also, auch die Leitlinien der GI einer erneuten Prüfung zu unterziehen und dabei die Fragen zu stellen, die sich speziell um den Einsatz und die Entwicklung von KI-Lösungen drehen. Wer sich mit der Geschichte der Informatik auseinandersetzt, weiß zudem, dass diese Fragen die Fachleute schon deutlich länger beschäftigt haben. Am Ende des Kapitels „Künstliche Intelligenz“ seines Buches „Die Macht der Computer und die Ohnmacht der Vernunft“ schreibt Joseph Weizenbaum: „Der Schluß, der sich mir aufdrängt, ist hier, daß die relevanten Probleme weder technischer noch mathematischer, sondern ethischer Natur sind. Sie können nicht dadurch gelöst werden, daß man Fragen stellt, die mit ‚können‘ beginnen. Die Grenzen in der Anwendung von Computern lassen sich letztlich nur als Sätze angeben, in denen das Wort ‚sollten‘ vorkommt.“
Bereits heute beinhalten die ethischen Leitlinien der GI viele Aspekte, die direkt auf KI-Systeme anwendbar sind. Schon in der Präambel verpflichten sich die Mitglieder der GI dazu, die Menschenwürde zu achten und zu schützen und das Recht auf informationelle Selbstbestimmung zu befördern. Bereits hieraus ergeben sich Fragen, die sich Informatikfachleute vor Entwicklung und Einsatz von IT-Systemen stellen müssen. Insbesondere dürfen diese soziotechnischen Systeme und aktuellen Entwicklungen nicht isoliert betrachtet werden, sondern mit Blick auf Einsatz und Auswirkungen auf Menschen und Umwelt.
Artikel 1 fordert, sich den Stand von Wissenschaft und Technik anzueignen und zu berücksichtigen. Aus Artikel 2 ergibt sich, „Auswirkungen von IT-Systemen im Anwendungsumfeld“ zu beurteilen und „geeignete Lösungen“ vorzuschlagen, daneben die „einschlägigen rechtlichen Regelungen“ zu kennen und zu beachten, und die Bereitschaft, „das eigene und das gemeinschaftliche Handeln im gesellschaftlichen Diskurs kritisch zu hinterfragen und zu bewerten sowie die Grenzen der eigenen Urteilsfähigkeit zu erkennen“.
Artikel 10 fordert, „zur Verbesserung der lokalen und globalen Lebensbedingungen“ beizutragen, „Verantwortung für die sozialen und gesellschaftlichen Auswirkungen“ zu tragen und zu „sozial verträglicher und nachhaltiger Verwendung [von IT-Systemen]“ beizutragen.
Artikel 11 fordert dazu auf, „die von IT-Systemen Betroffenen an der Gestaltung dieser Systeme und deren Nutzungsbedingungen angemessen zu beteiligen. Dies gilt insbesondere für Systeme, die zur Beeinflussung, Kontrolle und Überwachung der Betroffenen verwendet werden können“.
Wenn die Leitlinien auch technologieneutral gehalten sind, so werden im Hinblick auf KI neue Fragen aufgeworfen. „Von IT-Systemen betroffen“ sind ausnahmslos alle, deren Daten im Internet gelandet sind, ob sie es wollten oder nicht, ohne jedoch ausreichende Möglichkeiten zur Mitgestaltung eingeräumt zu bekommen. Zudem droht ein Kontrollverlust durch Delegieren von Aufgaben an eine KI, deren interne Arbeitsweise möglicherweise nur noch von wenigen Fachleuten durchschaut wird. Die ethischen Leitlinien der GI verpflichten Informatikfachleute in diesem Fall, den Entwurf von KI-Systemen besonders aufmerksam zu beobachten, um zu verhindern, dass wichtige Entscheidungen automatisiert und ohne ausreichende menschliche Aufsicht getroffen werden.
Klarer Schluss: Die ethischen Leitlinien der GI sind genauso spezifisch auf KI-Systeme anwendbar wie allgemein auf IT-Systeme auch. Sie sind keine Checkliste, sondern erfordern eine ständige Auseinandersetzung mit der Materie. Dazu sind umfassende Bildungs- und Informationsinitiativen nötig, die darauf abzielen, das Verständnis für KI und ihre Auswirkungen in der breiten Bevölkerung zu fördern. Die Werte hinter den Leitlinien und die geforderte Haltung geben eine klare Orientierung. Nun ist nur noch der eigene Mut erforderlich, um Systeme kritisch zu hinterfragen.
Im Feld der KI beobachten wir, dass auch solche Systeme entwickelt und mit Wagniskapital versorgt werden, die Menschen diskriminieren, entmündigen oder das soziale und menschliche Miteinander infrage stellen. Besonders Informatikfachleute sind daher dazu aufgerufen, „Stop!“ zu sagen zur Entwicklung von Systemen, die die Auswirkungen auf Mensch, Gesellschaft und Umwelt nicht beachten. Dies betrifft potenziell alle informationstechnischen Systeme – auch und gerade diejenigen, die auf KI basieren und deren zugrunde liegenden Techniken, Methoden und Lösungsstrategien erst noch entwickelt werden.
Erschienen in .inf 11, Das Informatik-Magazin, Herbst 2025
Über die Autorinnen und Autoren
Carsten Trinitis ist Professor für Rechnerarchitektur und Betriebssysteme an der TU München, Campus Heilbronn und stellvertretender Sprecher der Fachgruppe Informatik und Ethik der GI.
Stefan Ullrich ist promovierter Informatiker und Philosoph, der sich kritisch mit den Auswirkungen der allgegenwärtigen informationstechnischen Systeme auf die Gesellschaft beschäftigt.
Christina B. Class ist seit 2017 Professorin für Informatik an der EAH Jena und stellvertretende Sprecherin des Fachbereichs Informatik und Gesellschaft der GI.
Otto Obert ist auf den Gebieten der Digitalethik und KI-Folgenabschätzung tätig – sowohl in seinen Ehrenämtern, etwa seit 1986 in der GI, als auch im Hauptberuf.
Gudrun Schiedermeier bietet neben der Mitarbeit in verschiedenen Fachgruppen der GI auch Seminare an der HAW Landshut zu KI und Ethik an.
Debora Weber-Wulff ist pensionierte Professorin für Medieninformatik und noch an der HTW Berlin aktiv.
Beiträge als RSS abonnieren
Kommentare