Fallbeispiel: Ausnahmsweise

Rainer Rehak, Debora Weber-Wulff

Zena hat immer schon in der Libera-Position gespielt als Kind auf dem Bolzplatz, später im Fußballverein, im Unisport erst recht und auch jetzt noch. Sie ist richtig gut, also aufmerksam und schnell, kraftvoll und ausdauernd. Dieses körperbetonte Hobby ist ein wunderbarer Ausgleich für die tägliche Arbeit am Bildschirm als wissenschaftliche Mitarbeiterin an der Technischen Uni vor Ort.

Zena hat Informatik studiert und ist fasziniert von künstlichen neuronalen Netzen, insbesondere von Bilderkennung, also dem, was oft „KI“ genannt wird. Dass aus ihrer Teilnahme im Robo-Fußball-Team der TU später ein richtiger Job werden würde, hätte sie niemals gedacht. Inzwischen ist sie PostDoc an der TU geworden und arbeitet immer noch mit den hundeähnlichen Robotern. Bei regelmäßig stattfindenden Turnieren spielen die Roboter in Viererteams eine Art Fußball, technisch gesehen eine große und spannende Herausforderung. Roboter sind immer auch ethisch interessant, doch die TU hat eine Zivilklausel, was Zena und ihrer militärkritischen Grundhaltung sehr entgegenkommt. Schließlich mussten ihre Eltern kriegsbedingt aus deren Heimat nach Deutschland fliehen. Von Kindesbeinen an wurde ihr eingeschärft: Kriege sind furchtbar und Menschen zu töten ist niemals eine Lösung.

Aktuell arbeitet sie an einem Drittmittelprojekt in Kooperation mit dem Hersteller einer der Robo-Hund-Varianten. Diese werden gern als Spielzeug verkauft, aber kommen auch in internationalen Robo-Fußball-Meisterschaften zum Einsatz. Es geht dabei um die technische Implementation von Kooperation, Bilderkennung und motorischer Leistung. Ihr Team hat schon mehrmals internationale Meisterschaften gewonnen und diverse Preise eingeheimst. Mit jedem Sieg wurde sie auch medial als Person bekannter: eine vergleichsweise junge Wissenschaftlerin mit Migrationshintergrund, die fußballspielende Hunde programmiert, das zog immer.

An einem sonnigen Mittwochnachmittag kommen plötzlich drei Uniformierte mit sehr ernsten Mienen in Zenas Büro an der TU. Sie sehen irgendwie nach Polizei aus, aber etwas ist anders. Zena ist verunsichert. Die Gäste bitten um 30Minuten ihrer Zeit, denn sie haben eine besondere Anfrage. Zena willigt ein und hört zu. Dabei wird sie zusehends angespannter: Es geht um eine dramatische Geiselname in einem nahen Einkaufszentrum, die bislang medial geheim gehalten wird, um die Geiseln nicht zu gefährden. Die Anfrage bezieht sich konkret darauf, dass die Robo-Hunde sich als Aufklärungsgeräte im Gebäude bewegen sollen, um die Geiselnehmer im Auge zu behalten. Die Robos sind klein, leise und haben die nötigen Sensoren. Wenn Zena einverstanden ist, würden sie direkt mit fünf Robo-Hunden, drei Laptops und den notwendigen Expert:innen losfahren.

Nach einer Stunde Bedenkzeit, in der sie alle möglichen Szenarien mit ihrer ebenso überraschten Mitarbeiterin durchspricht und ein paar Minuten an der frischen Luft verbringt, stimmt sie zu und alle machen sich auf den Weg.

In dem Einkaufszentrum im Vorort der Stadt hatten drei Personen mehrere Geiseln genommen und verlangten nun die Freilassung eines bekannten Inhaftierten. Keinesfalls wollen die Behörden auf diese Forderung eingehen, und suchen nach Möglichkeiten, dennoch die Geiseln zu befreien. Hier sollen die Robo-Hunde ins Spiel kommen und Echtzeitinformationen zur Beurteilung der Lage bereitstellen. Im Prinzip ist das technisch bekanntes Terrain in einem neuen Einsatzkontext.

Als Zena und die studentische Mitarbeiterin gerade alles aufgebaut haben, kommen ein hochrangiger Beamter des Spezialeinsatzkommandos und zwei Polizeitechniker dazu. Sie wollen die Robo-Hunde nun auch bewaffnen, allerdings nur mit einer kleinen ferngesteuerten Handfeuerwaffe. Alle nötigen Aufbauten, Halterungen und Anschlüsse sind bereits vorhanden, denn schon lange experimentiere man mit den gleichen Robo-Hunden, die auch Zena beforscht. Allerdings haben sie nur einen Roboter und der ist ein etwas älteres Modell. Es wäre sicherlich riskant, aber unter den aktuellen Umständen bislang die erfolgversprechendste Idee.

Zena fühlt sich überfahren und völlig überfordert. Sicherlich ist es ein sinnvolles Ansinnen, eine Geiselnahme zu beenden, aber will sie wirklich ihre Fußball-Robo-Hunde bewaffnen? Sie kann nicht klar denken, doch die Beamten warten ungeduldig. Ginge das vielleicht ausnahmsweise mal – im Einzelfall? Aber steht das nicht eigentlich gegen ihre Überzeugungen? Was würden ihre Eltern dazu sagen, was die Uni und was ihre Studierenden, und wird durch sie so ein Vorgehen dann langsam zum Standard? Und was ist, wenn wirklich ein Mensch stirbt und das alles eskaliert? Ist sie dann die eiskalte „RoboCop“-Forscherin und ihr guter Ruf passé?

So war das alles nicht abgesprochen, aber einfach so nach Hause fahren kann sie auch nicht.

Fragen

1. Was ist eine Zivilklausel und ist sie eine sinnvolle Sache für Universitäten?
2. Wozu gibt es Forschung an Roboterfußball? Ist das Ziel davon vereinbar mit einer Zivilklausel?
3. Ist bei dieser Art von Forschung absehbar, dass sie später von Polizei oder gar Militär verwendet werden wird? Wie ist das zu bewerten?
4. Ist es überhaupt eine vertretbare Forderung, derartige bewaffnete Systeme quasi ungetestet in den Einsatz zu bringen? Welche Argumente sollten dabei eine Rolle spielen und wie sollten sie gewichtet werden?
5. Ist Robotik eine sogenannte Dual-Use-Technologie und welche Dual-Use-Technologien gibt es noch? Wie sollten Menschen damit ethisch und gesellschaftlich umgehen, insbesondere im universitären Forschungskontext?
6. Ist es akzeptabel, „ausnahmsweise“ derartige Zweckentfremdungen von Forschungsarbeit zuzulassen? Kann es so etwas überhaupt „ausnahmsweise“ geben oder werden somit immer Präzedenzfälle geschaffen? Welche Verantwortung trägt Zena in diesem Fall?
7. Was ist von derartiger Automatisierung von Polizeiarbeit zu halten? Was ist sinnvoll, was nicht und warum?
8. Ist es anders zu bewerten, wenn Leute tatsächlich angeschossen werden, wenn gar Leute sterben? Ist es ein Unterschied, ob einer der Geiselnehmer oder aber die Geiseln verletzt oder getötet werden?

Erschienen im Informatik Spektrum 45 (5), 2022, S. 323–324, doi: https://doi.org/10.1007/s00287-022-01484-x