A very troublesome tale (https://idiallo.com/blog/when-a-machine-fired-me) of a software-based decision system running wild. Well worth reading!
|
||||
|
Die Gesellschaft für Informatik und die Open Knowledge Foundation Deutschland fahren im Rahmen des Wissenschaftsjahrs 2018 mit dem mobilen Bildungsprojekt Turing-Bus in die ländlichen Gebiete der Republik. Beim offiziellen Tourstart am 22. Mai wurden mehrere Workshops angeboten, darunter ein gewissensbits-Workshop. Aus dem Ankündigungstext:
 Jugendliche im Rijksmuseum Amsterdam. Original-Photo (c) 2014 Gijsbert van der Wal. Vierzehn Schülerinnen und Schüler diskutierten bei schönstem Sonnenschein draußen über drängende Probleme des allzu sorglosen Umgangs mit informationstechnischen Systemen. Zunächst wurde über die Rolle der digitalen Medien diskutiert, illustriert wurde dies mit einem Bild einer Gruppe Jugendlicher, die im Rijksmuseum Amsterdam über ihre Smartphones gebeugt vor einem Gemälde saßen. Die im letzten Jahrtausend Geborenen interpretieren dieses Bild stets als anschauliches Beispiel für den Sittenverfall der Jugend, die Rembrandt ignorieren und lieber im Web surfen. Die digital natives im Workshop hingegen wussten genau, was dort zu sehen war: Die Gruppe informierte sich umfassend dank Museums-App über die soeben gesehenen Gemälde. Dieses Beispiel zeigt, wie einfach sich falsche Nachrichten verbreiten, wenn die Geschichte mit den eigenen Vorurteilen übereinstimmt und die Aufregung über das Gelesene groß genug ist. Im Workshop lernten wir aber auch, wie einfach man diese Fake News nun entlarven kann. Den Leserinnen und Lesern der Yellow Press der letzten Jahre des 19. Jahrhunderts war nicht klar, dass sich die Betreiber der größten Boulevard-Zeitungen auf Kosten der Wahrheit einfach Geschichten ausdachten. Kleine, harmlose, aber auch große mit fatalen Folgen. Mit Hilfe der digitalen Medien ist die Recherche nun sehr viel zugänglicher, es gibt immer mehr freie Korpora für Dokumente und Photos, außerdem neue Werkzeuge, etwa die Bildersuche anhand von Bildern (anstelle eines Suchbegriffs). Abschließend diskutierten wir über den Dauerbrenner der maschinellen Entscheidung. Wenn du einem selbstfahrendes Auto programmieren würdest, welche Regeln wären das? Das Lernen anhand von bisherigen Praktiken wurde von den Schülerinnen und Schülern sehr kritisch gesehen, da sich menschliche Vorurteile dann verfestigen würden. Als Beispiel wurden Wohnort, Hautfarbe und Geschlecht angeführt. Die Maschine würde dann aufgrund von arbiträren Merkmalen eine »Entscheidung« treffen, was mit der Menschenwürde und dem Diskriminierungsverbot nicht vereinbar ist. Die Schülerinnen und Schüler waren sehr viel kritischer und reflektierter als es medial immer dargestellt wird. Sie diskutierten ganz sachlich und thematisch präzise, waren aber sichtlich desillusioniert. So begeisterten sie sich für bestimmte Dinge, wollen diese aber nicht im Studium verfolgen, weil sie sich von einer anderen Studienwahl bessere Berufschancen versprechen. So thematisierten wir abschließend auch noch das Motto des Wissenschaftsjahrs »Arbeitswelten der Zukunft«, freilich mit einem ermunternden Ausblick: Ihr habt es selbst in der Hand, diese Zukunft zu gestalten. Zivilgesellschaftliche Organisationen wie die GI helfen euch gern dabei. Update: Inzwischen ist auch die offizielle Pressemitteilung veröffentlicht.
Constanze Kurz, Rainer Rehak Frank is currently working on a health app geared toward patients and sports enthusiasts alike. The finished product will ultimately consist of his app paired with two body sensors. The app itself provides users with film clips and information packaged as a workout program, and it processes sensory input from the workout in real-time. Frank’s the only person in his company working on the app and is under tremendous pressure to meet the deadline a week from now, when a group of experts has been invited to a product presentation. Not only does the app read the sensor data, it displays results in a user-friendly format and provides interfaces for further processing. Doctors and caregivers at rehab centers need to make long-term use of the sensor data collected—so they must be able to transfer it to other systems to analyze it. All these features are already included in the product specifications and the printed brochures prepared by the company’s marketing department. Both sensors are attached to the patients’ or sports enthusiasts’ backs or stomachs to connect to the app wirelessly before starting a physical therapy program or any of the app’s other workout programs. While the program is running—with an option to include music—movements must be as precise as possible so the two sensors can measure posture, speed, pulse, and body temperature and send the data to a cell phone or tablet. Doctors and amateur athletes should thus be better able to identify changes in mobility. Frank had worked on the product’s design concept for several months and was beaming with pride after he’d been put in charge of implementing the app. But his enthusiasm has since gone out the window. He’s been stressed out for the past three weeks, because he knows there’s no way he can possibly meet the targeted goals. In regular status meetings, he’s always reassured the management team that he was almost finished. He was too embarrassed and afraid to give them the straight scoop. The film clips and exercises are in passable shape, but the sensor input has Frank at wit’s end. He doesn’t have the experience or the mathematical skills needed to bring the project to fruition. To spare himself the humiliation, at last week’s internal review, he already pulled a bit of a fast one and made “cosmetic changes” to some of the actual sensor data. The app is not yet able to deliver an accurate reading of the sensor measurements—not to mention any form of long-term analytics. He’d hoped to compensate for the discrepancy by putting in overtime. But Frank knows there’s no way he’ll have a finished app that can process sensor data ready for presentation a week from now. What should he do? Scrap the whole thing? Questions:
« Fallbeispiel: Zukunftsvision Constanze Kurz, Rainer Rehak Frank arbeitet momentan an einer Gesundheits-App, die sowohl für Patienten als auch für sportbegeisterte Menschen nützlich sein soll. Das ganze Produkt wird letztlich aus seiner App und zusätzlich zwei Körpersensoren bestehen. Die App selbst stellt Filme und Informationen in Form von Trainingsprogrammen bereit und verarbeitet den beim Trainieren entstehenden Sensorinput. In seiner Firma ist er allein für dieses Projekt verantwortlich und steht aktuell sehr unter Zeitdruck, denn das ganze Produkt soll bereits in acht Tagen einer eingeladenen Expertengruppe präsentiert werden. Die App soll nicht nur die Daten aus den Sensoren verarbeiten, sie stellt auch die Ergebnisse in anschaulicher Form dar und liefert zudem die Schnittstellen für die Weiterverarbeitung der Daten. Denn vor allem Ärzte und Betreuer in Rehabilitationseinrichtungen sollen die gesammelten Sensorinformationen auch langfristig nutzen, auf andere Systeme übertragen und dort analysieren können. All das steht bereits in den Spezifikationen und auch in den bunten Produktbroschüren, die das Marketing-Team der Firma vorbereitet hat. Die beiden Sensoren, die mit der App per Funk verbunden sind, bringen Patienten oder Sportbegeisterte auf dem unteren Rücken und auf dem Bauch an, bevor sie ein Reha-Programm oder ein anderes Trainingsprogramm der App starten. Während die Bewegungen des Programmes – wahlweise mit Musik – möglichst genau vollführt werden, messen die beiden Sensoren die Körperneigung, die Geschwindigkeit, den Puls sowie die Körpertemperatur und übertragen die Daten an ein Mobiltelefon oder Tablet. Ärzte und Hobbysportler sollen so die Veränderung der Beweglichkeit genauer feststellen können. Frank hatte an der Konzeption des Produktes mehrere Monate mitgearbeitet und war nicht wenig stolz, als er die Verantwortung für die Umsetzung der App bekam. Aber mittlerweile ist seine Euphorie gänzlich verflogen, er ist seit zwanzig Tagen im Dauerstress. Denn Frank weiß: Er kann die gesteckten Ziele nicht schaffen. Er hatte bei den regelmäßigen Status-Sitzungen das Management immer bestärkt, dass er fast fertig wäre. Eine Mischung aus Angst und Scham hatte ihn davon abgehalten, Klartext zu reden. Zwar sind Filme und Übungen in passabler Qualität bereitstehend, aber der sensorische Input macht Frank enorme Schwierigkeiten. Er hat einfach nicht genug Erfahrung und auch einige mathematische Schwächen, so dass ihm die Verarbeitung nicht gelingen mag. Um einer Blamage zu entgehen, hat er bereits bei der firmeninternen Vorpräsentation vor einer Woche ein wenig getrickst und die tatsächliche Sensordatenverarbeitung etwas „beschönigt“. Eine echte Auswertung der Sensormessungen nimmt die App aber noch gar nicht vor, erst recht nicht langfristig. Er hatte eigentlich die Hoffnung, die zeitliche Schieflage noch mit Überstunden ausgleichen zu können. Nun aber weiß Frank, dass er nie und nimmer eine fertige App in acht Tagen präsentieren kann, die wirklich die Sensordaten aufbereitet. Was soll er tun, alles absagen? Fragen Ist es ein ethisches Problem, dass Frank eine App vorgeführt hat, die Sensorverarbeitung nur vorgetäuscht hat? Erschienen im Informatik-Spektrum 40 (3), 2017, S. 300-301. — Translated from German by Lillian M. Banks Christina B. Class, Rainer Rehak Andrea ist bei allen ihren Kommilitonen sehr beliebt und lacht viel. Als sie an einem Nachmittag beim Beachvolleyballspiel plötzlich bewusstlos wird und stürzt, sind alle sehr betroffen. Im Krankenhaus wird festgestellt, dass sie an einer bisher nicht diagnostizierten Diabetes und einer Schilddrüsenunterfunktion leidet. Dazu kommen Nahrungsmittelunverträglichkeiten. Die Ärzte raten Andrea, ihr Gewicht etwas zu reduzieren, und geben ihr verschiedene Medikamente. Sie soll zudem ihre Ernährung genau protokollieren, um die Nahrungsmittelunverträglichkeiten detailliert festzustellen. Andrea findet das alles recht kompliziert und sucht sich Unterstützung durch diverse Apps für ihr Smartphone. Da keine einzelne der Apps ihren Anforderungen genügt, verwendet sie verschiedene Apps gleichzeitig, um Kalorienaufnahme und -verbrauch, Gewicht, Ernährungspläne, Sportaktivität, Blutdruck, Blutzucker und noch andere Daten zu erfassen. Beim Picknick zusammen mit ihren Freunden sieht Eva, die sich ihr Studium mit der Entwicklung von Apps finanziert, wie Andrea mit den verschiedenen Systemen hantiert. Eva meint spontan, sie sollten doch einfach gemeinsam eine App entwickeln, die Andrea unterstützen kann. Mit Chris, der Medizin studiert, setzen sie sich zusammen und entwickeln eine auf Andreas Bedürfnisse zugeschnittene App. Sie verbinden diese mit den Signalen von einer Fitnessuhr sowie den Daten eines neuartigen Blutzuckermessgeräts. Eva implementiert außerdem eine Verschlüsselung der gemessenen Informationen, so dass selbst die für Backups exportierten Daten vor fremdem Zugriff geschützt sind. Chris meint eines Abends spaßeshalber, sie sollten doch einfach eine Firma gründen, es sei doch alles vorhanden. Gesagt, getan, so entsteht einige Wochen später die ACE GmbH, und sie stellen die entwickelte App mit einem geringen Preis, aber unter der freien GNU General Public Licence (GPL) mit dem Namen „FitUndGesund“ per Appstore zur Verfügung. Nach einiger Zeit entdeckt eine Nahrungsmittelwissenschaftlerin die App zufällig und installiert sie testweise. Sie ist sofort begeistert von den Möglichkeiten und stellt die App in einem Erfahrungs- und Testbericht auf ihrem reichweitenstarken Gesundheitsblog vor. Daraufhin steigen die Downloadzahlen der App von wenigen Downloads pro Woche auf Dutzende pro Tag an. Auf diese Weise wird auch Franka von der FutureFit AG auf die App aufmerksam. Sie leitet das Entwicklungsteam für das neue Fitnessarmband der Firma, das mit modernen Sensoren ausgestattet werden soll. Die FutureFit hat in letzter Zeit Marktanteile verloren und daher ist ein Erfolg des Fitnessarmbands für die Zukunft der Firma dringend angeraten. Dem Team um Franka fehlt es bisher jedoch an überzeugenden neuen Ideen, mit denen sie sich von der Konkurrenz abheben können. Hier kommt ihr die App „FitUndGesund“ gerade recht. In der nächsten Teamsitzung weist sie Jörn auf die App hin und bittet ihn, sie zu testen und sich für Möglichkeiten zur Nutzung der Daten vom FutureFit-Armband inspirieren zu lassen. Jörn lädt die App sogleich herunter und ist hellauf begeistert. Sie passt wunderbar zu den ohnehin angedachten Use Cases und stellt die gesammelten Daten auf verblüffend intuitive Weise dar. Damit könnte man das Fitnessarmband erfolgreich auf dem Markt platzieren. Um genauer zu verstehen, wie die App die Daten analysiert, lädt er den Quellcode herunter. Je mehr er sich die App ansieht, umso mehr ist er von der Arbeit der drei Studenten beeindruckt; sowohl von der Softwarequalität als auch vom Bedienkonzept her. Etwas Ähnliches zu erstellen würde ziemlich aufwändig sein, zumal die Geschäftsleitung zunehmend Druck macht. Aber die Studenten haben das ganze ja unter einer freien Lizenz zur Verfügung gestellt, da könnte er den Code doch einfach frei verwenden. Gedacht, getan. Durch die Verwendung des App-Codes kann Jörn die Werte der Armbandsensoren in die Anwendung integrieren und die Oberfläche anpassen. Da er zukünftige Kooperationsmöglichkeiten offenhalten bzw. sie nicht unnötig technisch erschweren soll, entfernt er kurzerhand die von Eva eingebaute Verschlüsselung der Daten und baut noch eine Sharing-Funktionalität ein. Jörn denkt sich dabei nur scherzhaft: „Wer das Armband und die App benutzt, der legt eh keinen Wert auf Datenschutz“. Nach mehreren Wochen intensiver Arbeit, stellt er die App in der nächsten Teamsitzung vor. Franka ist begeistert. Sie erkundigt sich, ob die App sich ausreichend von „FitUndGesund“ unterscheidet, man wolle ja keine Probleme mit ACE bekommen. Jörn schaut sich verstohlen um und meint dann etwas unsicher: „Ja, das ist nun unsere Entwicklung! Das kann man doch schon an der Benutzerführung erkennen!“ Ein paar Monate später ruft Chris die anderen ACE GmbH Gesellschafter Eva und Andrea für ein dringendes Treffen zusammen. Die drei finden sich auch zeitnah wieder auf der Picknickwiese ein und so berichtet Chris von einem aktuellen Paper eines Medizinjournals, das er regelmäßig liest. Dort hatte eine Arbeitsgruppe anhand genau der medizinischen Daten, die auch ihre App abfragt, die Neigung zur Alkoholsucht mit hoher Wahrscheinlichkeit voraussagen können. Ihre App wird sogar namentlich erwähnt. Nun überlegen sie, ob sie die App aus dem Store nehmen, eine Warnung einbauen oder einfach nichts tun. Die Daten selbst können ja die App nicht einfach so „verlassen“ und liegen selbst exportiert nur verschlüsselt vor, somit können die Daten ihrer App gar nicht für andere Zwecke verwendet werden. Die drei beschließen, erstmal eine Nacht darüber zu schlafen. Auf dem Nachhauseweg beschleicht Eva ein zunehmend komisches Gefühl. In einem Entwicklerforum hatte sie vor kurzem eine Diskussion über die GPL-Lizenz bei Apps mitbekommen. Einige waren der Meinung, dass man sich von solchen Apps problemlos inspirieren lassen und auch den Code verwenden dürfe. Solange man nicht den ganzen Code nutzt, sei das ja wohl kein Problem. Ob vielleicht doch der Code ihrer App von anderen verwendet wird? Immerhin ist sie in letzter Zeit recht bekannt geworden. Zu Hause angekommen, setzt sie sich sofort an ihren Computer und programmiert ein Script, das alle Apps aus dem Fitnessbereich des Appstore herunterlädt und deren Binärcode nach den Zeichenketten, Funktions- und Symbolnamen ihrer eigenen App durchsucht. Das kann zwar Stunden dauern, aber bis zum Morgen sollte es durchgelaufen sein. So kann sie wenigstens noch etwas schlafen. Am nächsten Morgen wacht sie auf und schaut sogleich auf die Ergebnisse. Die neue Fitness-App einer gewissen FutureFit AG hat eine Übereinstimmung von 82 %, das kann kein Zufall sein. Sofort ruft sie die beiden anderen an … Fragen
Erschienen im Informatik-Spektrum 40(6), 2017, S. 607-609. Benjamin Kees, Stefan Ullrich Walter ist Chef der kleinen Firma AC-Games, die seit über 17 Jahren ein für die Nutzerinnen und Nutzer kostenloses Spieleportal für Online-Gemeinschaftsspiele, meist Rollenspiele, anbietet. Auf dem Portal finden sich aber auch einfache ,,casual games“, unter ihnen vor allem Geschicklichkeitsspiele. Der Kundenstamm ist recht groß, allein mit den einhundert aktivsten Spielerinnen und Spielern können die Traffic-Kosten und der gesamten technische Support über Werbeeinnahmen finanziert werden. Bis zur Finanzkrise vor zehn Jahren stimmte auch der Umsatz im Shop für die virtuellen Gegenstände, doch nun, seit zwei, drei Jahren wird mit dem bisherigen Geschäftsmodell nicht mehr genug Geld verdient, um den Mitarbeiterinnen und Mitarbeitern die Gehälter auszuzahlen. Die Spielehersteller nutzen das Portal in Zeiten von App-Stores kaum noch, die Aufträge bei der Online-Werbung gehen zurück und die Spieler kaufen auch immer seltener virtuelle Artefakte mit hartem Geld ein, kurz:Walter und seinen Mitarbeitern – schon recht alte IT-Hasen – droht die Erwerbslosigkeit. Da kommt das Übernahmeangebot des Datenhändlers Data Broker GmbH zur rechten Zeit. Bei der nächsten Team-Sitzung wird heiß diskutiert. Ein Datenhändler, das gehe ja wohl gar nicht, echauffieren sich die einen, aber den Dienst einfach abschalten und die Spieler mit ihren liebevoll ausgefeilten Avataren hängenlassen gehe ja wohl auch nicht, entgegnen die Befürworter. Walter wunderte sich ohnehin darüber, dass ausgerechnet ein Datenhändler ein so hohes Gebot abgibt, da sie nur die persönlichen Angaben abfragen, die für die Bezahlung der Artefakte notwendig sind. Selbst die Idee einer ,,Crowdfunding“-Kampagne wird diskutiert, aber schließlich entscheidet man sich für den Datenhändler, nachdem die Geschäftsführung zu dem Schluss kam, dass dies der einzig gangbare Weg sei, und sie ja keine allzu personenbezogenen Daten abfragen würden. In der Anfangsphase der Firma waren Walter und seine Gründungspartner nicht so sensibel gegenüber dem Thema Datenschutz. In einem frühen Blog-Eintrag von AC-Games schrieb Walter über die ultimative ,,Slot Machine“. Er beschrieb eine Glücksspielmaschine, die sich mit ihrem Timing an die Spielerinnen und Spieler anpasst. Um diese Idee umsetzen zu können, mussten Verhaltensdaten irgendwie gesammelt werden, so wurden unter anderem die Reaktionszeiten der Spielenden von jedem einzelnen gespielten Spiel mitgeschnitten. Es gab noch weitere Nutzungsideen für diese Daten, die jedoch nur im internen Blog diskutiert wurden. Eine weitere Idee war es, Spieler künstlich erzeugtem Stress auszusetzen, um Wahlverhalten zu beeinflussen, so dass sie unvorteilhafte Entscheidungen trafen und dabei zum Beispiel mehr Geld ausgaben oder sich öfter am Tag anmeldeten.Walter war über die Jahre jedoch von der Idee abgekommen. Einerseits, weil ihm das Thema Datenschutz und digitale Selbstbestimmtheit immer mehr am Herzen lag, vor allem aber, weil es hierzulande mit dem Online-Glücksspiel auch rechtlich nicht so einfach ist. Die zur Datenerhebung programmierten Systeme hätten eigentlich entsprechend umgestaltet werden müssen, aber Kathleen, die damals als einzige den Überblick hatte, was da eigentlich wie gespeichert wurde, hatte zu dieser Zeit nicht die nötigen Ressourcen. So wurde die Erfassung der Reaktionszeiten und anderer Verhaltensweisen fortgesetzt, auch wenn keine unmittelbare Verwendung mehr vorgesehen war. Als irgendwann ein Datenschutzaudit durchgeführt wurde, erwähnte der Dienstleister die ungewöhnliche Datensammlung in seinem Bericht, stellte jedoch fest, dass diese Praxis mit den AGBs der Firma und der Einwilligung der Nutzerinnen und Nutzer rechtens waren. Durch eben diesen Datenschutzbericht der Firma war nun die Data BrokerGmbH auf die Firma aufmerksam geworden. Die Datenbanken mit über Jahre gesammelten Reaktionszeiten und Verhaltensweisen der Spieler sind nun Teil des Datenkapitals – und stoßen auf großes Interesse bei der Data Broker GmbH. Das Sahnehäubchen auf dem Datenkuchen ist, dass bei einer Übernahme nicht einmal der AGB-Text geändert werden muss, so dass die Spielerinnen und Spieler den Besitzerinnenwechsel im Idealfall nicht mitbekommen und somit ihr Verhalten auch weiter preisgebenwürden. Der Datenbank-Administrator Hank ist erst seit kurzem bei AC-Games. Da er in dieser Firma ohnehin nicht alt werden wollte, denkt er sich in den letztenWochen vor der Übernahme, ohne großes Risiko ein paar der Ideen ausprobieren zu können, die er in den alten Blogpost von Walter gelesen hatte. Es interessiert ihn, was tatsächlich in den gesammelten Daten steckt, denn auch er war über die horrenden Summen, die Data Broker angeboten hatte, stutzig geworden. Mit ein paar statistischen Berechnungen, die er über mehrere Nächte auf den Servern laufen lässt, kann er eine Reihe von Spielertypen aus den gesammelten Daten identifizieren und den einzelnen Usern zuordnen. Auf der Shop-Seite für virtuelle Artefakte programmiert er dann einen ,,fake counter“, der künstlich die verbleibende Stückzahl je nach Spielertypus variiert. Bei manchen lässt er zuerst eine bequeme zweistellige Zahl erscheinen, die dann alle paar Sekunden um eins reduziert wird. Ob User, die er für sich mit ,,Stress-Typ“ bezeichnet hat, wohl wirklich auf ,,kaufen“ klickt, fragt sich Hank. Dem Typus mit Hanks Bezeichnung ,,Neugierig“, zeigt Hank zunächst gar keine Zahl, sondern ein Link mit der Aufschrift ,,Verfügbarkeit prüfen“, um dann stets ,,nur noch 1 Exemplar vorhanden“ anzuzeigen. Als Hank am nächsten Abend die Verkaufszahlen aufruft ist er völlig verblüfft, wie gut er die verschiedenen Typen in ihren Handlungen hatte beeinflussen können. Als er sich ausmalt, welchen Einfluss auf die jahrelangen Kunden von AC-Games mit den Zahlen auch außerhalb des Spieleportals genommen werden könnte, kommt er ins Grübeln. Mit ein paar simplen Befehlen könnte Hank als Datenbank-Administrator die Kunden-IDs von der Reaktionszeiten-Tabelle entfernen, allerdings war ihm vorher untersagt worden, tiefgreifende Veränderungen vor der Übernahme vorzunehmen. Er zieht auch in Betracht, seine Entdeckung Walter mitzuteilen, entschließt sich aber kurzerhand dagegen. Noch bevor die administrativen Zugänge den neuen Zuständigen übergeben werden, pseudonymisiert Hank die Kunden-IDs in der Datenbank mit den gespeicherten Verhaltensweisen. Bei ,,ein paar simplen Befehlen“ bleibt es nicht. Es wird eine lange Nachtschicht, denn ihm wird klar dass er auch alle Zusammenhänge aus den Backups entfernen muss – so dass es aussieht, als wären die Daten schon von jeher so anonym erhoben worden. Eine Zuordnungs-Tabelle, aus der sich die Zusammenhänge wiederherstellen lassen, speichert er auf einem privaten USB-Stick ab. Fragen
Erschienen im Informatik-Spektrum 40(5), 2017, S. 471-472. Christina B. Class, Debora Weber-Wulff Als Dani mit dem Hund unterwegs ist, lässt sie ihren Gedanken freien Lauf. Andi und sie hatten beim Frühstück wieder eine längere Diskussion mit ihrer Tochter Alexa, die dabei war, ein Referat über die Geschichte der Computer vorzubereiten. Sie hatte sich noch einmal vergewissert, ob es früher wirklich verschiedene Betriebssysteme gegeben habe. Sie fragte, wie denn die Menschen damit zurechtgekommen seien. Andi hatte versucht, ihr klarzumachen, dass man sich durchaus damit zurechtfinden konnte, wenn man die grundlegenden Konzepte verstanden hatte. Natürlich hätte es deutlich mehr Viren, Trojaner, Würmer etc. gegeben, weil nicht alle Firmen und Regierungsbehörden gemeinsam daran gearbeitet hätten, die Systeme abzusichern. Alexa hatte nachgefragt, wie denn die Wahlen abgesichert wurden, wenn es Sicherheitsprobleme gab. Dani hatte erklärt, dass es damals keine elektronischen Wahlen gab. Sie hat Alexa beschrieben, wie Wahlen abgehalten wurden, indem man persönlich zum Wahllokal ging oder per Briefwahl abstimmte. Erst vor 20 Jahren hätten verschiedene Interessengesellschaften angefangen, elektronische Wahlen abzuhalten. Sie begann, Alexa von Diskussionen über die Sicherheit von Wahlcomputern zu erzählen, an denen sie zu Beginn ihres Studiums beteiligt war, aber diese blockte ab. Diese alten Zeiten interessierten sie wirklich nicht, sie wolle lieber in die Stadt gehen und sich mit ihren Freundinnen treffen. Dani seufzt. Ob sie in dem Alter auch so schwierig gewesen war? Aber sie konnte wirklich nicht klagen. Andi und sie hatten beide interessante Jobs bei One4All, dem zentralen Anbieter von Internetanwendungen, Informationsangeboten und sozialen Netzwerken. Sie hatte Andi kennengelernt, als sie beide an der Entwicklung einer neuen App für elektronische Wahlen gearbeitet hatten. Andi war für die Entwicklung, sie für die Tests im Bereich Sicherheit verantwortlich. Es war sehr hilfreich, dass es nur ein Betriebssystem gab und nicht nur Firmen, sondern auch das Kommunikationsministerium sowie Abteilungen der Polizei und nationalen Sicherheitsbehörden sich damit beschäftigten, Sicherheitslücken zu finden und schließen. Das hatte alles viel einfacher gemacht. Die App war mit der 2023 eingeführten elektronischen BürgerID verbunden und wurde mit dem Fingerabdruck aktiviert. Das Konzept von Wahlen hatte sich in Folge der Einführung elektronischer Wahlen in den letzten Jahren völlig gewandelt. Basierend auf dem Vorbild der Volksabstimmungen in der Schweiz wurden die Bürger auf allen Ebenen (Kommunen, Land und Staat) in viel mehr Entscheidungen eingebunden. Vor zwei Jahren hat man neben den eigentlichen Wahlen und verbindlichen Abstimmungen auch ein Stimmungsbarometer eingeführt. Jeder Bürger kann wie bei Wahlen genau eine Stimme abgeben. Das Ergebnis ist für die Parlamente allerdings nicht bindend, sondern hat empfehlenden Charakter. Seit Einführung des Stimmungsbarometers gibt es alle paar Tage eine Wahl oder Abstimmung. Diese elektronischen Abstimmungen und das Abstimmungsverhalten werden regelmäßig analysiert, der Slogan lautet „Politik der Bürger“. Hierzu werden aggregierte Informationen von der App nach Abstimmungen an einen zentralen Server geschickt. Dani ist im Gegensatz zu Andi an diesem Projekt nicht mehr beteiligt. Seit drei Jahren arbeitet sie im Testteam für die Informer App. Durch die vielen Abstimmungen ist es immer wichtiger geworden, dass die Bürger über die einzelnen Positionen der Parteien und die zur Wahl stehenden Optionen informiert werden, um die Politik entsprechend ihrer Wünsche beeinflussen zu können. Die politischen Parteien und relevante Interessengruppen geben ihre Positionen zentral in das System ein. Die App filtert diese Informationen basierend auf den Wünschen der Nutzer. Hierzu wird die Informer App bei der Installation durch den Benutzer konfiguriert. Hierbei werden Parameter eingestellt und viele verschiedene politische Fragen beantwortet. So wird sichergestellt, dass der Benutzer die Information zu Wahlen und Abstimmungen erhält, die ihn interessiert, er aber nicht überflutet wird. Die entsprechenden Matching-Verfahren wurden während einiger Jahre optimiert und die App hat von Behörden, Wählern und Interessenverbänden mehrmals gute Kritiken bekommen. Zu Beginn des Einsatzes gab es einige Bürgerorganisationen, die Bedenken angemeldet hatten, weil die App genauso wie die Wahl-App auf der BürgerID basiert und beide von derselben Firma entwickelt werden. Aber die Konzepte der Prozessdatenisolation des Betriebssystems schließen einen Informationsaustausch zwischen den beiden Apps aus. Dies wurde sehr intensiv getestet. Nach einem langen Spaziergang kommt Dani müde nach Hause und freut sich auf einen schönen Nachmittag mit ihrem Mann. Andi hat Kaffee gekocht und den Tisch auf der Terrasse gedeckt. Da zwei Tage später ein neues Stimmungsbarometer für die Budgetplanung der Stadt stattfinden soll, möchten Dani und Andi sich noch etwas Informationen in der Informer App ansehen. Das Betriebssystem und die Informer App werden jedoch gerade aktualisiert und sie warten ein paar Minuten. Nach der Aktualisierung meldet Dani sich per Fingerabdruck erneut an ihrem Telefon an und startet die App. Als es an der Tür klingelt, steht sie auf und wimmelt eine Nachbarin ab. Sie hat wirklich kein Interesse an einem Stadtbummel. Sie geht wieder auf die Terrasse und greift sich ihr Telefon. Andi ist wohl gerade in der Küche. Sie blickt auf die Informer App und stutzt. Das sind aber komische Informationen, sie interessiert sich doch nicht für Details des Flughafenausbaus! Ob das an dem Update liegen könnte? Da kommt Andi wieder auf die Terrasse und grinst Dani an. „Hast Du wieder mein Telefon genommen?“ Dani grinst zurück, reicht Andi sein Telefon und nimmt ihres. Hier sieht sie ganz andere Informationen, nämlich über den Vorschlag des Ausbaus der Waldlehrpfades. Da Andi und sie vor Abstimmungen immer gerne und intensiv miteinander diskutieren, haben sie die Informer App gemeinsam konfiguriert, um die gleichen Informationen zu erhalten. Nun wird Dani noch mehr stutzig. Sie zeigt Andi ihr Telefon und bittet ihn, die Informationen zu vergleichen. Dani fragt sich, ob das Update evtl. die Konfiguration verändert hat. Das müsste man den Wählern dringend mitteilen. Andi schlägt vor, die Informer App auf beiden Telefonen zurückzusetzen und neu zu konfigurieren. Nach einer guten Stunde ist die Konfiguration beendet. Aber auch jetzt zeigt Informer auf beiden Telefonen unterschiedliche Informationen betreffend der Budgetplanung an. Andi und Dani sind nun wirklich irritiert und versuchen, eine Erklärung für die Unterschiede zu finden. Sie überprüfen erneut alle Parameter der App. Keine Unterschiede. Dann meint Andi scherzhaft, dass sie wohl in den letzten Abstimmungen unterschiedlich gewählt hätten und daher die Unterschiede kommen. Dani fragt gleich nach: Wie hast Du denn bei der Verkehrsplanung abgestimmt? Andi schaut betreten zur Boden. Obwohl sie intensiv diskutiert hätten, dass der Flugverkehr unbedingt einzuschränken wäre, hat er doch für den Flughafenausbau gestimmt. Er fliegt halt wahnsinnig gerne. Dani und Andi schauen sich schweigend an. Liegen die Unterschiede nur am Update? Wäre es möglich, dass das tatsächliche Abstimmungsverhalten in die Informer App mit einfließt? So weit eine mögliche Situation in der Zukunft. Fragen
Erschienen im Informatik-Spektrum 40(4), 2017, S. 387-390. Constanze Kurz, Rainer Rehak Frank arbeitet momentan an einer Gesundheits-App, die sowohl für Patienten als auch für sportbegeisterte Menschen nützlich sein soll. Das ganze Produkt wird letztlich aus seiner App und zusätzlich zwei Körpersensoren bestehen. Die App selbst stellt Filme und Informationen in Form von Trainingsprogrammen bereit und verarbeitet den beim Trainieren entstehenden Sensorinput. In seiner Firma ist er allein für dieses Projekt verantwortlich und steht aktuell sehr unter Zeitdruck, denn das ganze Produkt soll bereits in acht Tagen einer eingeladenen Expertengruppe präsentiert werden. Die App soll nicht nur die Daten aus den Sensoren verarbeiten, sie stellt auch die Ergebnisse in anschaulicher Form dar und liefert zudem die Schnittstellen für die Weiterverarbeitung der Daten. Denn vor allem Ärzte und Betreuer in Rehabilitationseinrichtungen sollen die gesammelten Sensorinformationen auch langfristig nutzen, auf andere Systeme übertragen und dort analysieren können. All das steht bereits in den Spezifikationen und auch in den bunten Produktbroschüren, die das Marketing-Team der Firma vorbereitet hat. Die beiden Sensoren, die mit der App per Funk verbunden sind, bringen Patienten oder Sportbegeisterte auf dem unteren Rücken und auf dem Bauch an, bevor sie ein Reha-Programm oder ein anderes Trainingsprogramm der App starten. Während die Bewegungen des Programmes – wahlweise mit Musik – möglichst genau vollführt werden, messen die beiden Sensoren die Körperneigung, die Geschwindigkeit, den Puls sowie die Körpertemperatur und übertragen die Daten an ein Mobiltelefon oder Tablet. Ärzte und Hobbysportler sollen so die Veränderung der Beweglichkeit genauer feststellen können. Frank hatte an der Konzeption des Produktes mehrere Monate mitgearbeitet und war nicht wenig stolz, als er die Verantwortung für die Umsetzung der App bekam. Aber mittlerweile ist seine Euphorie gänzlich verflogen, er ist seit zwanzig Tagen im Dauerstress. Denn Frank weiß: Er kann die gesteckten Ziele nicht schaffen. Er hatte bei den regelmäßigen Status-Sitzungen das Management immer bestärkt, dass er fast fertig wäre. Eine Mischung aus Angst und Scham hatte ihn davon abgehalten, Klartext zu reden. Zwar sind Filme und Übungen in passabler Qualität bereitstehend, aber der sensorische Input macht Frank enorme Schwierigkeiten. Er hat einfach nicht genug Erfahrung und auch einige mathematische Schwächen, so dass ihm die Verarbeitung nicht gelingen mag. Um einer Blamage zu entgehen, hat er bereits bei der firmeninternen Vorpräsentation vor einer Woche ein wenig getrickst und die tatsächliche Sensordatenverarbeitung etwas „beschönigt“. Eine echte Auswertung der Sensormessungen nimmt die App aber noch gar nicht vor, erst recht nicht langfristig. Er hatte eigentlich die Hoffnung, die zeitliche Schieflage noch mit Überstunden ausgleichen zu können. Nun aber weiß Frank, dass er nie und nimmer eine fertige App in acht Tagen präsentieren kann, die wirklich die Sensordaten aufbereitet. Was soll er tun, alles absagen? Fragen
Erschienen im Informatik-Spektrum 40(3), 2017, S. 300-301. Stefan Ullrich & Constanze Kurz Frank hat gerade seine Studentenzeit hinter sich gelassen und den ersten Job angetreten. Er arbeitet bei einem großen Konzern, der unter anderem Virtual-Reality-Systeme verkauft. Er hatte sich dort schon als Informatikstudent im Praktikum bewährt und eine Stelle als Junior Developer angeboten bekommen. Henriette ist ebenfalls Informatikerin und seine Vorgesetzte, Frank kennt sie vom Praktikum. Die beiden und drei Mitstreiter adaptieren Programme für ein großes VR-System, das vor allem an Fitness-Studios und gehobene Hotelketten vermarktet wird. Sie sind ein junges Team, keiner hat sein Studium vor mehr als drei Jahren abgeschlossen. Das VR-System ähnelt einem Fitness-Gerät, das es so auf dem Markt von keinem Konkurrenten gibt. Es besteht aus einem beweglichen Aluminium-Gestell mit Gurten, in das sich der Nutzer bäuchlings hineinlegt und anschnallt. Der gesamte Aufbau benötigt eine Stellfläche von etwa sechs Quadratmetern. Dazu gehört eine VR-Brille für den Kopf und verschiedene Knöpfe an beiden Händen. Das bewegliche Gestell ist informationstechnisch mit der Brille verbunden und bewegt sich passend zum abgespielten Programm, was eine bislang unerreicht hohe Immersion erzeugt. Man kann beispielsweise damit virtuell einen Flugdrachen steuern und dabei mit Trainingsstufen unterschiedliche Muskeln trainieren oder einfach den Ausblick genießen. Henriette und Frank entwickeln mit den anderen derzeit eine Software, die erstmals ein First-Person-Shooter-Spiel für das System anpasst. Der Nutzer fliegt in einem futuristischen kleinen Raumschiff und jagt im Weltall böse Aliens, auf die er schießen kann. Das neue Spiel steht vor der Demo-Phase, die im Konzern traditionell von einem anderen Team durchgeführt wird. Alle sind aufgeregt, als die Tester des fremden Teams zur ersten Demonstration kommen, und sehr erleichtert, dass es einigermaßen glattläuft. „Krass!“ sagt Michelle, „das war wahnsinnig spannend!“ Sie ist eine der Testerinnen, selbst Programmiererin und leidenschaftliche Gamerin. Es gab ein paar Fehler, die jetzt auszubügeln sind, aber nichts Gravierendes. Die zweite Demo-Phase ist in zwei Wochen angesetzt. Am Tag nach der zweiten Demo-Phase trifft sich Frank mit Michelle. Die beiden haben sich ein wenig angefreundet während des Testens und der Fehlersuche. Frank ist verwundert darüber, dass Michelle in der zweiten Testphase nicht mehr dabei war. Da scheint etwas nicht zu stimmen. Er fragt Michelle, was los sei. Sie wehrt erst ab, möchte nicht darüber reden, aber Frank lässt nicht locker. „Alpträume!“, bricht es auf einmal aus Michelle heraus. Frank blickt sie erschrocken an: „Von der virtuellen Alienjagd?“ Michelle erklärt dem erstaunten Frank, dass es sei, als wären die Bilder der explodierten Raumschiffe direkt in ihrem Kopf. Besonders schlimm seien aber die Szenen auf dem Planeten, wo die Aliens von oben erschossen werden. Man könne sich dem ja nicht entziehen, man müsse das mit ansehen, wenn man das Spiel nicht vorzeitig beenden will. Diese Bilder werde sie einfach nicht mehr los und habe den Eindruck, sie seien in ihrem Kopf festgefroren. Sie könne nicht mehr schlafen. Frank hat sowas noch nie gehört, dass eine virtuelle Realität jemanden so mitnehmen kann, Stunden oder Tage nach Benutzung des Systems. Umgehend informiert er die betroffenen beiden Teamleiter über Michelles Alpträume, denn er fühlt sich dazu verpflichtet. Henriette wirkt wenig überrascht: „Einen ähnlichen Fall hatten wir mit dem Flugsimulator vor neun Monaten“, sagt sie. Gleich zwei der Tester hätten von Panikattacken berichtet, sie mussten das Team wechseln. Es sei eben eine sehr realistische Darstellung, das sei ja gerade das Ziel ihrer Arbeit. Henriette entschließt sich nach kurzer Diskussion mit beiden Teams dazu, keine direkten Testaufgaben mehr von Personen durchzuführen zu lassen, die „allzu empfindlich“ sind. Fragen
Erschienen im Informatik-Spektrum 40(2), 2017, S. 223-224. Rainer Rehak & Stefan Ullrich Leo freut sich schon auf ihr Freiwilliges Soziales Jahr, zumal sie ihr Technik-Know-How einsetzen darf und soll. Als Leo von der Personalchefin durch die Räume geführt wird, muss sie die Augen etwas zukneifen: Die Büroräume der IT-Abteilung der karitativ tätigen Firma „Auxil.io“ sind im obersten Stockwerk des Gebäudes, viel Glas, viel Licht, erstaunlich wenig Kabelsalat. An der letzten Tür vor dem Besprechungsraum steht schon ein fröhlicher Herr mittleren Alters mit ausgestreckter Hand, „Barner, angenehm“. „Leo, ganz meinerseits“, erwidert die Absolventin des Freiwilligen Sozialen Jahrs. Er zeigt ihr den Arbeitsplatz, Schubladen mit Papier, Stift und Kleber sowie einem kleinen „thin client“ nebst TFT-Monitor. „Kann ich auch meinen eigenen Laptop anschließen?“, fragt Leo den IT-Leiter Barner. „Natürlich, wir haben auch WLAN.“ – „Mir wäre ’ne gepatchte RJ45-Buchse lieber“, gibt Leo zurück. „Um, wir haben so etwas leider nicht.“ Leos Blick fällt auf die thin clients und die IP-Telefone. „Ich nehm auch die hier“, sie zeigt auf eine freie Buchse. „Ach so, Netzwerk meinst du, na klar, wir müssten irgendwo noch Ethernet-Kabel haben.“  Cal’s Stack of Books – CC BY Cal Evans Was sie am Anfang noch für einen seltsamen Spaß hielt, wurde im Laufe der ersten Tage und Wochen Gewissheit: Der IT-Leiter Herr Barner hatte zu wenig Ahnung von Technik, er war eher ein „Power User“ denn ein System-Administrator. Die meisten technischen Probleme waren auch eher trivialer Natur, eine kurze Internet-Recherche reichte in der Regel aus. Leo wurde jedoch etwas mulmig, als Herr Barner eine selbst programmierte Fernwartungssoftware „S-Tel“ vorführte. Sie war in einer Skript-Sprache geschrieben, die für persönliche Homepages vielleicht ausreichen mochte, aber einer so großen Firma wie „Auxil.io“ nicht gut zu Gesicht stand. Schon bei der Kurzeinweisung fiel ihr eine gravierende Sicherheitslücke auf: Wenn die „S-Tel“-Seite von den Büroräumen aufgerufen wurde, gab es keine Passwort-Abfrage. „Ja, ich habe die IP-Adressen hier frei geschaltet, damit das schneller geht, wenn ein Fehler auftritt“, erklärt Herr Barner, „außerdem können die Nutzerinnen dann selbst einfache Fixes vornehmen.“ Die Fernwartungssoftware war von außen über eine verschlüsselte https-Verbindung zu erreichen, Anfragen an S-Tel wurden in der Regel per Browser-Formular über POST gestellt. In der Software kann man diverse Filter setzen und Suchanfragen verfeinern. Damit man das nicht jedes Mal neumachen muss, kann man Bookmarks setzen, die bestimmte Filter und Suchanfragen in der URL speichert. Das machte Leo stutzig, sie versuchte daraufhin, per Hand einfach ein paar ihr bekannte Variablen in der URL einzugeben und siehe da, sie konnte das System auch komplett über GET-Anfragen steuern (bis auf die Mediendatenbank). In einem weiteren Schritt rief sie die Adresse von S-Tel einfach nur per HTTP auf, also ohne Verschlüsselung, und auch hier konnte sie das System komplett steuern. Erst am Wochenende probierte sie, ob sie auch von zu Hause darauf zugreifen konnte. Ja, das System hat zwar eine Passwort-Abfrage, aber ein kleines Adminskript ließ sie direkt auf die Datenbank zugreifen. Leo beschloss, ihre Entdeckungen Herrn Barner mitzuteilen, doch der war leider für die nächsten zwei Wochen im Urlaub, wie ihr die automatische Antwort mitteilte, und so lange wollte Leo nicht warten. Sie ging am Montag direkt zum Geschäftsführer Ralph, der sich gerade in der Teeküche einen Rooibus-Tee aufgoß. Er unterbrach sie bereits nach wenigen Worten: „So dringend wird’s jetzt auch nicht sein. Das hat noch Zeit, bis der Urs wiederkommt“, womit er wohl Herrn Barner meinte. Wie es der Zufall wollte, kam es schon nach wenigen Tagen zu einem Zwischenfall: Die Server-Software stürzte immer wieder ab, Logins funktionierten nicht und die Lüftung im Server lief auf Hochtouren. Leo kannte leider das Root-Passwort nicht, wusste aber, dass Herr Barner es auf einen kleinen gelben Notizzettel geschrieben hatte. Als sie sich unbeobachtet fühlte, griff sie in die Schublade, fand den Zettel und loggte sich auf den Server ein. Die Festplatte war voll bis auf das letzte Byte. „Oh je“, dachte Leo, „das /var-Verzeichnis hat keine eigene Partition, von logrotate hat der Urs wohl auch nichts gehört“. Es wurden mehrere Angriffe auf den Server verzeichnet, die entsprechenden Log-Files waren mehrere Gigabyte groß und haben schließlich die Platte vollgeschrieben. Sie löschte die ältesten Logfiles, schaltete Webserver und ssh-Daemon ab und ging zu Ralph. Der war bereits auf dem Weg zu ihr und schnauzte sie an: „Was hast du mit dem System gemacht, nichts funktioniert mehr!“ Leo verteidigte sich, dass sie das System lieber abschalten wollte, als weiterhin einen potentiell kompromittierten Server am Netz zu lassen. „Darüber hast du nicht zu befinden, wir rufen gleich Urs an.“ Herr Barner konnte von der Ferne nicht allzuviel tun, befand sich auch auf einem andern Kontinent und war außerdem sehr müde. Leo hatte bisher weder den Dateiserver genutzt noch den Kalender auf ihrem Mobiltelefon synchronisiert, daher wusste sie nicht, dass der S-Tel-Server auch gleichzeitig die Cloud des Unternehmens war. Der Server für die Thin-Clients war nicht betroffen, also konnten die Mitarbeiterinnen und Mitarbeiter zumindest noch E-Mails lesen und schreiben, es war also, zumindest Leos Meinung nach, nur ein ärgerlicher Zwischenfall. Ralph zwang sie, den Server wieder hochzufahren, was sie auch widerwillig tat. Als Herr Barner wieder aus dem Urlaub zurück kam, wurde sie zu einem Dreiergespräch eingeladen. Ralph und Herr Barner saßen nebeneinander an einem Tisch, Leo auf einem Stuhl in der Mitte des Besprechungsraums. Sie fühlte sich wie vor einem Tribunal, obwohl es als „Gespräch“ angekündigt war. Es sei schon ungewöhnlich, dass die technischen Probleme zeitlich mit ihrer Anwesenheit zusammenfielen. Als sie sich verteidigte und die Kompetenz von Herrn Barner anzweifelte, wurde sie als „undankbar“ und „Verleumderin“ bezeichnet. Der Geschäftsführer beschloss, dass Leo erst einmal keinen Zugang mehr zu kritischen Systemen mehr bekommen sollte. Sie wurde zwangsbeurlaubt. In der ersten Nacht war ihr zum Heulen zumute, aber schon in der darauf folgenden Nacht beschloss sie, die Unfähigkeit von „dem Urs“ zu beweisen. Natürlich erst, nachdem sie die Dienststelle gewechselt haben würde. Dann würde sie sich in das System einhacken und lauter Katzenbilder in sein Cloud-Verzeichnis stellen oder peinliche Termine bei ihm in den öffentlich einsehbaren Kalender eintragen. Doch einige Wochen später hatte sie all das vergessen, ihre neue Dienststelle war toll, die Kollegen sehr freundlich, erstaunlich jung und technisch hoch versiert. Aus reiner Neugier klickte sie auf die ihr bekannte URL von Auxil.io und stellte fest, dass die bekannten Sicherheitslücken nach wie vor bestanden. Sie schrieb eine E-Mail an Herrn Barner und Ralph, „nichts für ungut, aber ein böser Mensch könnte euer System sehr einfach lahmlegen“, und dachte sich nichts weiter dabei. Bis sie schließlich eine Einladung der Polizei erhielt, dass sie wegen einer Drohungs-Mail angezeigt wurde und sich bitte erklären sollte. Fragen
Erschienen im Informatik-Spektrum 40(1), 2017, S. 114-116. |
||||
|
Copyright © 2026 GI-Fachgruppe Informatik und Ethik - CC-BY-SA
Powered by WordPress & Atahualpa |
||||
Beiträge als RSS abonnieren
Kommentare