Fallbeispiel: Der Assistent

Felipe hat in seiner Firma nach einer mehrmonatigen Beratung eines Spezialisten für Optimierung der Geschäftsprozesse nun mit allerhand neuen IT-Systemen zu kämpfen. Er und seine Kollegen nutzen seit wenigen Tagen gemeinsame digitale Kalender für den besseren Überblick in die Terminlage. Ihre neuen Smartphones haben speziell konfigurierte Anwendungen, die vieles an Kommunikation zwischen den Kollegen, aber auch mit Kunden selbständig übernehmen.

Anfangs läuft alles noch etwas holprig, aber schon nach ein paar Tagen Übung und mehreren Anpassungen in der Konfiguration stellt sich heraus, dass das in die Arbeitsprozesse integrierte System nutzbringend ist und besonders die häufig sehr ähnlichen Nachrichten korrekt an die Adressaten sendet. Das spart Zeit und langweilige Arbeiten, die nun automatisiert im Hintergrund ablaufen.

Das System wird von der Firma Golemmata AG geliefert, die bereits seit vielen Jahren solche digitalen Assistenzsysteme herstellt. Mit dem »Life Integration Smart Assistant« ist der Durchbruch gelungen. Die Software reagiert auf Spracheingaben, synchronisiert automatisch sämtliche Termin- und Adressbucheinträge mit einer zentralen Datenbank und kann sogar geplante Veranstaltungen koordinieren, natürlich mit Hilfe von mehreren anderen Assistenzsystemen, die für die Smartphones von berufstätigen Menschen angeboten werden.

Felipes Freund Marco findet das System auch sehr praktisch, da er sich in seinem Beruf als freischaffender Künstler manchmal nicht gründlich genug um Termine kümmert. Felipes Smartphone haben sie gemeinsam so konfiguriert, dass es auch automatisch Marcos Kalender füllt, sie verabreden sich sogar mit Hilfe der Software. Marco hat für sein eigenes Telefon ebenfalls die Software von Golemmata gekauft, um den vernetzten Kalender von Felipe einsehen zu können. Beide sind erfreut über die automatischen Botschaften, die versendet werden, wenn Felipe auf dem Heimweg im Stau steht. Sein Smartphone schickt schon bei einer Verspätung von zehn Minuten eine freundliche Warnung an Marco.

In Felipes Firma wird das »Life Integration Smart Assistant«-System, das wegen seiner Sprachausgabe mit der weiblichen Stimme schon bald den zärtlichen Namen „Lisa“ erhält, zur unersetzlichen Stütze. Es hilft bei der Organisation des alltäglichen Arbeitens wie eine vorausschauende Sekretärin: Lisa bucht Reisen und Hotels, plant Reiserouten und ordert dafür die Tickets. Sie koordiniert zudem die beiden Schreibkräfte, die sich Felipe und seine Kollegen teilen: Nach jeweiligem Arbeitsbedarf werden sie automatisch gebucht.

In der neuesten Version kann Lisa auch den Standort genauer einbeziehen, um beispielsweise Reiserouten für die Abrechnung aufzuzeichnen oder bestimmte Zugangsberechtigungen für besonders gesicherte Gebäude bei Bedarf freizuschalten. Sie sagt auch automatisch Termine ab, falls sich der Besitzer des Handys noch zu weit vom Zielort entfernt aufhält, um ihn wahrnehmen zu können. Selbst die Zeiten im betriebseigenen Kindergarten werden mit Hilfe von Lisa koordiniert.

Marco freut sich anfangs mit Felipe über das oft zeitsparende System, das auch Spaß bei der Arbeit bringt durch manchmal lustige Formulierungen oder, seltener, auch durch Fehler wegen Namens- oder Ortsverwechslungen. Da die Software aber bei weitreichenden Kommunikations- oder Buchungsvorhaben zur Sicherheit an die Nutzer Nachfragen stellt, sind bisher keine groben Fehler passiert.

Doch Marco wird das Gefühl nicht los, dass die Software mit der Zeit die Tendenz von Felipe registriert hat, bei konfligierenden Terminen oft das Geschäftliche vorzuziehen. Er möchte eben Karriere machen und scheut auch Überstunden nicht. Er fragt eines Tages Felipe beiläufig, ob Lisa auch selbstlernende Komponenten hat. Stolz bejaht Felipe und erklärt, dass diese Lernfähigkeit das System noch nutzbringender gemacht hätte, als es bereits anfangs gewesen war.

Lisa leitet aus den Prioritäten und Zeitabläufen, die von Felipe und den Kollegen gesetzt werden, bestimmte Vorhersagen für anfallende Entscheidungen ab. So muss die Software nicht mehr bei jeder Kleinigkeit nachfragen und arbeitet entlang bereits bekannter und täglich neu hinzukommender Entscheidungsmuster. Marco kann sich des Eindrucks nicht erwehren, dass er bei privaten Verabredungen immer häufiger Lisas freundliche Absagenachrichten im Namen von Felipe erhält. Kino-Abende mit Freunden bestreitet er immer häufiger allein. Marcos entwickelt eine gewisse Abneigung gegen Lisa, mit dem System verbindet er dauernde Absagen und Rückweisungen. Er hat keine Lust mehr auf dieses halbautomatisiert organisierte Leben.

Felipe hingegen kann sich ein Leben ohne Lisa gar nicht mehr vorstellen. Es ist so ungemein praktisch, nicht mehr jede SMS oder E-Mail selbst schreiben, sich nicht mehr um Reisepläne kümmern zu müssen. Sein Leben ist viel effizienter, er hat kaum noch Zeitverluste bei Organisation und Logistik.

FRAGEN

  • Wie ist es ethisch zu bewerten, dass Lisa selbständig Entscheidungen trifft?
  • Ist es bereits ein Problem, wenn Lisa lediglich »Kleinigkeiten« selbständig entscheidet?
  • Wie sieht es mit der Herstellerfirma Golemmata aus – hat sie ethische Verpflichtungen bei der Programmierung oder Implementierung des Systems? Wie viel Entscheidungsfreiheit darf der Hersteller Lisa geben?
  • Würden sich ethische Fragestellungen ergeben, wenn die Daten für das lernende System bei der Firma Golemmata gespeichert würden? Welchen Unterschied machte das?
  • Felipe nutzt das System sowohl geschäftlich als auch privat. Macht es einen Unterschied, ob geschäftsinterne Termin nach außen, beispielsweise für Marco, sichtbar werden? Kann das ein ethisches Problem sein?
  • Wie ist es zu bewerten, wenn zwischenmenschliche Interaktionen und Kommunikation nach Effizienzkriterien optimiert werden?
  • Wie sollte sich Marco verhalten, wenn er das Gefühl hat, von Lisa benachteiligt zu werden?
  • Ist Marcos Abneigung dem System gegenüber nicht eher dem Verhalten von Felipe zuzurechnen? Lisa unterstützt doch lediglich die Planungen, sie trifft doch keine größeren Entscheidungen allein.

Ein Kommentar zu Fallbeispiel: Der Assistent

Einen Kommentar schreiben

 

 

 

Diese HTML-Tags können verwendet werden

<a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <s> <strike> <strong>