Fallbeispiel: Die Rentnerin und der Roboter

Heutzutage gehören moderne Technologien für viele ältere Menschen genauso zum Alltag wie für jüngere. Trotzdem gibt es gerade bei Pflegebedürftigen einige schwierige Fragen zu beantworten.

Thure Dührsen und Gudrun Schiedermeier

Was zunächst vielversprechend klingt, bringt einige Tücken mit sich: Der Einsatz von Robotern in Pflegeeinrichtungen wirft viele Fragen auf, wie dieses Fallbeispiel zeigt.

Clemens hat gerade seinen Bachelorabschluss in Informatik gemacht und sitzt mit ein paar Kommilitoninnen und Kommilitonen in Bierlaune zusammen. Auch Andrea, die Philosophie studiert, ist mit dabei. Gemeinsam überlegen sie, ob sie sich mit dem an der Uni entwickelten Reinigungsroboter selbstständig machen sollen. Andrea merkt an, dass gerade in Pflegeeinrichtungen solche Roboter dringend notwendig seien. „Wenn die Böden verschmutzt sind, müssen sie sofort gereinigt werden. Und nicht immer sind gleich Reinigungskräfte vor Ort. Dann müssen die Pflegekräfte selbst einspringen und haben dadurch weniger Zeit für die Pflegebedürftigen.“ Clemens ist hellauf begeistert. „Das ist die Chance für unseren Reinigungsroboter. Damit fangen wir an.“

Am nächsten Tag gehen die beiden in die örtliche Altenpflegeeinrichtung, die Sonnengarten-Villa. Hier sind sie gut bekannt, denn zu Studienzeiten hatten sie Spielenachmittage mit den Bewohnerinnen und Bewohnern veranstaltet. Aufmerksam gehen sie durch die Räume. In einem Tagesraum beobachten sie eine alte Dame, die hingebungsvoll die Roboter-Robbe Paro streichelt. Sie lächelt glücklich, als Paro leise fiept. Sie schaut auf und sagt zu Andrea, die sie von den Spielenachmittagen kennt: „Wenn sie jetzt noch etwas sprechen könnte: Ach, wäre das schön.“

Ein Herr im Rollstuhl wird von einem Assistenzroboter beim Trinken unterstützt, als ein Saugroboter mit lauten Geräuschen auf ihn zufährt. Er erschrickt und schreit den Roboter an: „Weg, weg!“ Gleich wird er von einer Pflegerin beruhigt, die den Roboter abstellt und in einen anderen Raum bringt. Von ihr erfahren Clemens und Andrea, dass einige alte Pflegebedürftige ängstlich oder gewaltsam, zum Beispiel mit Tritten, auf den Lärm und die Bewegungen des Saugroboters reagieren. Andrea hat spontan einen Lösungsvorschlag. „Dann müsst ihr den Roboter eben nett sprechen lassen, wenn er auf die alten Leute zufährt …“ Clemens findet die Idee gut, kommt aber ins Grübeln und überlegt, wie sie die Geräusche ihres Reinigungsroboters eindämmen können, sodass die Sprachausgabe gut zu verstehen ist.

Am Abend erzählt er seiner Freundin Silke begeistert von den Ideen. Sie ist aber skeptisch: „Ich finde, dass ihr die Alten mit so einem Roboter täuscht. Stell dir mal deine Oma vor, die darauf reinfällt und meint, sich mit einem echten Menschen zu unterhalten.“ Clemens sieht das anders. Er erzählt Silke von Start-ups, die noch viel weiter gehen. „Hast du schon mal was von Deadbots gehört? Das sind Chatbots, durch die du dich mit Verstorbenen unterhalten kannst. Wenn du nur ein paar Audioschnipsel hast, imitieren die perfekt die Toten. (https://www.watson.ch/wissen/digital/446276751-wenn-tote-redenstart-ups-schaffen-digitale-versionen-von-verstorbenen) Stell dir mal das in einem Altenheim vor!“

Silke lässt sich davon nicht beeindrucken: „Ja, in der Tat, lass dir das mal auf der Zunge zergehen! Du willst nun sagen, deine Oma sei angesichts der perfekten Imitation, sagen wir von ihrem geliebten Karli, geradezu verzückt. Ich glaube aber, dass sie das komplett verwirren würde. Sie würde nicht erkennen, ob sie mit einem echten Menschen redet oder ob die Stimme von einer Maschine kommt. Und selbst wenn: dass die Deadbots nur eine arg begrenzte Menge Material gespeichert haben, das wird sie herausfinden und dann sehr enttäuscht sein. Und wenn du sie das nächste Mal besuchst, wird sie dir das vorhalten: ‚Der sagt ja immer nur dasselbe! Das ist langweilig.‘ Und wie wird es erst dir selbst gehen, wenn deine Oma gestorben ist und du auf eine KI-Unterhaltung mit ihr angewiesen bist! Willst du das jahrzehntelang machen? Und angenommen, der Bot kann wirklich überzeugend argumentieren: Ich weiß ja nicht, mit welchen Daten solche Systeme trainiert werden – was, wenn sie auf die falschen zugreifen und dadurch Straftaten in Betracht ziehen? Stell dir mal folgendes Szenario vor: Hans-Jürgen ist ziemlich knapp bei Kasse, damit liegt er seinem Sohn ständig in den Ohren – warum sollte er es nicht auch dem Chatbot erzählen und der schlägt ihm einen nächtlichen Streifzug durch die Räume vor? Ausschließen kannst du das nicht!“

Clemens ist ernstlich bestürzt. Aber Silke kommt jetzt erst richtig in Fahrt: „Die Chatbots werden im Laufe der Zeit jede Menge über das familiäre Umfeld der Menschen im Heim erfahren. Und irgendwann sagt ein Roboter vielleicht zu deiner Oma: ‚Du hast doch schon so lange nichts mehr von deinem Enkel gehört. Ob es ihm gut geht?‘ Und dann ist sie aufgewühlt und kann nicht mehr schlafen. Angenommen, der Bot kennt den Ausdruck ‚sozialverträgliches Frühableben‘. Dann wird er deiner Oma irgendwann nahelegen, dass sie sich die Radieschen von unten angucken soll!“

Obwohl Clemens erkennt, dass hier jede Menge Fragen einer Antwort harren, beschließt er, den Leiter der Sonnengarten-Villa aufzusuchen, der ihn noch in derselben Woche empfängt. „Reinigungs- und Unterhaltungsroboter in einem? Immer her damit! Billig wird das wohl nicht, aber auf lange Sicht: Wenn ich Personalkosten einsparen kann, prima!“

Fragen

• Darf man alte Menschen mit Chatbots in einer Unterhaltung täuschen, indem man ihnen die Stimmen anderer Personen vorgaukelt? Wie sieht es aus, wenn es sich um demente oder psychisch kranke Menschen handelt?
• Ist es ethisch vertretbar, Stimmen Verstorbener in einem Altenheim für einen Unterhaltungsroboter zu verwenden?
• Kann man sicherstellen, dass die Daten, die ein Unterhaltungsroboter in den Gesprächen sammelt, nicht anderweitig verwendet werden, z. B. wenn er sich mit einer anderen pflegebedürftigen Person unterhält?
• Wie verhindert man, dass ein Chatbot Pflegebedürftige zu unklugen oder gefährlichen Handlungen verleitet?
• Wie erklärt man Kindern, dass sie einen Deadbot trainieren? Welche langfristigen seelischen Schäden sind hier zu befürchten?
• Welche Auswirkungen könnte der breite Einsatz von Pflegerobotern auf die Ausbildung von Pflegekräften haben? Auf ihre Motivation?
• Wie geht man mit versagender Hardware um? Wie überwacht man die Pflegeroboter?Unter welchen Bedingungen ist es zwingend nötig, die Pflege durch einen Roboter abzubrechen und stattdessen einen Menschen übernehmen zu lassen? Was passiert, wenn dann nicht genügend Pflegepersonal zur Verfügung steht?
• Wie geht man in solchen Fällen mit einem großflächigen Stromausfall um?

erschienen in .inf 02. Das Informatik-Magazin, Sommer 2023, https://inf.gi.de/02/gewissensbits-die-rentnerin-und-der-roboter