Archiv

Fallbeispiel Verhaltenserkennung

Benjamin Kees & Rainer Rehak (ohne Autorenvermerk erschienen)

Während Hendriks Informatikstudium kam ein neues Spielekonsolenkonzept auf den Markt, bei dem der eigene Körper den Spielcontroller ersetzt, indem eine Kamera die Bewegungen des Spielers analysiert. Begeistert kaufte sich Hendrik eine solche Spielkonsole. Die Technik dahinter interessierte ihn so sehr, dass er sich in seiner Abschlussarbeit mit einem speziellen Verfahren zur Modellierung und Erkennung menschlicher Bewegungen in Videobildern beschäftigte.

The Mall. - CC BY-NC-ND Pat Dalton...

The Mall. – CC BY-NC-ND Pat Dalton…

Kurz nach der Verteidigung der Arbeit erstellte er sich ein Profil bei einem Online-Businessportal mit Informationen über sein Thema und bekam schon wenig später ein gut dotiertes Jobangebot von der noch jungen Sicherheitsfirma „v-Watch“. Diese vertrieb moderne Videoüberwachungs­anlagen, wobei der neuartige Ansatz darin bestand, die ständige Beobachtung der Kamerabilder überflüssig zu machen: Die Systeme sollten auffälliges Verhalten automatisch erkennen.

Obwohl er lieber irgendwas mit bewegungsbasierten Computerspielen gemacht hätte, nahm er das Angebot neugierig an und arbeitete kurz darauf mit der ebenfalls neu eingestellten Franziska zusammen, die sich mit vollautomatischen Computer­lernverfahren beschäftigt hatte. Bislang gestaltete sich die händische Modellierung aller möglicher Arten von Verhaltensauffälligkeiten viel zu aufwändig, daher war die Verknüpfung von Franziskas Lernverfahren mit Hendriks Bewegungserkennung angedacht.

Das System sollte anhand von Beispielvideomaterial normales von auffälligem Verhalten zu unterscheiden lernen. Würde beim späteren Einsatz das beobachtete Verhalten zu sehr von der gelernten Normalität abweichen, sollte das Sicherheitspersonal automatisch alarmiert werden.

Nach einigen erfolglosen Versuchen bei der Erkennung komplexerer Handlungen konzentrierten sich Hendrik und Franziska zunächst auf die Auswertung von Körpersprache. Diesbezügliche Auffälligkeit wurde bei den wöchentlichen Teamsitzungen als vielversprechendes Indiz für eventuell bevorstehende gewalttätige oder anderweitig kriminelle Handlungen – also als sicherheitsrelevant – erachtet.

Da der Firma jedoch kein entsprechendes Filmmaterial zum Trainieren des Systems zur Verfügung stand und auch das Engagieren von Schauspielern nicht vom Budget abgedeckt werden konnte, entschied man sich kurzerhand, die Angestellten selbst diese Rolle übernehmen zu lassen. Hendrik war von dieser Idee gar nicht begeistert, denn er hatte Bedenken bezüglich der Brauchbarkeit des so entstehenden Materials.

Die Aufnahmesession wurde jedoch im Großen und Ganzen ein lustiger Tag, der auch das Arbeitsklima im Team von v-Watch spürbar verbesserte. Am Vormittag wurde Material für das Anlernen von Normalverhalten gedreht und nachmittags widmete man sich den Auffälligkeiten, mit denen das System später getestet werden würde. Hendrik wurde von seinen Kollegen nach der Sichtung der Bilder noch wochenlang humorvoll „Gorilla-Mann“ genannt. Nur Franziska – die einzige Frau des kleinen Teams – hatte keine Lust, bei dem Theater mitzumachen.

In der nächsten Zeit passte Franziska die Lernverfahren so an, dass sie für die Aufnahmen die erwarteten Ergebnisse lieferten. Nach den nun erfolgreichen Tests wurden Hendriks ursprüngliche Bedenken durch die Euphorie und Anerkennung der anderen über die gute gemeinsame Arbeit sowie den funktionierenden Prototypen zerstreut.

Nach einigen intensiven Monaten mit vielen Überstunden wurde das fertige System zum ersten mal in einem Einkaufszentrum installiert. Besonders Hendriks und Franziskas Modul lieferte viele Warnhinweise. Bei einer Evaluierung berichtete der Kaufhaus­detektiv stolz, dass er die vom System als verdächtig eingestuften Leute immer ganz genau im Auge behalten würde. Zwar sei die Kriminalität im Kaufhaus insgesamt nicht signifikant gesunken, die Hinweise – erfahrungsgemäß meist gegen männliche Jugendliche – hätten sich jedoch schon mehrere Male bestätigt: Durch die vom System angestoßene intensivere Beobachtung war man des Öfteren auf Diebstähle und Rangeleien aufmerksam geworden. Als er dies hörte, begann Hendrik zu zweifeln, ob „sein“ System wirklich eine gute Antwort auf das gestellte Problem darstellte, denn es ging hier nicht um ein Computerspiel und falsche Bewegungen hatten echte Konsequenzen.

Fragen

Nutzen:

  • Was sind „auffälliges“ und „verdächtiges“ Verhalten und inwiefern hängen diese zusammen?
  • Auf welchen angenommenen Zusammenhängen von auffälligem und kriminellem Verhalten basiert das oben beschriebene System?

Nachvollziehbarkeit:

  • Sind die Auffälligkeitsalarme für den Kaufhausdetektiv nachvollziehbar und nennt er sie zu Recht „Verdächtigkeitsalarm“?
  • Sind die Auffälligkeitsalarme für Hendrik und sein Team nachvollziehbar?
  • Ist eine Nachvollziehbarkeit für die Arbeit des Sicherheitspersonals erforderlich?

Testmaterial und Betroffene:

  • Würden sich die Ergebnisse beim Praxiseinsatz ändern, wenn im Testvideomaterial nicht (nur) lebhafte junge Männer zu sehen gewesen wären?
  • Würde es einen Unterschied ergeben, wenn Schauspielstudenten engagiert oder echte Videobilder aus dem Kaufhaus verwendet worden wären?
  • Was bedeutet das obige System für junge Männer? Was bedeutet es für ältere Frauen? Können derartige Diskriminierungen verhindert werden?

Auswirkungen für Betroffene:

  • Welche Auswirkung auf die Betroffenen hat das Wissen, dass Computer ständig alle Bilder des öffentlichen Raumes auswerten?

Erschienen in Informatik Spektrum  37 (5), 2014, S. 503–504

Ein Kommentar zu Fallbeispiel: Verhaltenserkennung

  • R.Brause

    Dieser Fall läßt sich auf zwei Probleme reduzieren:
    – zum Einen ist das implementierte System sehr dilettantisch trainiert. Ein gutes lernendes System lernt aus echtem Videomaterial – und nicht aus Schauspielern. Trash in – trash out! Das System ist so nicht verwendungsfähig.
    – Angenommen, es wäre super trainiert und mit unabhängigem echten Material getestet. Sollte es dann eingesetzt werden? Ist es zuverlässig? Aus meiner Sicht reduziert sich das auf die bekannte Frage: Dürfen Polizisten Menschen mit dunkler Hautfarbe öfter kontrollieren, nur weil eine Statistik sagt, dass Menschen mit dunkler Hautfarbe eine höhere Kriminalitätsrate haben?
    Hier scheiden sich die Geister. Die einen sagen ja, weil Polizeiarbeit effizent sein muss, und die Beachtung von Wahrscheinlichkeiten die Arbeit effizient macht, und die anderen sagen nein, was dies eine inhumane Rassendiskriminierung darstellt.
    Für den Kaufhausdetektiv erhöht sich die Effizienz, aber manche Kunden fühlen sich verfolgt.
    Die einzige Anwendung könnte aus meiner Sicht nur dann erfolgen, wenn auch wirklich etwas Relevantes (Diebstahl etc.) beobachtet wurde und dies automatisch dem Detektiv übermittelt wird. Reine Verdachtsfälle reichen hier nicht aus.

Einen Kommentar schreiben

 

 

 

Diese HTML-Tags können verwendet werden

<a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <s> <strike> <strong>