Bei Coop und Lidl kann KI entscheiden, wer an der Selbstbedienungskasse kontrolliert wird. Kolumnist Reto Vogt fordert mehr Transparenz. Coop sagt, das könnte die Kundschaft verunsichern.
Die Kontrollen an den Selbstbedienungskassen sind nervig. Auch bei mir schlugen die Systeme schon Alarm und liessen jemanden vom Verkaufspersonal herbeieilen, um nochmals ein paar Lebensmittel zu scannen.
So verständlich die Stichproben sind, so unklar ist das Prinzip dahinter: Entscheidet ein Zufallsgenerator? Spielt meine Einkaufshistorie eine Rolle? Oder ist es ganz einfach jeder siebenundzwanzigste Einkauf? Nun kommt eine weitere Möglichkeit hinzu: Künstliche Intelligenz.
Wie der Ktipp (Paywall) diese Woche berichtete, überwachen bei Coop und Lidl Kameras die Kunden an den Selbstbedienungskassen. Eine KI-Software analysiert die Aufnahmen in Echtzeit und löst im «Verdachtsfall» eine Kontrolle aus. Laut dem Bericht filmen bei Coop Kameras von der Decke aus vor allem den Kassentisch und die unmittelbare Umgebung. So soll die Software erkennen, ob Produkte korrekt gescannt werden.
Was macht uns verdächtig?
Aber wie genau das funktioniert und was eine Kontrolle auslöst, bleibt ein Geheimnis der Detailhändler. Es gibt mehrere Möglichkeiten:
Die KI könnte …
- … erkennen, ob ein Produkt im Einkaufswagen lag, das danach nicht gescannt wurde.
- … «ungewöhnliche» Bewegungsabläufe registrieren. Zum Beispiel, wenn ein:e Kund:in ein teures Produkt mehrfach in die Hand nimmt.
- … Rückschlüsse aufgrund der Kleidung von Kund:innen ziehen.
- … Menschen aufgrund ihrer Hautfarbe, ihres Alters oder anderer äusserer Merkmale unterschiedlich bewerten.
- … Menschen mit körperlichen Einschränkungen häufiger als verdächtig einstufen, weil deren Bewegungsabläufe von den erlernten Mustern abweichen.
Das ist alles Theorie. Zudem gibt Coop an, Gesichter vor der Analyse zu verpixeln. Welche dieser Möglichkeiten tatsächlich zum Einsatz kommen, ist unklar. In den Unterlagen, die der Ktipp einsehen konnte, sind die entsprechenden Passagen geschwärzt. Einzig der Produktabgleich wird im Bericht näher beschrieben. Allerdings beruft sich das Magazin dabei auf Aussagen von Herstellern vergleichbarer Systeme.
Dass ein Produkt nicht gescannt wird, bedeutet übrigens noch lange nicht, dass jemand stehlen will. Eine Studie der Universität Leicester zeigt, dass an Selbstbedienungskassen zahlreiche Fehler passieren (etwa durch schlecht lesbare Barcodes, falsch ausgewählte Produkte oder Bedienungsfehler, Gratismuster, …). Und dass Detailhändler oft kaum unterscheiden können, ob ein Produkt absichtlich oder versehentlich nicht gescannt wurde. Für ein KI-System macht das die Ausgangslage nicht einfacher. Es könnte durchaus zuverlässig erkennen, dass ein Produkt nicht gescannt wurde. Daraus ableiten, ob dahinter Absicht steckt, kann es aber nicht.
Das Schweigen in Basel
Nichts desto trotz kommen in rund 50 Coop-Filialen solche Systeme bereits zum Einsatz. In welchen, will der Detailhändler nicht verraten. Nach welchen Kriterien die KI eine Kontrolle auslöst, verschweigt Coop ebenfalls. Gegenüber dem Datenschutzbeauftragten begründete Coop laut Ktipp, warum es auf zusätzliche Hinweise verzichtet: Diese würden die Kundschaft «eher verunsichern».
Diese Aussage erinnert an den ehemaligen deutschen Innenminister Thomas de Maizière. Als er 2015 nach einer Terrorwarnung ein Fussballspiel absagen liess, wollte er die Gründe dafür nicht näher erläutern: «Ein Teil dieser Antworten würde die Bevölkerung verunsichern», sagte er stattdessen.
Natürlich lässt sich eine Terrorwarnung nicht mit Kontrollen an Selbstbedienungskassen vergleichen. Die Haltung dahinter ist aber dieselbe: Wer entscheidet, bestimmt, was Betroffene darüber erfahren – und schafft Intransparenz über das eigene Handeln.
Wenn der Zufall keiner mehr ist
Was ist nun der Unterschied zwischen einer Kontrolle, die nach dem Zufallsprinzip oder durch KI ausgelöst wird? Erstere trifft jeden Menschen mit der gleichen Wahrscheinlichkeit. Eine algorithmisch gesteuerte Auswahl kann bestimmte Situationen oder Verhaltensweisen häufiger erfassen und damit bestimmte Menschen benachteiligen oder sogar diskriminieren. Ob das bei Coop geschieht, wissen wir nicht. Ändern kann das nur Coop selbst, indem der Detailhändler offenlegt, nach welchen Kriterien seine Systeme Kontrollen auslösen.
Warum Coop das nicht tut? Tja, das bleibt unserer Fantasie überlassen. Immerhin: Laut Ktipp hat der Eidgenössische Datenschutz- und Öffentlichkeitsbeauftragte die Unterlagen geprüft und keine Verletzung des Datenschutzrechts festgestellt. Datenschutzrechtlich mag also alles in Ordnung sein. Die Kundschaft bleibt trotzdem im Dunkeln.
8 Kommentare
Ich kann mir vorstellen, dass über die Regeln nicht gesprochen wird, weil das nach Überlegungen der Betreiber einem effektiven Betrüger aufzeigt, wie er die Prüfungen für die erfolgreiche Umsetzung des Betrugs besser umgehen kann.
Dabei wäre es (aus meiner Sicht) so einfach: den Platz für eine oder 2 weitere bediente Kassenlinien nutzen.
Das ist sicher eine der Begründungen, das glaube ich auch. Und ja, mehr Kassenlinien wären absolut zu befürworten. Das ist aber halt teurer als eine KI. (Mutmasslich).
Oder aber als Kunde die ‚IchArbeiteNeuerdingsImCoop-Kasse‘ konse uent nicht nutzen. Solange die Kunden die Kassenarbeit übernehmen spart man Personal. Weigern sich diese muss man Zwang oder Anreiz bieten. Beispielsweise mein Kollege welcher immer Mühe hat und dann ein Brügeli bekommt.
Ich kenne den Coop-Case aus eigener Erfahrung ziemlich gut. Ich persönlich – ein Normalo mit Schweizer Wurzeln, wurde noch nie an einer Coop-Kasse kontrolliert. Meine Partnerin dagegen, ebenfalls Schweizin, erfolgreiche Unternehmerin mit südländischen Wurzeln, wird seit Jahren jedes Mal – und zwar wirklich jedes Mal an der Coop-Kasse kontrolliert – sei es in Zürich, im Oberland, in Bern oder im Tessin. Wir haben das getestet. Steht sie bei mir an der Kasse, werde auch ich kontrolliert. Steht sie an einer anderen Kasse, werde ich nicht, sie aber mit 100% Trefferquote kontrolliert.
Es ist offentlichtlich, dass der Algorithmus sie als potenzielle Diebin liest und deshalb kontrolliert. Interessant dabei: Noch nie war eine der unzähligen Kontrollen „erfolgreich“. Stets war alles korrekt. Der Algorithmus lernt offensichtlich nicht. Vor allem aber funktioniert er nach Mustern, die vermutlich verfassungswidrig sind. Kein Wunder legt Coop nicht offen, nach welchen Kriterien die Kontrolle stattfindet.
@Toby: Zumindest bei jenen Kamera mit KI-Systemen sollten Äusserlichkeiten keine Rolle spielen, das schreibt Coop in der Datenschutzerklärung: „Wir setzen die KI nicht ein, um Sie als Person, Ihr Gesicht, Ihre Statur oder sonstige biometrische Merkmale zu analysieren.“ Noch immer gibt es aber auch vom Personal ausgelöste Kontrollen und dort kann das Aussehen natürlich eine Rolle spielen.
Das schliesst zumindest Verhaltensweisen nicht aus.
Ist das PCI-DSS-compliant, wenn das Kartenterminal von der Kamera erfasst wird?
Es ist zumindest Datenschutz-Compliant, gemäss EDÖB.