Siehe verwandten Artikel: Mord im Zeitalter von Amazon – Wie smarte Lautsprecher und Wearables die Detektivarbeit revolutionieren. Wie man vollständig verschwindet: Tragen Sie eine Brille, die Gesichtserkennung täuscht.
Der Einsatz von Gesichtserkennung für großflächige Überwachung steht erst am Anfang. Im September dieses Jahres hat Moskau sein CCTV-Netzwerk an ein Gesichtserkennungssystem angeschlossen. New York plant, die Technologie über Brücken und Tunnel einzuführen. Londons Gesichtserkennungsdatenbank wird kritisiert, weil sie „weit über Haftzwecke hinausgeht“, und China treibt die totale staatliche Überwachung auf ein neues Level.
Doch wo Technologie entsteht, folgt auch der Widerstand – ähnlich wie Schiffe Piraten hervorbrachten. Zahlreiche Projekte zeigen, wie Erkennungssysteme umgangen oder manipuliert werden können. Das neueste kommt von Forschern der University of Illinois: Sie nutzen Tarnung, um Objekterkennung in neuronalen Netzwerken zu täuschen.
Diese Methode basiert auf „adversarialen Beispielen“ – subtil modifizierten Daten, die für Menschen kaum erkennbar sind, aber maschinelle Lernsysteme in die Irre führen. In ihrem Paper erklären Jiajun Lu, Hussein Sibai und Evan Fabry: „Wenn es gegnerische Beispiele gibt, die einen Detektor täuschen könnten, könnten sie missbraucht werden, um Sicherheitsrisiken in der autonomen Mobilität zu schaffen.“
Zur Demonstration erstellte das Team „drei gegnerische Stoppschilder“, die Objekterkennung in selbstfahrenden Autos stören sollen. Gedruckt und auf echte Schilder geklebt, täuschten nur die extremsten Varianten das System.
Bei der Gesichtserkennung zeigten die Forscher Erfolge mit einer DeepDream-ähnlichen Maske, die Gesichtszüge verzerrt. Der digitale Angriff überlagert die Tarnung auf Videos: „Wir wenden unsere Methode auf einen Trainingssatz von Videos an, erzeugen eine gegnerische Störung und wenden sie auf Testsequenzen an.“
Da die Tarnung videospezifisch trainiert wird, eignet sie sich eher zur Manipulation von Aufnahmen, um Personen unsichtbar zu machen. Für Echtzeit-Anwendungen entwickelten Forscher der Carnegie Mellon University bunte Brillengestelle – auffällig wie bei Timmy Mallett, aber wirksam gegen Gesichtserkennung.
Bilder: Jiajun Lu, Hussein Sibai und Evan Fabry