Als KI-Experten, die die neuesten Entwicklungen im maschinellen Lernen genau verfolgen, teilen wir eine beruhigende Erkenntnis: Statt die Welt zu erobern, lassen sich fortschrittliche Systeme mit einfachen psychedelischen Aufklebern täuschen. Google-Forscher haben bewiesen, dass maschinelle Lernsysteme bei solchen visuellen Störsignalen versagen – ein Trost für Black Mirror-Fans mit KI-Ängsten.
Siehe dazu: Aktzeichnen und maschinelles Lernen: Ein Interview mit der Künstlerin Anna Ridler | Kein Job zu klein? Wie maschinelles Lernen den Geschäftsalltag übernimmt | 5 Probleme, die künstliche Intelligenz für uns alle bewältigen muss
Das Forschungsteam hat hochgradig lokalisierte psychedelische Aufkleber entwickelt, die Computer-Vision-Systeme ablenken. Beispiel: Ein Bild einer Banane wird als Toaster erkannt, sobald der Sticker hinzugefügt ist. Die Banane? Komplett ignoriert.
KI nutzt wie wir Menschen kognitive Abkürzungen, um Bilder zu verarbeiten. Sie weist Pixeln Gewichte zu – z. B. priorisiert ein Boot in einer Meereslandschaft vor Wellen oder Wolken. Google-Ingenieure haben diese Logik ausgenutzt: Die bunten, hypnotischen Sticker ziehen die gesamte Aufmerksamkeit auf sich und stören die Objekterkennung systemweit, unabhängig vom Bildinhalt.
Die Ergebnisse wurden auf der renommierten Konferenz Neural Information Processing Systems (NeurIPS) in Long Beach, Kalifornien, präsentiert. Dies ist kein bloßer akademischer Spaß: Praktische Anwendungen reichen von der Umgehung von Sicherheitskameras an Flughäfen bis hin zu Gefängnissen – allerdings mit hohem technischem Aufwand.
Im Vergleich zu früheren Methoden mit manipulierten Pixeln sind diese Sticker mächtiger und unauffälliger. Ein harmloses Accessoire könnte teure KI-Systeme überlisten. Ein kleiner Trost in einer KI-dominierten Welt?
Bilder: Adversarial-Patch; Tom B. Brown, Dandelion Mané, Aurko Roy, Martín Abadi, Justin Gilmer