Wenn Sie, wie wir, auf eine Art Black Mirror gegangen sind Binge und schlaflose Nächte erleiden, in denen sie über die bevorstehende planetarische Übernahme der KI grübeln, wird dies den dringend benötigten Trost bieten. Laut einer Gruppe von Google-Forschern haben maschinelle Lernsysteme eher eine Vorliebe für psychedelische Aufkleber als für den menschlichen Untergang.
Siehe dazu Aktzeichnen und maschinelles Lernen:Ein Interview mit der Künstlerin Anna RidlerKein Job zu klein? Wie maschinelles Lernen den Geschäftsalltag übernimmt5 Probleme, die künstliche Intelligenz für uns alle bewältigen muss
Das fragliche Team, das darauf fixiert ist, KI auszutricksen, hat herausgefunden, dass maschinelle Lernsysteme mit hochgradig lokalisierten psychedelischen Aufklebern abgelenkt werden können, was zu einem Versehen des breiteren Computersehens führt. In einem Fall registrierte AI (Pre-Sticker Intoxication) ein Bild einer Banane. Fügen Sie den Aufkleber der Mischung hinzu, und die KI nahm einen Toaster in die Hand. Die Banane wurde ordnungsgemäß verbannt.
Die Funktionsweise ist relativ einfach:KI verwendet kognitive Abkürzungen, wie Menschen es tun, um Bilder visuell zu erfassen. Eine solche Abkürzung besteht darin, dass verschiedenen Pixeln unterschiedliche Bedeutungsgrade zugewiesen werden, eine Leistung, die es beispielsweise ermöglicht, ein Boot inmitten einer Meereslandschaft als wichtigstes Bild auf dem Bildschirm zu registrieren. Wellen, Wolken, Möwen und Co. werden zur Nebensache verbannt, und schweres analytisches Heben ist dem maritimen pièce de résistance vorbehalten , das Boot selbst.
Die Ingenieure von Google haben eine Schwachstelle in dieser Dynamik erkannt und ausgenutzt und eine Reihe von visuellen Elementen geschaffen, die so hypnotisierend sind, dass sich die KI unwillkürlich darauf fixiert, nämlich diese funky psychedelischen Aufkleber, die die KI von dem ablenken, worauf sie sich konzentrieren sollte. Dies erfolgt auf systemspezifischer, nicht bildspezifischer Basis, was bedeutet, dass die betreffenden Visuals ihre Magie entfalten, egal was das Bilderkennungssystem betrachtet. Die Forscher präsentierten ihre Ergebnisse auf der Konferenz Neural Information Processing Systems in Long Beach, Kalifornien.
Dies ist nicht nur ein Fall von Google-Ingenieuren, die KI um ihrer selbst willen umkreisen (obwohl dies nach einer Art schwindelerregendem Machttrip riecht). Zu den praktischen Anwendungen für die Entdeckung gehört die Umgehung von Sicherheitssystemen an Flughäfen oder Gefängnissen, wodurch Schmuggelware der Erkennung entgehen kann. Allerdings mit enormem Aufwand, technischem Können und nötigen Kleingeld. Trotzdem ist es möglich.
Frühere Tricks bestanden darin, mit strategisch platzierten Pixeln zu spielen, um die Bilderkennung dazu zu bringen, zu glauben, dass ein Objekt tatsächlich ein völlig anderes ist. Die stark lokalisierte Herangehensweise der psychedelischen Aufkleber an die KI ist jedoch ein weitaus mächtigeres – um nicht zu sagen harmloses – Werkzeug als die Vorgänger. Mit anderen Worten, etwas, das sich wie warme Semmeln für 8,99 £ bei Urban Outfitters verkaufen würde, hat die Fähigkeit, hochentwickelte maschinelle Lernsysteme zu täuschen. Wenn ich darüber nachdenke, ist das doch so ein Trost?
Bilder:Adversarial-Patch; Tom B. Brown, Dandelion Mané, Aurko Roy, Martín Abadi, Justin Gilmer