Viele dieser T-Shirts sind mehrfarbig gemustert, sodass Lernalgorithmen, die darauf trainiert sind, vertraute Objekte zu erkennen, sie nicht mehr richtig zuordnen können. Wissenschaftler der Northeastern University und des MIT-IBM Watson AI Lab haben kürzlich ein solches T-Shirt mit einem Bild entworfen, das darauf ausgelegt ist, Personenerkennungssysteme zu täuschen.
In einem im Oktober veröffentlichten Paper verraten die Forscher, dass ihr T-Shirt eine Erfolgsquote von 57% erreicht hat, wenn es in der „realen Welt“ verwendet oder wenn Videomaterial einer tatsächlichen Person an Überwachungssystemen getestet wird. Die Erfolgsraten waren etwas höher (74%), als Forscher das „kontradiktorische“ Bild digital in das Videomaterial einfügten. Mit anderen Worten, selbst das fortschrittlichste T-Shirt mit dieser Methode, das heutzutage erhältlich ist, wird in vielen Fällen nichts nützen.
In dieser Studie, haben die Forscher 30 Videos von einer sich bewegenden Person zusammengestellt, die ein T-Shirt mit Schachbrettmuster trägt. Diese Videos wurden als Trainingsdatensatz verwendet. Sie erstellten dann 10 Videos in der gleichen Einstellung, aber mit einer anderen Person. Anhand dieses Datensatzes bewerteten sie, wie effektiv ihr „gelerntes“ kontradiktorisches Muster in der digitalen Welt sein könnte. Schließlich kreierten sie ein neues T-Shirt mit dem „erlernten“ Bild und drehten 10 Testvideos. Plötzlich war das T-Shirt in 63% der Fälle erfolgreich.
Die Entwicklung eines solchen T-Shirts ist teilweise eine Herausforderung. Forscher stellten nämlich fest, dass die Bewegung einer Person zu Falten im Muster des irreführenden Bildes führen kann. Deshalb gibt es auch andere Ansätze. So haben Wissenschaftler der KU Leuven in Belgien ein Pappschild entworfen, das eine bekannte Software dieser automatisierten Überwachungskameras täuschen kann. Das Design wurde schnell auf allerlei Social Media Plattformen geteilt.
Es ist eigentlich einfach, ein irreführendes Muster zu finden, wenn man mit den Überwachungssystemen vertraut ist. Wissenschaftler könnten theoretisch ein maßgeschneidertes Bild entwerfen, um jedes Bilderkennungssystem zu täuschen. Das würde dann zwar nicht zu 100% effektiv sein, aber es wäre möglich.
Doch selbst wenn ein richtig gestaltetes T-Shirt auf dem Markt erhältlich wäre, würde es nur wenige Tage dauern, bis die Unternehmen ihre Sicherheitsbemühungen ausweiten. Deshalb müsste man ständig neue Muster entwerfen, um die sich ständig weiterentwickelnden KI-Erkennungssysteme zu täuschen. Doch auch da ist eine Lösung nicht fern. Was wäre, wenn man einfach auch Algorithmen zur Erzeugung von KI-Mustern antrainiert? Dann sind es quasi zwei KI-Systeme, die gegeneinander arbeiten. Eine spannende Idee.
via: qz
