Kennst du mich? – Wie Facebook-Forscher Gesichtserkennungssysteme austricksen

Die Methode wurde von Wissenschaftlern aus Facebooks AI-Research-Bereich entwickelt. Gesichtszüge werden dabei leicht verändern und verzerrt. Das Ganze passiert jedoch nicht im Nachgang, bei Fotos oder so, sondern bei Personen in Videos und in Echtzeit. Und das ist das wirklich Interessante daran, weil diese Vorgehensweise bisher noch von keinem erprobt wurde.

„Gesichtserkennung kann zum Verlust der Privatsphäre führen und die Manipulation von Gesichtern kann missbraucht werden, um irreführende Videos zu erstellen“, heißt es in dem Bericht von Facebook. Gesichtserkennung geht auch immer mit ethischen Bedenken einher, kann in Einzelfällen aber auch nützlich sein. Die neue Methode ermögliche es Nutzern, sich an die Öffentlichkeit zu wenden und trotzdem anonym zu bleiben.

Das Unternehmen hat zur Demonstration ein Video veröffentlicht, das Originalvideos mit den anonymisierten Videos vergleicht. Dabei fällt auf: Es sind nur kleine Details, die das Original von der generierten Person unterscheiden. Und es sind in der Tat genau die Details, die für Gesichtserkennungs-Systeme relevant sind. Das sind zum Beispiel die Nase, Augen und Mund. Eigenschaften wie Mimik, Gestik, Hautfarbe und die Lippenbewegungen bleiben dagegen unverändert. Selbst für einen menschlichen Betrachter sind die Gesichter so schwer zuzuordnen, wie soll es da ein Programm können?

Obwohl Facebook an dieser Technologie lange geforscht hat, wollen sie sie selber nicht einsetzen. Erst vor wenigen Wochen hatte Facebook die Gesichtserkennung als Default eingestellt und seither werden auf Fotos keine Personen mehr zum Markieren vorgeschlagen. Zumindest kriegen wir das als Endbenutzer suggeriert, tatsächlich scannt das soziale Netzwerk die Bilder trotzdem und informiert alle abgebildeten Nutzer, dass ein Bild von ihnen hochgeladen wurde. Ziemlich gruselig, oder?

Die eben beschriebene Methode wurde bisher nur in einem Paper vorgestellt. Bei der International Conference on Computer Vision (ICCV), die am Sonntag in Seoul startet, will man sie dann der breiten Öffentlichkeit präsentieren.

via: t3n