Das New Yorker Department of Financial Services hat eine Untersuchung von Goldman Sachs eingeleitet, der Bank, die in Sachen Apple Card zuständig ist. Bei der Festlegung des Kreditlimits werden sie des Sexismus beschuldigt – keine Kleinigkeit im Jahr 2019! Doch, wie kommt es zu dieser Anschuldigung?
Tatsächlich hat Basecamp-Gründer David Heinemeier Hansson auf das Problem aufmerksam gemacht. Er und seine Frau nutzen beide eine Apple Card und obwohl sie eine höhere Kreditwürdigkeit hat, war sein Kreditlimit rund 20-mal (!) höher als das seiner Frau. Weder Kundenservice noch formelle Beschwerden direkt bei Apple haben den beiden weitergeholfen.
Schließlich bekam sie einen „VIP-Status“, der dafür sorgt, dass das Kreditlimit angehoben wird. Es funktionierte also irgendwie nur über Umwege und tatsächlich schien das auch nur eine Reaktion auf den öffentlichen Aufschrei gewesen zu sein. Hansson glaubt nicht, dass Apple oder die Goldman Bank diskriminierend handeln wollten – das Ergebnis war dennoch sexistisch.
Die nun anstehende Untersuchung von Goldman Sachs will sowohl alle Rechtsverstöße prüfen als auch garantieren, dass jeder Kunde gleich behandelt wird. Jede algorithmische Verzerrung „verstößt gegen das New Yorker Recht“, sagte Abteilungsleiterin Linda Lacewell vom New Yorker Department of Financial Services.
Goldman schreibt unterdessen in einer Erklärung, dass Kreditentscheidungen ausschließlich auf der „Kreditwürdigkeit“ und nicht auf dem Geschlecht oder Ethnizität basierten. Leider erklärt das immer noch nicht, weshalb eine Frau mit einer höheren Kreditwürdigkeit ein viel niedrigeres Limit erhielt.
Zu diesem Zeitpunkt steht noch nicht fest, wie lange die Untersuchung dauern wird und es gibt keine Garantie dafür, dass Anpassungen vorgenommen werden. Der Vorfall unterstreicht jedoch die Besorgnis, dass eine Algorithmusverzerrung für einige Gruppen schwerwiegende Nachteile mit sich bringt.
Auch für Apple dürfte sich die negative Aufmerksamkeit nicht gerade gut anfühlen. Eigentlich hatten sie einen starken Auftritt mit der Apple Card hingelegt, doch im Jahr 2019 sind Sexismus-Vorwürfe nicht mehr so leicht zu vergessen.
via: engadget
