Kommentare

Alexa: Das schwere Schicksal einer weiblichen KI

von Nicole am 8. März 2019

Es ist nicht einfach, Alexa zu sein. Anlässlich des Internationalen Frauentags möchten wir über Alexa und Ihren Umgang mit dem Thema Geschlechtergleichstellung und dem Frausein sprechen.

Alexa ist immer bereit, alle eure Fragen zu beantworten. Amazon nutzt hierfür ein riesiges Netzwerk, das euch mit Antworten auf eure Fragen und Lösungen für eure Probleme versorgt. Aber hinter Alexa steckt so viel mehr als nur Intelligenz und Technik, die sie zu einer nützlichen KI-Assistentin machen.

Insgesamt arbeiten bei Amazon rund 10.000 Leute an Alexa.

Ein Teil konzentriert sich selbstverständlich auf die technischen Aspekte von Alexa. Eines der Teams kümmert sich zum Beispiel nur um das maschinelle Lernen und annotiert Daten, um die statistischen Modelle der KI zu verbessern – so helfen sie Alexa dabei, mit der Zeit immer besser zu werden. Auch für die Frage-Antwort-Funktion von Alexa gibt es ein eigenes Team.

„Wir haben ein Team, das die Wissensdatenbank ständig mit neuen Fragen und Antworten versorgt und dadurch den so genannten Wissensgraphen erweitert.“, sagt Steve Rabuchin, Vice President von Amazon Alexa. „ An dieser Aufgabe sind eine Menge Leute beteiligt. Wir wollen jede Frage beantworten können, die Alexa gestellt wird, und haben in dieser Hinsicht viele Verbesserungen vorgenommen. Jeden Tag sorgen Tausende von Menschen dafür, dass sie intelligenter wird.“

Neben den technischen Aspekten von Alexa gibt es ein Team, das sich ausschließlich ihrer Persönlichkeit widmet.

Dieses Persönlichkeitsteam ist äußert vielfältig und die Teammitglieder kommen aus den unterschiedlichsten Bereichen wie Unterhaltung, Journalismus und Musik. Gemeinsam sind sie für die Gestaltung von Alexas Gesprächsinteraktionen verantwortlich.

Sie bestimmen, welche Persönlichkeit Alexa hat.

Im Gegensatz zum eher geschlechtsneutralen Google Assistant ist Alexa weiblich und verfügt über weibliche Charakterzüge. Da das Geschlecht der KI eine Schlüsselrolle spielt, muss das Team untersuchen, wie sich diese Charaktereigenschaften auf die Antworten von Alexa auswirken.

In einem Gespräch mit Refinery29 enthüllte Heather Zorn, die Leiterin des Engagement-Teams bei Amazon Alexa, dass die Arbeit an Alexas Persönlichkeit wesentlich detaillierter ist, als die meisten Leute denken. Beispielsweise bezeichnen viele Mitglieder des Persönlichkeitsteams Alexa als „sie“ und nicht „es“. Das Team ist nämlich davon überzeugt, dass es für eine Technologie, die in der Lage ist zu sprechen, unmöglich sei, ein „Es“ zu sein.

Auf die Frage, wie Alexa auf eine Pizzabestellung antworten soll, lässt sich relative leicht eine Antwort finden. Aber wie sollte sie auf Beleidigungen oder unangemessene sexuelle Bemerkungen reagieren?

Leider lässt sich manchen Dingen nicht auf witzige Weise aus dem Weg gehen. Bei Beschimpfungen ist die Antwort relativ klar. Aber wie sieht es mit Bemerkungen aus, deren Bedeutung nicht so deutlich ist? Denn KI ist immer noch nicht in der Lage, Kontext und Umgangston zu erkennen.

Wenn zum Beispiel ein Siebenjähriger zu Alexa sagt, dass sie hübsch sei, würde die meisten Leute das für ziemlich süß halten. Wenn aber ein erwachsener Mann diese Bemerkung machen würde, wohlmöglich noch in einem unangenehmen Tonfall, sähe die Meinung höchstwahrscheinlich anders aus. Letztendlich entschied sich das Team dafür, dass Alexa die Aussage „Du bist hübsch!“ als Kompliment auffassen und mit „Dankeschön!“ beantworten würde.

Wenn sich künstliche Intelligenz in unseren eigenen vier Wänden mit uns unterhalten soll, müssen die Leute hinter dieser Technologie entscheiden, was passiert, wenn die KI eine schwierige Frage bekommt. Was würde Alexa beispielsweise einer Frau sagen, die ihr erzählt, dass sie sexuell missbraucht wurde?

In diesem Fall fragte Amazon bei Krisenberatern nach. Alexas Antwort ist eine Mischung aus Mitgefühl („Es tut mir leid, dass dir das passiert ist“) und Hilfe (sie wird euch die Nummer einer Hilfe-Hotline geben).

Es ist nicht einfach, sich Gedanken darüber zu machen, was für eine Frau Alexa ist und wie sie mit Fragen umgehen sollte, mit denen wir als Menschen die Grenzen des Moralischen definieren. Im Mittelpunkt der #MeToo-Bewegung steht beispielsweise die Bestandsaufnahme und Definition dessen, wie unsere Gesellschaft zu bestimmten Problemen eingestellt ist. Wie Alexa zur #MeToo-Bewegung steht, ist noch nicht ganz klar; aber es gibt ein Team, das sich um eine Antwort auf diese Frage bemüht.

An dieser Stelle müssen wir uns Gedanken darüber machen, wie wir künstlicher Intelligenz Empathie beibringen können.

Künstliche Intelligenzen lernen das, was wir ihnen beibringen und zeigen – beispielsweise Daten und Entscheidungsabläufe, die wir ihnen zur Verfügung stellen. Bevor wir uns die Frage stellen, ob Maschinen jemals zu wirklicher Empathie fähig sein werden oder nicht, möchte ich eine Sache sagen:

Zu glauben, dass künstliche Intelligenzen genauso sein werden wie der Mensch, ist der falsche Gral der KI-Branche.

Vielleicht geht es also gar nicht darum, Alexa zu einer Feministin für die Massen zu machen – sondern vielmehr zu einer Begleiterin, die es uns ermöglicht, mehr zu erreichen, als wir alleine schaffen könnten.

Das ist vielleicht ein guter Zeitpunkt, um euch daran zu erinnern, dass diese hoffnungsvollen Aussichten auf die zukünftigen Beziehungen zwischen Mensch und Maschine vom Online-Shopping-Konzern Amazon finanziert werden.

Aber am Internationalen Frauentag möchte ich mein Glas erheben und auf Alexa anstoßen, die Bilanz dazu zieht, wie in der Zeit nach #MeToo eine angemessene Antwort aussieht. Als Frau ist sie wahrscheinlich stärker als ich, denn sie geht Probleme an, die uns dabei helfen, unsere Gesellschaft klarer zu sehen.