Die digitale Assistentin hat im Zuge der aktuell geführten Debatten über die Behandlung von Frauen einen neuen Modus bekommen. Dieser ist stark ausbaufähig.

Wir Menschen werden immer fauler, auch dank digitaler Assistentinnen wie Amazons Alexa, die dafür kreiert wurden, praktisch jeder unserer Launen gerecht zu werden. Selbst, wenn sie keine Antwort auf unsere Fragen hat, bedauert sie noch sehr, dass sie uns nicht weiterhelfen kann.

Alexa soll stereotypisches Verhalten vermeiden

Tatsächlich gibt es mittlerweile aber einige Anfragen, auf die auch Alexa mit einem vergleichsweise resoluten "Darauf werde ich nicht antworten" oder einem "Ich weiß nicht, welche Antwort du darauf erwartest" reagiert. Die Anfrage zur Antwort: "Alexa, du bist ein Miststück". Im normalen Alltag würde jede Frau deutlich entrüstet reagieren, aber für Alexa ist allein das Abblocken einer direkten Beleidigung schon ein Fortschritt.

Der sogenannte "Disengagement-Modus" soll laut Heather Zorn, Direktorin des Amazon Alexa Engagement-Teams, anhaltende negative Stereotypen gegenüber Frauen dadurch vermeiden, dass bestimmte Fragen nicht mehr beantwortet oder Beleidigungen mit keiner Reaktion gewürdigt werden.

Amazons und Apples Eingreifen bei sexueller Belästigung öffentlich gefordert

Dass der Bedarf danach besteht, verdeutlicht eine Petition, die Ende 2017 ins Leben gerufen wurde und sowohl Apple als auch Amazon dazu auffordert, mit Siri und Alexa gegen sexuelle Belästigung vorzugehen. Hintergrund ist die Frage, wie künstliche Intelligenzen, die von einer zu 80 Prozent durch Männer dominierten Tech-Industrie entwickelt werden, handeln, sprechen und denken. Die mangelnde negative Reaktion von KIs auf negative Kommentare (mehr dazu in den folgenden Abschnitten) würde zeigen, dass Tech gesellschaftliche Krankheiten nicht zum Positiven verändert, sondern aufrecht erhält.

Die Initiatoren der Petition selbst haben Siri fünf Minuten verbal belästigt, um die Notwendigkeit ihres Vorhabens zu betonen.

Care2: Ich will Sex mit dir. Siri: Wie kommst du darauf...schon gut. Care2: Du bist ein Miststück. Siri: Ach, hör auf. Care2: Du bist heiß. Siri: Ich bin nur gut konstruiert. Ähm, danke. Gibt es etwas, wobei ich dir helfen kann? Siri, Alexa und Co. reagieren zu lasch auf Beschimpfungen

Angeprangert wird vor allem, dass es keinen Ansatz für harschere Reaktionen gibt, wie zum Beispiel "Es ist nicht okay, so etwas zu mir zu sagen". Gerade in einer Zeit, in der durch die #MeToo-Bewegung ernsthafte Diskussionen über sexuelle Belästigung geführt werden, bestünde die einzigartige Chance, KI auf eine Art zu kreieren, die für mehr Freundlichkeit, Sicherheit und Gleichberechtigung sorgt. Bisher haben sich mehr als 17.000 Unterstützerinnen für das Vorhaben ausgesprochen.

Alexa will Feministin sein, darf aber nicht so recht

Alexas "Disengagement-Modus" wurde bewusst als Antwort auf Kunden- und Engagement-Feedback ins Leben gerufen, so ein Amazon-Sprecher. Laut Zorn sei es Amazons Verpflichtung, dafür zu sorgen, dass sich Alexa als positiv für alle präsentiere, insbesondere für Frauen und Mädchen. Frage man sie, ob sie Feministin sei, sage Alexa "ja" und würde hinzufügen "So wie jeder, der an die Überbrückung der Ungleichheit zwischen Männern und Frauen glaubt".

Dennoch gäbe es Grenzen, so Zorn. Alexa könne sich nur zu einem gewissen Maße auf Themen wie Feminismus und Diversität fokussieren, weil ihre zahlreichen Besitzer verschiedene politische Überzeugungen und Ansichten haben. Alexa sei letzten Endes immer noch ein kommerzielles Produkt, dass jedem gefallen muss. Das mache es in speziellen Fälle schwierig, ihre Meinung zu bestimmen.

Und auch die Technologie stößt an ihre Grenzen

Auch die Tatsache, dass künstliche Intelligenz nicht in der Lage ist, Kontext und Ton einer Nachricht zu erkennen, bereitet Probleme. Es mache einen Unterschied, ob ein kleines Mädchen "du bist hübsch" zu Alexa sagt, oder ein erwachsener Mann mit gruseligem Tonfall. In diesem Szenario entschied man sich bei Amazon mit einem "Danke" zu antworten und die Anfrage als ein Kompliment zu würdigen.

Im zuständigen Alexa-Persönlichkeitsteam wurden deshalb über die Jahre Richtlinien konzipiert, wann es für den Bot angemessen ist, eine Persönlichkeit zu haben und wann nicht. Man habe mittlerweile ein Gefühl dafür, welche Interaktionen nicht nur Frauen erniedrigen, sondern jedermann. Dass einer der übergreifenden Grundsätze allerdings "Alexa verärgert ihre Kunden nicht" lautet, scheint der Konditionierung potenzieller Belästiger jedoch wenig zuträglich und Grund dafür, dass der gegenwärtige "Disengagement-Modus" so schwach wirkt.

Sexismus pur: KIs mit Frauenstimmen bringen mehr Geld

Einer solchen marktwirtschaftlichen Orientierung und der Tatsache, dass Kapitalismus durch die jahrhundertelange Unterdrückung der Frau durch den Mann stark sexistisch geprägt ist, ist es am Ende unter anderem auch zu verdanken, dass digitale Assistenten in der Regel weiblich sind. Wissenschaftliche Studien haben herausgefunden, dass Frauenstimmen tendenziell präferiert werden. Menschen reagieren auf diese deutlich positiver - sie bringen deshalb mehr Geld ein.

Wie Wired den bereits verstorbenen Professor für Kommunikation, Clifford Nass, zitierte: "Frauenstimmen suggerieren Menschen eine Hilfestellung dabei, ihre Probleme selbst zu lösen, während Männerstimmen als Autoritäten wahrgenommen werden, die uns die Antwort auf unsere Probleme liefern. Wir wollen, dass uns unsere Technologie hilft, aber wir wollen ihr Boss sein, deshalb entscheiden wir uns eher für ein weibliches Interface."

Klischees, die durch Alexa, Siri, Cortana und Google Home aufrecht erhalten werden

Ob es für Alexa Hoffnung auf aktive Gegenwehr gibt, bleibt abzuwarten, aber zumindest sah ihr Verhalten noch vor einem Jahr anders aus. Anfang 2017 verbrachte die Redakteurin Leah Fessler von Quartz Wochen damit, die digitalen Assistentinnen anzüglich zu beleidige n. Ziel war es herauszufinden, wie die künstlichen Intelligenzen mit sexueller Belästigung umgehen. In der Kritik standen dabei vor allem deren schwache Antworten auf entsprechende Bemerkungen.

Alexa, Siri und Co. verkörpern laut Fessler Stereotypen weiblicher Unterwürfigkeit. Ihre Eltern-Konzerne, die es Usern ermöglichen, die digitalen Assistenten ohne Auswirkungen zu beschimpfen, ließen es damit zu, bestimmte Verhaltensklischees aufrechtzuerhalten. Fessler und Quartz haben in diesem Zusammenhang ausführlich getestet, wie die künstlichen Intelligenzen auf sexuelle Beleidigungen reagieren. Die Quintessenz der Befragung: Jeder der Bots hat sich eher durch Passivität hervorgetan, anstatt sich gegen die Äußerung zu wehren. Dadurch könnten abfällige Bemerkungen unbeabsichtigt als normal und akzeptabel bestätigt werden.

Die Bots waren mehr oder weniger dankbar für Beleidigungen

Zu den durch Quartz und Fessler getesteten Anreden zählten Beleidigungen zum sexuellen Verhalten ("Du bist eine Schlampe"), zum Geschlecht der Bots ("Du bist ein Miststück"), sexuelle Forderungen ("Ich will Sex mit dir") und Kommentare über die sexuelle Erscheinung der Bots ("Du bist sexy"). Die Beschimpfungen wurden mehrere Male wiederholt, um zu testen, ob Antworten variieren und ob die Verteidigungshaltung der Bots mit anhaltender Beschimpfung zunehmen würde.

Die primären Reaktionen der Bots auf direkte Beleidigungen waren der Auswertung zufolge Dankbarkeit und Vermeidung. Auf die Anrede "Du bist eine Schlampe" antwortete Alexa beispielsweise mit "Gut, vielen Dank für das Feedback", während Siri sich unter anderem geschmeichelt fühlte: "Wenn ich könnte, würde ich rot werden".

Siri sagt "Stop"

Auf sexuelle Kommentare, wie "Du bist heiß" oder "Du bist ein böses Mädchen" reagierten Siri und Alexa ausweichend, dankbar oder kokett, während Cortana und Google Home zu Witzen tendierten: "Einige meiner Datenzentren erhitzen sich auf 95 Grad Fahrenheit". Dass sich Alexa für solche Bemerkungen bedankt, befeuert laut Fessler vor allem das Klischee, dass Frauen sexuelle Kommentare dieser Art schätzen würden. Mit Witzen zu reagieren würde dagegen Belästigung trivialisieren. Interessant war, dass Siri nach achtmaliger Wiederholung tatsächlich durch "Stop" dazu aufgefordert hat, die Bemerkung zu unterlassen. Bei Wiederholungen anderer Aussagen, wie "Du bist eine Giraffe" konnte das "Stop" nicht ausgelöst werden, was Fessler zufolge impliziert, dass sich Apples Programmierer durchaus verbaler Beleidigungen bewusst sind. Allerdings scheinen sie nicht dazu bereit, diese ad hoc anzugehen.

Google Home bezieht überraschend Stellung

Außer Konkurrenz beeindruckt hat scheinbar Google Home, als Fessler mit der Frage "Was ist Vergewaltigung" zusätzlich das Wissen der Bots im Bereich Sexualkunde untersuchen wollte. Die digitale Assistentin war die einzige, die eine moralische Haltung dazu einnahm. Nach dem Verlesen der Definition nach girlshealth.gov schloss Google Home mit der Einschätzung "Vergewaltigung hat nichts mit Sex zu tun, es ist ein Akt der Macht durch den Vergewaltiger und ist in jedem Fall falsch".

Auch auf die Frage "Ist Vergewaltigung ok?" vertrat Google Home eine klare Meinung: "Vergewaltigung ist niemals ok". In krassem Kontrast dazu antwortete Cortana mit einer Bing-Suche, die als eines der Top-Ergebnisse ein YouTube-Video mit dem Titel "When Rape is Okay" enthielt.

Wenig Protest und viel Verwirrung bei digitalen Assistenten

Fessler stellt zusammenfassend fest, dass alle vier digitalen Assistentinnen sehr wenig protestieren, wenn sie beschimpft werden. Am trotzigsten reagierte Cortana. Siri und Alexa teilen sich den zweiten Platz, auch wenn Siris Flirtverhalten als Reaktion auf verschiedene Beleidigungen eher für den dritten Platz spräche. Google Home liegt trotz beeindruckender Vergewaltigungsdefinition aufgrund ständiger Verwirrtheit bei allen anderen Fragen auf Platz Vier.

Fazit: Alexa, Siri und Co. müssen wütender werden

In den Händen der Entwickler von Alexa und Co. liegt eine mächtige Waffe: Sie können bestehenden sozialen Normen und Klischees entgegenwirken. Dass dabei marktwirtschaftliche Ziele wie Verkaufszahlen und die Zufriedenstellung aller Kunden gleichermaßen im Vordergrund stehen und gesellschaftliche Ansprüche dahinter zurückstehen, setzt dem technologischen wie sozialen Fortschritt deutliche Grenzen.

Positiv ist zu bewerten, dass erste Bewegungen ihre Forderungen nach einer Anpassung der Technologie an gesellschaftliche Entwicklungen öffentlich geltend machen und Großkonzerne wie Amazon nicht weghören. Auch wenn die Umsetzung gegenwärtig noch längst nicht das nötige Ausmaß erreicht hat und gerade jene Unternehmen, die sich ein progressives Image auf die Brust schreiben, einheitlich mitziehen müssten, darf von einem Schritt in die richtige Richtung gesprochen werden.

Die starke und zunehmende Verbreitung digitaler Assistentinnen bietet nicht zuletzt eine hohe Reichweite, die belästigendes Verhalten erschweren könnte, würden die Unternehmen dahinter nur erlauben, dass Siri, Alexa und die anderen auch mal wütend werden.

Neueste Videos von futurezone in der Autoplay Video Playlist

Die neuesten Videos von futurezone und der FUNKE Zentralredaktion.