Es lauscht nicht nur Alexa

Die Künstliche Intelligenz bekam Unterstützung beim Lernen.
Die Künstliche Intelligenz bekam Unterstützung beim Lernen.APA/dpa/Alexander Heinl

Die smarten Assistenten sind im Dauereinsatz. So wie die Mitarbeiter, die die Gespräche abtippen und dabei Zeugen von Sex, Gewalt und Drogendeals werden.

 „Alexa, was weißt du über mich?“, stellt den smarten Assistenten anscheinend vor große Herausforderungen. Sekundenlange Stille folgt auf die Frage, bis sie charmant, aber nichtssagend antwortet: „Ich weiß, dass du sehr interessante Fragen stellst.“ Dabei weiß sie sicher mehr, als sie zugeben will. Denn wie sich in den letzten Wochen herauskristallisiert hat, hat nicht nur Amazon die Lauscher in den Wohnzimmern ihrer Kunden weit offen gehabt, sondern auch Apple, Google und Facebook.

Was viele längst vermutet haben, wurde nach anhaltendem öffentlichem Druck nun von den Unternehmen bestätigt. Mitarbeiter wurden bei Amazon in Heimarbeit dafür bezahlt, Nutzer-Aufnahmen abzutippen. Aus Gründen der Verbesserung, hieß es. Den Vorwurf, dass hier datenschutzrechtlich fahrlässig gehandelt wurde, wollen sich die Unternehmen aber nicht gefallen lassen. Es werden keine persönlichen Informationen mit den externen Angestellten geteilt, heißt es aus den Firmenzentralen.

Spiel mit verdeckten Karten. Die Arbeit war hauptsächlich dazu gedacht, den Service zu verbessern, sagen Amazon, Google und Apple. Um Fehlaktivierungen, also wenn der Sprachassistent reagiert, obwohl er gar nicht angesprochen wurde, analysieren zu können. Die Unternehmen holten sich dafür pauschal die Erlaubnis, Daten zur Verbesserung des Dienstes zu nutzen.

Wie diese Verarbeitung genau aussieht, ließen die Unternehmen aber offen. „Vergessen“ wurde dabei nur, das den Kunden auch offen mitzuteilen. Seit dem Aufkommen der smarten Assistenten betonten die Unternehmen, dass diese nur zuhören, wenn sie ihr Signalwort hören. Lediglich Apple gab zumindest einen Hinweis auf die Möglichkeit solcher Transkriptionen.

Dass aber das Wort Alexanderplatz bereits Alexa auf den Plan ruft und damit Mitarbeiter, die dann diese Aufnahme transkribieren, das war dieses eine Detail am Rande, das man lieber ungesagt ließ. Die Unternehmen wollen keine Zahlen nennen, wie oft es im Schnitt zu diesen Fehlaktivierungen kommt. Der Nachrichtendienst Bloomberg geht von zehn Prozent unbeabsichtigter Aktivierungen aus. Dies wird vom flämischen Sender VRT gestützt. Dieser hat 1000 Google-Aufnahmen zugespielt bekommen, wovon 150 irrtümlich aufgezeichnet wurden.

Zeugen von Straftaten. Immer mehr Menschen melden sich, die angeben, dass sie Aufnahmen für die großen Unternehmen transkribiert haben. Dabei wurden sie indirekt Zeugen von Sex, Streitgesprächen, Gewalt und Drogendeals. Amazon-Mitarbeiter sollen sogar eine Vergewaltigung gehört haben. Dabei sind ihnen aber die Hände gebunden, denn sie wissen nicht, wer hinter den Stimmen steckt.
Wenn es um Datenschutz-Skandale geht, kann Facebook nicht weit sein. Hier wurde sogar ganz ohne Sprachassistenten brav mitgehört. Von der aktivierten Transkriptionsfunktion im Messenger wurden ebenfalls Abschriften erstellt. Für Facebook ist diese Enthüllung noch heikler, denn seit Jahren steht der Vorwurf im Raum, dass in den Apps gelauscht wird, um Werbung zu personalisieren. Das weist der Facebook-Chef seit jeher als Verschwörungstheorie zurück.

Das wird er im geplanten Europäischen Datenschutzausschuss mit dem Mitbewerb erläutern dürfen, denn dieser will sich ausgiebig mit den Praktiken beschäftigen und die Frage klären, ob diese im Einklang mit der Datenschutzgrundverordnung sind.

„Vulgäre Gespräche“ im Messenger

Hunderte Dienstleister hatte Facebook beauftragt, um die Sprache-zu-Text-Funktion im Messenger auf Korrektheit zu prüfen. Mitarbeiter berichten, dass sie zum Teil „sehr vulgäre Gespräche“ abtippen mussten. Auf Druck der Öffentlichkeit stellte Facebook diese Auswertung ein. Werbeanzeigen sollen damit nicht personalisiert worden sein.

„Hey, Google“, ab wann lauschst du wieder?

Nach den ersten Veröffentlichungen über die Abhör-Praxis war Google um Deeskalation bemüht. Vergeblich, denn die angeblichen 0,2 Prozent angefertigter Mitschnitte wurden schnell widerlegt. Bis mindestens Oktober wird Google in Europa nicht mehr lauschen. Aber nicht freiwillig. Was ab November passiert, ließ das Unternehmen aber offen.

Apples vage Andeutungen

Apple rühmt sich seit jeher, besonders sorgsam mit Kundendaten umzugehen. Bei Siri war das anscheinend anders. Mit einem Software-Update will man aber eine Kurskorrektur einlegen. Kunden sollen künftig ganz offen gefragt werden, ob sie der Auswertung ihrer Anfragen durch Menschen zustimmen. Unklar ist, ob es sich dabei um ein Opt-in- oder um ein Opt-out-Verfahren handeln soll. Dabei müssten Nutzer aktiv widersprechen.

„Alexa, wie schalte ich dich ab?“

Dass die Alexa-Daten weniger als angegeben bei Amazon geschützt werden, wird nicht weiter vom Unternehmen kommentiert. Als einzige Reaktion auf die Enthüllungen im April dieses Jahres erweiterte das Unternehmen die Privatsphäre-Einstellungen. Dort kann die Weiterverarbeitung deaktiviert werden. Dies ist über die Alexa-App oder das Alexa-Datenschutzportal im Browser möglich. Unter „Sprachaufzeichnungen“ können die eigenen Anfragen angehört und gelöscht werden.