Welche Gruppen von Arbeitslosen sollen gefördert werden, welche nicht? In welchen Familien sind Kinder in Gefahr, vernachlässigt zu werden? Fragen dieser Art versucht man immer öfter über automatisierte Systeme zu klären. Auch in Österreich.
Stellen Sie sich vor, Sie suchen einen Job. Das Unternehmen, bei dem Sie sich bewerben, sagt Ihnen, dass das Bewerbungsverfahren viel einfacher wird, wenn Sie den Nutzernamen und das Passwort Ihres persönlichen E-Mail-Kontos übermitteln. Dann könnten nämlich Ihre E-Mails analysiert werden, um daraus ein Persönlichkeitsprofil zu erstellen. Sie müssen keinen komplizierten Fragebogen ausfüllen, denn das ist langweilig und auch viel weniger zuverlässig, als Ihre Mails auszuwerten, denn die sind viel schwieriger zu manipulieren. Am Ende gewinnen alle: das Unternehmen, weil es viel exaktere Bewerbungsprofile bekommt und damit passendere Mitarbeiter, Sie, weil Sie weniger Arbeit haben und einen Job finden, der besser zu Ihnen passt, und die Firma, die das Analysesystem anbietet, denn sie kann damit viel Geld verdienen.
Als wir bei der Recherche zu unserem Report „Automating Society“, einer Bestandsaufnahme von Systemen zum automatisierten Entscheiden in zwölf EU-Ländern, auf dieses Beispiel stießen, waren wir erst einmal sprachlos. Es muss sich um einen Fehler handeln, dachten wir, und die Aussage der Analysefirma, dass kein Bewerber je den Zugang zum E-Mail-Konto verwehrt habe, machte die Sache nicht besser. All das sei außerdem nach den hohen Datenschutzstandards der EU völlig legal.