Absurder Suchmaschinen-Fehlschluss Wie der Hanauer Attentäter bei Google zum Fußballspieler wurde
Audio
Wie der Hanauer Attentäter bei Google zum Fußballspieler wurde
Im Hype um Sprachroboter wie ChatGPT vergisst man schnell, wie begrenzt nicht nur menschliche Intelligenz ist. Maschinen können empörend dumm sein, wie eine Google-Suche nach dem Attentäter von Hanau gezeigt hat.
Drei Jahre ist es her, dass ein bis dahin öffentlich völlig unbekannter 43-Jähriger in Hanau an einem Abend neun Menschen aus rassistischen Motiven erschoss, danach seine Mutter und sich selbst. Zum Jahrestag sagte Bundesinnenministerin Nancy Faeser (SPD), die Morde hätten "das ganze Land zutiefst erschüttert".
Der Mensch, der vor allem auf die Überlebenden und die Angehörigen der Opfer so furchtbar nachwirkt, hat als Terrorist, Attentäter, paranoid-schizophrener Rechtsextremist blutige Geschichte geschrieben. Für den Basiswissens-Service von Google stand er noch diese Woche in einer Reihe mit Uwe Seeler oder Lionel Messi. Auch sie sind bei der Suchmaschine als "Fußballspieler“ gelistet.
Wie hoch ist der Eiffelturm?
Mit seinen geheimen Algorithmen liefert der Konzern die Antworten auf mehr als 80 Prozent aller Suchfragen, die Nutzer weltweit stellen. Was dabei gleich mitgeliefert wird, ist im Fall des Hanau-Attentäters schiefgegangen. Es geht um den sogenannten Knowledge Graph, der zu den vorgeschlagenen Websites als Service gleich kürzeste Angaben zur Sache aufploppen lässt – diese Panels erscheinen mal als Eintrag oben links, mal als Box oben rechts.
"Mit dem Knowledge Graph können wir Sachfragen wie 'Wie hoch ist der Eiffelturm?' oder 'Wo fanden die Olympischen Sommerspiele 2016 statt?' beantworten", schreibt Google selbst. Milliarden von Fakten lägen dazu bereit. Die Trefferquote der Suchmaschine ist enorm und soll noch besser werden. Doch bei der Eingabe "Tobias Rathjen" erfuhr man noch am Montagabend, 6. März 2023: Der Mann sei ein 1977 geborener und am 19. Februar 2020 in Hanau verstorbener Fußballspieler gewesen.
Der Name des Täters
In unserer Berichterstattung über das Hanau-Attentat nennen wir den Namen des Täters in der Regel allenfalls abgekürzt. Denn die Opfer und ihre Namen sollen im Vordergrund stehen und in Erinnerungen bleiben. In diesem Fall machen wir eine Ausnahme, denn es geht um den Täter, seinen Namen und den Google-Eintrag dazu.
Ende der weiteren InformationenBildergalerie
Ermordet am 19. Februar 2020 in Hanau
Kein direktes menschliches Versagen
Im Fall von Google und seinen Knowledge-Angeboten ist menschliches Versagen nicht anzunehmen, jedenfalls kein unmittelbares. Hier liegt die programmierte Maschine daneben, genauer gesagt: der Knowledge Graph als vollautomatisierte Datenbank.
Googles Knowledge Graph bildet Beziehungen zwischen Sinneinheiten ab, den sogenannten "Entitäten". So ermöglicht er die Suche nach Bedeutungen und Zusammenhängen. Die Maschine speichert zum Beispiel ab, dass "Frankfurt" und "Mainmetropole" dasselbe meinen. Was sich im Knowledge Graph nahe ist, das hängt auch in der wirklichen Welt zusammen – so der Anspruch.
Zwischen Anspruch und Wirklichkeit liegt "ein großes Spannungsfeld", wie es der Experte Olaf Kopp in seiner Erklärung der Entitäten- basierten Suchmaschinenoptimierung schreibt. Auf der einen Seite die automatisierte Bereitstellung "einer möglichst vollständigen Wissens-Datenbank, die nahezu alle Informationen über Entitäten bereitstellt". Auf der anderen Seite die Richtigkeit der Information. Im Fall des Hanau-Attentäters führte das offenkundig zum Kurzschluss.
Komplex und doch zu simpel
Nun hat der Täter von Hanau tatsächlich in seiner Jugend Fußball gespielt, sogar in der Jugend der Frankfurter Eintracht und der Offenbacher Kickers. Aber das war nicht sein Beruf und erst recht nicht, was ihn überregional bekannt gemacht hat. Wobei das, was er wirklich erlernt hatte, die Google-Einordnung zwar etwas richtiger gemacht hätte, aber auch nicht angemessen: Der Attentäter war gelernter Bankkaufmann.
Aller Komplexität zum Trotz wirkt es, als sei der Attentäter bei Google zur Entität Fußballspieler geworden, weil jemand den mit ihm nebensächlich verbundenen, geplatzten Traum vom Profifußballer mit verbundenen Augen und Holzhammer in die Lücke für "Beruf" klopfte. Es spricht alles dafür, dass der Baukasten für den Unfug die Online-Datenbank Wikidata gewesen ist, neben dem Online-Lexikon Wikipedia eine der laut Kopp wichtigsten Quellen von Googles Knowledge Graph.
Quellen wussten es besser
Einen eigenen Wikipedia-Eintrag zum Attentäter gibt es nicht, aber einen Wikidata-Eintrag zu ihm. Dort lautet die furchtbar richtige Erklärung: "german mass murderer and conspiracy theorist, perpetrator of the 2020 Hanau shootings". Weiter unten, in der Rubrik Erwähnungen ("statements") wird es bei der Frage nach Beruf oder Tätigkeit ("occupation") absurd: Massenmörder, Verschwörungstheoretiker, Sportschütze steht da - und eben Fußballspieler. Unter "Teams" ist Eintracht Frankfurt verzeichnet.
Als Quelle für die Tätigkeit "Fußballer" wird der einen Tag nach dem Anschlag bei Zeit Online erschienene Artikel "Was wir über den Angriff von Hanau wissen" angeführt. Darin ist dem Hobby allerdings bloß der eine, korrekte Satz gewidmet: "Als Jugendlicher hat Tobias R. in den 1980er Jahren für einige Jahre in der Jugend von Eintracht Frankfurt Fußball gespielt."
"Manchmal nicht die hilfreichsten Informationen"
Ausführlicher geht ein ebenfalls kurz nach der Tat vom Hanauer Anzeiger veröffentlichter Beitrag auf den Hobbyfußballer ein, den Google auch registriert haben könnte. Denn die Knowledge Box bringt das Aufmacher-Foto des Artikels: eine Aufnahme vom späteren Attentäters und zwei Schulkollegen des Gymnasiums Hohe Landesschule. Ein Bekannter aus Jugendtagen kommt zu Wort, der den späteren Attentäter als "Toptalent" bezeichnet. "Sein Traum von der Profikarriere ging aber nicht in Erfüllung", heißt es weiter.
Die automatisch-falsche Verwertung dieser seriösen Quellen dürfte den rassistischen Attentäter in der Suchmaschine zum "Fußballspieler" gemacht haben. Wie genau es lief - diese hr-Anfrage ließ Google Deutschland auf Anfrage offen. "Normalerweise funktionieren unsere Systeme gut, aber es gibt Fälle, in denen sie nicht die hilfreichsten Informationen anzeigen", räumt Pressesprecherin Enita Ramaj ein. Es sei eben sehr komplex, "Informationen über Milliarden von Entitäten" zu organisieren.
Menschliche Intelligenz reagiert
Fragwürdige Informationen im Knowledge Graph überprüfe man aber und ergreife "die entsprechenden Maßnahmen", sagt Ramaj. Das sehen auch die Regeln vor. Und jedes Knowledge Panel bietet Nutzern nicht nur eine Teilen-Funktion, sondern auch einen Feedback-Button.
Tatsächlich reagierte die menschliche Intelligenz des Konzerns am Ende umgehend. Kurz nach 10 Uhr am Dienstag wiesen wir die Pressestelle auf den Eintrag hin, nachmittags verbreitete der Knowledge Graph: "Tobias Rathjen Krimineller". Und doch: Ganz war der Fehler immer noch nicht aus dem System getilgt. Bei den Vorschlägen, die Google automatisch bei der Eingabe des Suchbegriffs unterbreitet, hieß es auch am darauffolgenden Mittwochvormittag noch: "Tobias Rathjen Fußballspieler".
