Maps 101: Wie wir mit nicht authentischen und betrügerischen Inhalten umgehen
Ein Grund, weshalb Maps genau und zuverlässig ist ‒ und auch weiterhin bleiben wird ‒, sind Aktualisierungen, die Nutzerinnen und Nutzer täglich dem Kartenmaterial hinzufügen. Seit 2010 können Nutzerbeiträge hinzugefügt werden; seitdem haben mehr als 970 Millionen Menschen weltweit dazu beigetragen, Google Maps mit Rezensionen und Bewertungen, Fotos und Informationen zu Adressen und Geschäftszeiten aktuell zu halten. Diese Beiträge ermöglichen es Google Maps, mit der sich ständig verändernden Welt Schritt zu halten und Menschen dabei zu helfen, fundiertere Entscheidungen zu treffen.
So wie Google Maps eine Abbildung der realen Welt ist, so sind es auch die Menschen, die dazu beitragen. Leider gibt es im Netz schwarze Schafe, die versuchen, unangemessene oder irreführende Inhalte auf Google Maps zu veröffentlichen – die meisten davon werden jedoch von uns entfernt, bevor ihr sie überhaupt seht.
Während ein Großteil unserer Arbeit – vor allem hinter den Kulissen – darin besteht, unangemessene Inhalte zu verhindern und zu entfernen, möchten wir euch heute mehr über unsere Investitionen und Fortschritte im Hinblick auf die Zuverlässigkeit und Vertrauenswürdigkeit von Google Maps erzählen.
Wie wir schwarze Schafe identifizieren
Menschen durch eine Vielzahl von Techniken in die Irre zu führen, ist Teil von betrügerischen Aktivitäten. Sei es durch nicht authentische Rezensionen zu Lasten von Unternehmen oder durch falsche Sterne-Bewertungen, die ein Unternehmen besser dastehen lassen. Auch wenn der Kampf gegen diese nicht authentischen Inhalte komplex ist, sind wir unaufhörlich bestrebt, unsere Systeme fortlaufend zu verbessern und effizienter zu machen. Wir sprechen selten im Detail öffentlich darüber, um Betrügerinnen und Betrüger nicht auf unsere sich ständig ändernden Technologien aufmerksam zu machen.
Unsere Machine-Learning-Algorithmen scannen täglich Millionen von Nutzerbeiträgen; sofern sie technisch einen Verstoß gegen unsere Richtlinien feststellen, entfernen sie Inhalte in einer Vielzahl von Sprachen und suchen auch nach Signalen bei ungewöhnlichen Nutzeraktivitäten. Zum Beispiel können sie feststellen, ob ein neues Google Maps-Konto in ‒ zur Veranschaulichung beispielsweise ‒ Bangkok plötzlich schlechte Bewertungen von Autohäusern in Mexiko-Stadt und 1-Stern-Restaurant-Bewertungen in Chicago hinterlässt. Inhalte, die gegen unsere Richtlinien verstoßen, werden entweder von unseren automatisierten Algorithmen entfernt oder zusammen mit dem Nutzerkonto durch Menschen geprüft.
Darüber hinaus setzen wir Tausende geschulte Mitarbeiterinnen und Mitarbeiter ein, die dabei unterstützen, Inhalte zu bewerten, die für Algorithmen unter Umständen schwierig einzuordnen sind. Ein Beispiel dafür sind lokal umgangssprachliche Inhalte.
Wer sind diese schwarzen Schafe und wie stoppen wir sie?
Unsere Teams und Schutzmaßnahmen setzen darauf, zwei Haupttypen von Betrügerinnen und Betrüger zu identifizieren und zu bekämpfen: Solche, die Inhalte fälschen, und solche, die sie manipulieren.
Zum Beispiel haben wir uns darauf konzentriert, Inhalte von sogenannten Klickfarmen zu erkennen, in denen nicht authentische Rezensionen und Bewertungen generiert werden. Durch die bessere Erkennung solcher Klickfarm-Aktivitäten können diese Inhalte nicht so leicht veröffentlicht werden. Das wiederum erschwert es Klickfarmen, Bewertungen zu verkaufen und Geld zu verdienen.
Um nicht authentische und betrügerische Unternehmensprofile zu identifizieren, bevor sie überhaupt in Maps (oder auch in der Google Suche) angezeigt werden, haben wir unsere Google My Business-Überprüfungsprozesse mit neuen Machine-Learning-Algorithmen verstärkt. Dadurch haben wir bereits Millionen Versuche verhindert, Kunden von rechtmäßigen Unternehmen abzuwerben.
Es gibt aber auch schwarze Schafe, die Inhalte manipulieren – sei es, weil sie durch soziale und politische Ereignisse motiviert sind, oder schlicht, weil sie online ihre Spuren hinterlassen möchten. Sie veröffentlichen zum Beispiel nicht authentische Rezensionen, bearbeiten die Namen von Orten oder fügen unpassende Fotos zu Unternehmensprofilen in Maps hinzu.
Diese Art von Manipulation kann schwieriger zu bekämpfen sein, da sie häufig zufällig auftritt. Es kann beispielsweise ein Teenager sein, der als Scherz ein unpassendes Foto im Profil seiner Schule postet, oder jemand, der eine unsinnige, obszöne Rezension veröffentlicht.
Um Betrügereien zu verhindern, bedarf es entsprechender Handlungs- und Maßnahmenkonzepte. Wenn Orte anfälliger für Manipulation werden, passen wir unsere Verfahren zur Abwehr von Betrügereien an. Ein konkretes Beispiel: Als wir vergangenes Jahr anti-chinesische Fremdenfeindlichkeit im Zusammenhang mit COVID-19 auf unserer Plattform feststellen mussten, haben wir schnell unsere Algorithmen angepasst, um derartig rassistische Bewertungen präventiv zu blocken. Oder: Im Zusammenhang mit der US-Präsidentschaftswahl haben wir in Hinblick auf die Bekämpfung von Fehlinformationen die Möglichkeit eingeschränkt, Telefonnummern, Adressen und andere Informationen für Orte wie Wahllokale zu bearbeiten. Wir haben auch die Möglichkeiten eingeschränkt, Rezensionen für bestimmte Orte abzugeben, an denen eine höhere Rate an Inhalten festgestellt wurde, die gegen unsere Richtlinien verstießen, wie zum Beispiel Schulen in den USA.
Unsere Fortschritte bei der Bekämpfung unerwünschter Inhalte
Mithilfe von einer Vielzahl an Mitarbeiterinnen und Mitarbeitern und Technologien, die Maps rund um die Uhr genau beobachten, können wir schnell gegen Betrügerinnen und Betrüger vorgehen. Das reicht von der Entfernung einzelner Inhalte bis zur Sperrung von Konten. Alleine im Jahr 2020 haben wir die folgenden Maßnahmen ergriffen, um sicherzustellen, dass die in Google Maps angezeigten Inhalte zuverlässig sind:
- Insgesamt haben wir 55 Millionen Rezensionen und Bewertungen, die gegen unsere Richtlinien verstoßen haben und fast drei Millionen gefälschte Unternehmensprofile blockiert oder entfernt.
- Davon wurden uns allein 960.000 Rezensionen und mehr als 300.000 Unternehmensprofile von Google Maps-Nutzerinnen und -Nutzern gemeldet.
- Die Zahl der entfernten Rezensionen in 2020 liegt mit 20 Millionen unter der Gesamtzahl von 2019, was darauf zurückzuführen ist, dass wir einerseits deutlich proaktiver gehandelt haben als auch dadurch geschuldet ist, dass während der COVID-19-Pandemie weniger Personen unterwegs waren und nicht so oft neue Bewertungen verfassten.
- Wir haben mehr als 160 Millionen Fotos und 3,5 Millionen Videos überprüft und entfernt, die entweder gegen unsere Richtlinien in Bezug auf verbotene und eingeschränkt zulässige Inhalte verstoßen haben oder die von nicht ausreichender Qualität waren. Dank der Fortschritte in unseren automatisierten Systemen haben wir beispielsweise die Erkennung von Fotos, die falsch belichtet, extrem verschwommen oder zu dunkel waren, erheblich verbessert. Das hat zu enormen Verbesserungen der Qualität von Fotos auf Maps geführt. Da wir insgesamt noch härter gegen schwarze Schafe vorgegangen sind, führte das Entfernen von Konten dazu, dass alle mit dem Konto verbundenen Inhalte gelöscht wurden, in einigen Fällen waren das Tausende von Fotos.
- Unsere Technologien und Teams haben mehr als 610.000 Nutzerkonten deaktiviert, nachdem verdächtiges oder gegen Richtlinien verstoßendes Verhalten erkannt und untersucht wurde.
- Wir haben mehr als drei Millionen Versuche von Betrügerinnen und Betrügern gestoppt, Unternehmensprofile bei Google zu verifizieren, die ihnen nicht gehörten.
Die von unseren Nutzerinnen und Nutzern bereitgestellten Inhalte sind ein wichtiger Bestandteil davon, wie wir Google Maps weiterhin für alle hilfreicher und genauer machen. Da immer mehr Menschen ihr lokales Wissen in Google Maps teilen, werden wir weiterhin in die Richtlinien, Technologien und Ressourcen investieren, die erforderlich sind, um sicherzustellen, dass die Informationen zuverlässig sind.
