Scoring So könnte Software für Airbnb Nutzer-Persönlichkeiten einschätzen

Airbnb will Betrüger entlarven, bevor sie zum Problem werden. Ein Patent zeigt, wie ein Algorithmus die Vertrauenswürdigkeit von Nutzern kalkulieren könnte. Doch viele Fragen bleiben offen.
In vielen Bereichen probieren Unternehmen, die Persönlichkeitsstruktur von Internetnutzern zu erfassen

In vielen Bereichen probieren Unternehmen, die Persönlichkeitsstruktur von Internetnutzern zu erfassen

Foto: imago images/ Joko

Von Wohnungen, die nicht existieren, bis zu Vermietern und Gästen, die andere sexuell belästigen, ermorden  oder Zimmer verwüsten : Airbnb vermittelt Hunderttausende Wohngelegenheiten, wobei Nutzer mitunter an die Falschen geraten. Solche Horrorgeschichten versucht der Konzern auch mithilfe von Datenanalysen und Risikoprognosen zu verhindern.

Scoring-Software, die die Vertrauenswürdigkeit und die Persönlichkeit von Personen einstuft, könnte potenzielle Risikopersonen bereits im Vorfeld entdecken. Patentdokumente, auf die jetzt der "Evening Standard " aufmerksam gemacht hat, offenbaren, wie solch ein Verfahren theoretisch funktionieren könnte. Die Patentanmeldung stammt vom Start-up Trooly, einem Unternehmen, das 2017 von Airbnb übernommen wurde.

Passt der Vermieter zum Gast?

Wie es in der Patentbeschreibung von Trooly  heißt, soll Software Dokumente und Informationen identifizieren, daraus Verhaltens- und Persönlichkeitsmerkmale ableiten und auf Basis eines Punktesystems einen "Vertrauenswürdigkeits- oder Kompatibilitätsscore der Person" errechnen. Bei Letzterem wird der Beschreibung zufolge kalkuliert, wie kompatibel zwei Personen sind, im Fall von Diensten wie Airbnb etwa Vermieter und Gast. Auch Beziehungen zwischen Personen können das Ranking beeinflussen - wer etwa mit Personen vernetzt ist, die hohe Werte haben, wird selbst als tendenziell vertrauenswürdiger eingestuft.

Informationen aus kommerziellen und staatlichen Quellen wie Vorstrafenregistern, aber auch Social-Media-Inhalte und Blogs sollen dabei helfen zu kalkulieren, ob jemand zu "unzuverlässigen" Persönlichkeitsmerkmalen neigt. Darunter könnten etwa Merkmale wie Bösartigkeit, antisoziale Tendenzen, Neurotizismus, Narzissmus oder Psychopathie fallen. Als positiv gelten dagegen Kategorien wie Offenheit, Extrovertiertheit oder Verträglichkeit.

Auch Indizien, die darauf hindeuten, dass jemand Fakeprofile hat, oder falsche Angaben macht, beeinflussen die Bewertung negativ. Abgestraft werden auch Nutzer, die die Software mit Begriffen, Fotos oder Videos verknüpft, die auf Drogen- und Alkoholkonsum hindeuten, und Menschen, die mit hetzerischen Webseiten oder Organisationen oder mit Sexarbeit in Verbindung stehen. Wer zu oft auf seinen Social-Media-Profilen wütet und online negative Kommentare verfasst, läuft ebenfalls Gefahr, eine schlechte Bewertung zu erhalten.

Social-Media-Spuren als Background-Check

Software, die verspricht, Persönlichkeit und Verhalten zu prognostizieren und dabei auch Social-Media-Inhalte auswertet, wird bereits in vielen Bereichen eingesetzt - von Werbung und Finanzen bis hin zu politischen Kampagnen. Kreditunternehmen versuchen zu berechnen, mit welcher Wahrscheinlichkeit jemand seinen Kredit zurückzahlt. Im Zuge des Cambridge-Analytica-Skandals waren mit einer Persönlichkeitstest-App Daten von Facebook-Nutzern und deren Freunden ausgelesen worden, um aus den Likes und anderen Online-Details Rückschlüsse auf die Persönlichkeit zu ziehen und Wählerprofile zu erstellen.

Das Start-up Trooly, von dem die Patentunterlagen stammen, wurde bereits 2014  in Kalifornien von drei indischen Unternehmern gegründet. Airbnb gehörte Medienberichten zufolge bereits 2015 zu den ersten Kunden.

In Ländern wie Indien oder China  helfen Social-Media-Analysen schon länger und in weitaus größerem Rahmen als in Deutschland bei der Vermessung von Bonität und Vertrauenswürdigkeit, auch weil es neben lockereren Datenschutzgesetzen noch keine flächendeckenden, klassischen Auskunfteien wie die Schufa  gibt - und weil viele Menschen zwar keine Kreditkarte oder ein Konto besitzen, dafür aber meist ein Smartphone.

Trooly liefere "Dienstleistungen, die vertrauenswürdige Beziehungen und Interaktionen verifizieren, prüfen und vorhersagen", beschreibt sich das Unternehmen . "Unsere Machine-Learning-Technologie synthetisiert digitale Fußabdrücke in Echtzeit, um reichhaltige Einblicke zu bieten - weit über Hintergrundprüfungen der alten Schule, Bonitätsprüfungen und Risikomanagement-Tools hinaus." Ratings und Beweise würden innerhalb von rund 30 Sekunden geliefert und weniger als einen Dollar pro Anfrage kosten.

Zum Kauf des Start-ups durch Airbnb kommentierte ein Unternehmenssprecher 2017: "Wir werden weiterhin zusammenarbeiten, um das Vertrauen zwischen Fremden auf, außerhalb und über die Plattform hinweg zu verbessern."

Globale Datenbank mit Psychoprofilen

Ob und falls ja wie sich aktuell von Airbnb eingesetzte Software dabei von dem im Patent beschriebenen Verfahren unterscheidet, ist nicht bekannt. Airbnb hatte eine SPIEGEL-Anfrage dazu bis Dienstagabend nicht beantwortet (siehe Update unter dem Text).

"Bei jeder Airbnb-Buchung wird vor der Bestätigung das Risiko bewertet", heißt es bislang auf der Website des Konzerns . "Wir nutzen Vorhersagemethoden und maschinelles Lernen, um auf der Stelle Hunderte von Signalen auszuwerten, die uns dabei helfen, verdächtige Aktivitäten zu erkennen und zu unterbinden, noch bevor sie eintreten." Weltweit führe das Unternehmen zudem bei Gastgebern und Gästen einen Abgleich mit Behörden-, Terroristen- und Sanktionslisten durch, in den USA werde darüber hinaus "der Hintergrund überprüft".

Dass das Unternehmen versucht, Betrüger zu entlarven, ist naheliegend. Offen ist jedoch, in welchem Umfang Airbnb seine Nutzer scannt und dazu etwa auch Social-Media-Profile durchforsten lässt - und wie treffsicher die Software ist.

"Zumindest ethisch fragwürdig"

Ob Persönlichkeitsbewertungen per Algorithmus zuverlässig funktionieren, ist zumindest umstritten. "Wissenschaftlich gesehen halte ich das für sehr gewagt", sagt Matthias Spielkamp von der Bürgerrechtsorganisation AlgorithmWatch dem SPIEGEL. Auch die Angaben im Patent zu dem Verfahren hält er für "extrem dünn". "Da steht nichts zu der ganzen Methodik drin, und wie zuverlässig das funktionieren soll", so Spielkamp. Er hält es zudem "rechtlich für unklar", ob Airbnb solch ein Verfahren überhaupt anwenden dürfte.

"Scoring-Mechanismen werden häufig von Unternehmen und staatlichen Stellen eingesetzt - und zwar häufiger, als den Nutzern oft bewusst ist", sagt Spielkamp. "Selbst wenn es rechtlich in Ordnung sein sollte, solche Verfahren einzusetzen, wäre es zumindest ethisch fragwürdig, wenn die Nutzer nichts davon wissen." In der Datenschutzerklärung von Airbnb gibt es Spielkamp zufolge - im Gegensatz zu den Angaben auf der Website - keinen expliziten Verweis auf einen Einsatz einer solchen Scoring-Software.

"Es wäre ein Riesenproblem, wenn ein global agierender, einflussreicher Akteur wie Airbnb eine weltweite Datenbank mit Psychoprofilen aufbauen würde, die potenziell falsch sind", sagt Spielkamp.

Update, 8. Januar 2020:

“Dieses Tool ist nicht neu und die in der aktuellen Berichterstattung genannten Funktionen werden nicht von Airbnb genutzt”, teilte Airbnb dem SPIEGEL am Mittwoch mit. Das ursprüngliche Patent für das Tool sei im Rahmen der Übernahme von Trooly 2017 übernommen und kürzlich erneuert worden. Der Konzern melde regelmäßig Patente an, diese würden aber nicht zwangsläufig umgesetzt.

Zum Einsatz kämen derzeit “komplexe Technologien und Verhaltensanalyse-Techniken”. Ein Echtzeit-Risiko-Erkennungssystem verwende maschinelles Lernen und vorausschauende Analysen, um Betrug vorzubeugen. “Unsere Sicherheitssysteme suchen nach Verhalten und Attributen, die Betrüger auf der Plattform identifizieren und Betrug und nicht autorisierte Veranstaltungen verhindern”, heißt es. Jedes Inserat werde auf Hunderte von Faktoren wie Bewertung des Gastgebers, Beschreibung der Unterkunft, doppelte Fotos und andere Unstimmigkeiten analysiert. Zukünftig sollen auch Hochrisiko-Reservierungen gefiltert werden, anhand von Faktoren wie der Dauer des Aufenthalts und der Größe der Unterkunft.