Technologie
In Skandinavien bereits im Einsatz: Künstliche Intelligenz ist Pädophilen auf der Spur

Algorithmen stoppen Übergriffe im Netz – indem sie den Schreibstil analysieren. «Sophie14» wird nach wenigen Sätzen als 35-jähriger Mann erkannt.

Niels Anner aus Kopenhagen
Drucken
Teilen
Seine wahre Identität verrät der Gesprächspartner durch seine spezifische Art zu tippen.

Seine wahre Identität verrät der Gesprächspartner durch seine spezifische Art zu tippen.

Bild: Getty Images

Es passiert in sozialen Medien wie Tiktok, in Games wie «Fortnite» oder «Mindcraft» oder in harmlos wirkenden Chatforen für Kinder. Das sogenannte Online-Grooming, sexuell motivierte Kontakte von Erwachsenen zu Minderjährigen, stellt eine wachsende Gefahr dar. Die James-Studie 2020 der Zürcher Hochschule für Angewandte Wissenschaften hat gezeigt, dass fast die Hälfte der befragten Jugendlichen erlebt haben, dass sie online von Fremden mit unerwünschten sexuellen Absichten angesprochen wurden. Mädchen sind fast doppelt so häufig betroffen wie Buben.

Die Kontakte beginnen meist harmlos, als normale Plauderei, wobei sich die Erwachsenen oft als Gleichaltrige ausgeben. Dann werden die Täter expliziter, fragen nach gewagten Bildern, dann nach Nacktfotos – und schlagen vor, auf nicht zu überwachende Kanäle wie Whatsapp oder Skype zu wechseln. «Es ist ein eiskaltes, zynisches und sorgfältig geplantes Vorgehen, mit grossem Risiko für sexuellen Missbrauch», sagt der Forscher ­Patrick Bours, der sich als Experte für Biometrie und IT-Sicherheit seit Jahren mit dem Thema auseinandersetzt.

Erwachsene drücken sich anders aus als Jugendliche

Der Niederländer hat mit seinem Team an der Technischen Universität Norwegen (NTNU) in den letzten Jahren eine neue, auf künstlicher Intelligenz basierende Waffe gegen Grooming entwickelt. Eine, die allfällige Täter in wenigen Minuten entlarvt, noch bevor diese Schaden anrichten können.

Das System setzt auf die Analyse des Schreibstils. Denn jede Person, sagte Bours, bewegt sich individuell, nach bestimmten Mustern, und genauso tippen wir unterschiedlich – wobei die Unterschiede ähnlich wie beim Fingerabdruck sind. Schaut man genau hin, sind erstaunliche Zuordnungen möglich – sowohl beim Tippen auf dem Handy wie auch auf einer Tastatur.

Nach wenigen Sätzen lassen sich Aussagen darüber machen, was für eine Person schreibt. Algorithmen vergleichen dazu Schreibrhythmus und Variationen im Tastendruck mit Erfahrungswerten. Bours erklärt:

«Das System erkennt nach kurzer Zeit mit 80 Prozent Sicherheit, ob ein Mann oder eine Frau schreibt. Und wie alt die Person etwa ist.»

Dazu kommt eine zweite, parallel laufende Analyse: jene der Sprache, der Wortwahl und der Satzkonstruktionen. Denn Erwachsene drücken sich, auch wenn sie sich verstellen, anders aus als Kinder und Jugendliche. Die norwegischen Forscher ­haben eine künstliche Intelligenz darauf trainiert. Sie haben Texte aus Chats, und in Zusammenarbeit mit der Polizei auch reale Grooming-Fälle analysieren können.

Jetzt kann das System bei der Textanalyse eine Risikoabschätzung auf einer Skala von 0,00 bis 1,00 vornehmen: «Hi sweetie» («hallo Süsse») ergibt beispielsweise 0,48, während die Frage «Ist deine Mutter zu Hause, Süsse? als 0,98 eingeschätzt wird – als sehr alarmierend. Die Einschätzung kann sich während der Konversation ändern. Bleibt sie im roten Bereich, reagiert das System.

In Kombination mit der biometrischen Schreibstilanalyse ergibt sich nun eine 95-prozentige Treffsicherheit. Wenn der Nutzer «Sophie14» in einem Kinderchatroom plaudert, der Algorithmus aber merkt, dass ein über 35-jähriger Mann schreibt, schlägt das System Alarm. Die Methode wird bereits auf mehreren skandinavischen Chat-Plattformen angewendet.

Für Eltern ist es schwierig, die Kontrolle über die Internetaktivitäten ihrer Kinder zu behalten.

Für Eltern ist es schwierig, die Kontrolle über die Internetaktivitäten ihrer Kinder zu behalten.

Keystone

Tippmuster sind bei Frauen und Männern anders

Biometrische Verfahren, die den Schreibstil unter die Lupe nehmen, werden auch in anderen Bereichen angewendet. Meistens geht es um die Iden­tifikation und Absicherung von Nutzern: Ist die Person, die sich eingeloggt hat, wirklich dieje­nige, der dieser Login ­gehört? Schreibt sie so wie die eingeloggte Person?

Dabei wird aus Datenschutzgründen nicht der Inhalt analysiert, sondern das Tippen. Norwegische Banken etwa nutzen die Analyse von Tippmustern seit langem als eine von mehreren Sicherheitsmassnahmen. Wie lange und wie schnell Tasten gedrückt werden, verrät den Systemen, ob sich ein Mann oder eine Frau einloggt und ob die Person zum Login passt.

Um Chatrooms vor Pädophilen zu schützen, werden weltweit verschiedene Massnahmen getroffen. Sondereinheiten der Polizei oder Kinderschutzorganisationen erzielen immer ­wieder mit verdeckten Ermittlungen in Chats Erfolge. Sie ­können damit Chat-Moderatoren unterstützen, die oft schlicht nicht genug Ressourcen für eine Überwachung haben. Auch die automatisierte Analyse von Text und Bildern hat in den letzten Jahren Fortschritte gemacht, doch in Echtzeit ist das komplex.

«Wartet man, bis die Konver­sation weit fortgeschritten ist, kann es zu spät sein», sagt auch Bours. Sein System kann sich schon aus ein paar Dutzend Chat-Nachrichten ein sehr genaues Bild machen. Wobei die Tipp-Analyse bereits nach wenigen Sätzen verlässliche Aussagen über das Alter eines Nutzers macht.

In Skandinavien zeigen die auf Online-Kriminalität spe­zialisierten Polizeiabteilungen grosses Interesse an der neuen Technologie. Der dänische Justizminister erklärte, er halte einen Einsatz für sehr sinnvoll, wobei vielleicht zudem gesetzliche ­Vorschriften für Anbieter von Chats denkbar wären. Dabei müssten Fragen des Datenschutzes geklärt werden. Der Forscher Patrick Bours sieht allerdings kein Problem, da ja keine Personen identifiziert würden.

Wer schreibe, sei dem System egal, sagt der Experte, es gehe einzig darum, verdächtiges Verhalten zu stoppen. Und natürlich müssten Nutzer über die Technik informiert werden. Doch Chatanbieter könnten ja auch mit dem System werben, dass sie die Sicherheit der Kinder wirklich ernst nehmen.

Aktuelle Nachrichten