Maschinelles Lernen im Jugendschutz

Unsere Machbarkeitsstudie Technik für den digitalen Jugendschutz: Automatische Erkennung von Sexting und Cybergrooming von 2018 hat untersucht, wie Methoden des maschinellen Lernens dabei helfen können, den Schutz von Minderjährigen in digitalen Räumen zu verbessern. Dabei ging es um zwei Fragestellungen: Können Sexts, also erotische bzw. sexualisierte Selfies, auf Smartphones automatisiert erkannt und somit potenziell auch verhindert werden? Kann Cybergrooming automatisiert erkannt werden, indem das Alter der Chatpartner erkannt oder ein bereits auffällig gewordener Teilnehmer wiedererkannt wird? Beide Themen stehen im Zusammenhang: Sexts von Minderjährigen können das Ergebnis von erfolgreichem Cybergrooming sein, bei dem ein Erwachsener einen Minderjährigen in einem Chat unter Vortäuschung einer falschen Identität zu entsprechenden Aufnahmen überredet. Beide Sachverhalte sind also Aspekte der Gefährdung Minderjähriger, wobei Sexts von Minderjährigen auch ohne Cybergrooming entstehen können und eine Gefährdung dann primär durch eine unkontrollierte Weiterverbreitung erfolgen kann.