Instagram will Mobbing mit Machine Learning entgegenwirken

Instagram führt pünktlich zum Mental Health Day neue Funktionen gegen Mobbing ein. Auf Instagram findet man neben den zahlreichen schönen Fotos und vielen Komplimenten leider immer häufiger auch beleidigende Kommentare und Beiträge. Mobbing ist in den sozialen Netzwerken keine Seltenheit mehr und auch sehr komplex.

Nicht in jedem Fall kann Mobbing über Bild- und Stichworterkennung erkannt und gelöscht werden. Rund 96 Prozent der Jugendlichen  und Erwachsenen im Alter von 14-24 Jahren hatten bereits Erfahrungen mit Hasskommentaren im Internet. Ein sehr erschreckendes Ergebnis und deswegen möchte Instagram etwas dagegen unternehmen und für mehr Freundlichkeit auf der Plattform sorgen. Machine Learning soll Mobbing nun endgültig einen Strich durch die Rechnung machen.

Das Team trifft die Entscheidungen

Instagram Chef Adam Mosseri erläutert, dass künftig ein Verfahren basierend auf Machine Learning dabei helfen soll, die Hasspostings zu ermitteln. Die KI soll in Fotos und den Bildunterschriften Mobbing erkennen. Die betroffenen Beiträge werden automatisch an das Community-Operations-Team weitergeleitet. Das Team trifft dann die endgültige Entscheidung über eine Lösung. Wenn der Beitrag gegen die Richtlinien verstößt, wird dieser direkt gelöscht. Ist das der Fall erhält der Nutzer eine Nachricht mit entsprechender Begründung.

Machine Learning als logischer Schritt

Viele der Mobbing-Opfer würden ihre Beiträge selbst nicht melden. Auch Außenstehende beobachten zwar die Hasskommentare und sehen die Beiträge, aber melden diese nicht. Aus diesen Gründen ist die Ermittlung mit Machine Learning ein logischer Schritt, sagt Adam Mosseri. Bereits vergangenes Jahr hat Instagram einen Filter integriert, mit dem beleidigende Kommentare erkannt und gelöscht werden. Jetzt erweitert sich die Funktion und der Mechanismus weitet sich auf Bilder und Live-Videos aus. Unter den Kommentareinstellungen könnt ihr den Filter aktivieren.

Instagram Machine Learning
Kommentareinstellungen, Screenshot by Lina Schilling

Neuer Facefilter gegen Mobbing

Um noch mehr Positivität und Freundlichkeit auf der Plattform zu verteilen, hat Instagram einen passenden Facefilter veröffentlicht. Zusammen mit Maddie Ziegler hat Instagram den Filter entwickelt. Das Model setzt sich für mehr Freundlichkeit im Umgang miteinander ein und spricht sich gegen Mobbing aus. Um den Filter nutzen zu können, müsst ihr Maddie auf Instagram folgen (@maddieziegler). Nun werdet ihr sehen, dass Herzen den Bildschirm füllen. Zusätzlich könnt ihr eure Freunde taggen. Sobald sie dann die Kamera öffnen, erscheinen Komplimente in verschiedenen Sprachen auf seinem Display. Fraglich bleibt, ob diese Methode wirklich eine Lösung ist, um Mobbing auf der Plattform entgegenzuwirken.


Image by Joshua Rawson Harris via unsplash.com

 


Artikel per E-Mail verschicken
Schlagwörter: , , , , , ,