Laut einem am Mittwoch veröffentlichten Bericht fördern die Algorithmen von TikTok Videos über Selbstverletzung und Essstörungen bei gefährdeten Teenagern, die Bedenken hinsichtlich sozialer Medien und ihrer Auswirkungen auf die psychische Gesundheit von Jugendlichen hervorheben.
Forscher des gemeinnützigen Center for Countering Digital Hate haben TikTok-Konten für fiktive Teenager-Personas in den USA, Großbritannien, Kanada und Australien erstellt. Die Forscher, die die Konten betreiben, haben dann Videos über Selbstverletzung und Essstörungen „geliked“, um zu sehen, wie der Algorithmus von TikTok reagieren würde.
Innerhalb weniger Minuten empfahl die äußerst beliebte Plattform Videos über Gewichtsabnahme und Selbstverletzung, darunter solche mit Bildern von Modellen und idealisierten Körpertypen, Bildern von Rasierklingen und Diskussionen über Selbstmord.
Als die Forscher Konten mit Benutzernamen erstellten, die auf eine besondere Anfälligkeit für Essstörungen hindeuteten – Namen, die beispielsweise die Wörter „Abnehmen“ enthielten – wurden die Konten mit noch schädlicheren Inhalten gefüttert.
„Es ist, als würde man in einem Saal aus verzerrten Spiegeln feststecken, in dem einem ständig gesagt wird, dass man hässlich ist, dass man nicht gut genug ist, vielleicht sollte man sich umbringen“, sagte Imran Ahmed, CEO des Zentrums, dessen Organisation Büros in der hat USA und Großbritannien. „Es pumpt buchstäblich die gefährlichsten Botschaften an junge Menschen.“
Social-Media-Algorithmen arbeiten, indem sie Themen und Inhalte identifizieren, die für einen Benutzer von Interesse sind, der dann mehr davon erhält, um seine Zeit auf der Website zu maximieren. Aber Social-Media-Kritiker sagen, dass die gleichen Algorithmen, die Inhalte über eine bestimmte Sportmannschaft, ein bestimmtes Hobby oder einen bestimmten Tanzwahn fördern, Benutzer in ein Kaninchenloch voller schädlicher Inhalte schicken können.
Es ist ein besonderes Problem für Teenager und Kinder, die tendenziell mehr Zeit online verbringen und anfälliger für Mobbing, Gruppenzwang oder negative Inhalte über Essstörungen oder Selbstmord sind, so Josh Golin, Geschäftsführer von Fairplay, einer gemeinnützigen Organisation, die sich stärker online engagiert Schutzmaßnahmen für Kinder.
Er fügte hinzu, dass TikTok nicht die einzige Plattform ist, die es versäumt, junge Benutzer vor schädlichen Inhalten und aggressiver Datenerfassung zu schützen.
„All diese Schäden hängen mit dem Geschäftsmodell zusammen“, sagte Golin. „Es spielt keine Rolle, was die Social-Media-Plattform ist.“
In einer Erklärung eines Unternehmenssprechers bestritt TikTok die Ergebnisse und stellte fest, dass die Forscher die Plattform nicht wie typische Benutzer nutzten, und sagte, dass die Ergebnisse dadurch verzerrt seien. Das Unternehmen sagte auch, dass der Kontoname eines Benutzers keinen Einfluss auf die Art der Inhalte haben sollte, die der Benutzer erhält.
TikTok verbietet Benutzern, die jünger als 13 Jahre sind, und seine offiziellen Regeln verbieten Videos, die zu Essstörungen oder Selbstmord auffordern. Benutzer in den USA, die auf TikTok nach Inhalten über Essstörungen suchen, erhalten eine Aufforderung mit Ressourcen zur psychischen Gesundheit und Kontaktinformationen für die National Eating Disorder Association.
„Wir konsultieren regelmäßig Gesundheitsexperten, beseitigen Verstöße gegen unsere Richtlinien und bieten allen Bedürftigen Zugang zu unterstützenden Ressourcen“, heißt es in der Erklärung von TikTok, das ByteDance gehört, einem chinesischen Unternehmen, das jetzt in Singapur ansässig ist.
Trotz der Bemühungen der Plattform fanden Forscher des Center for Countering Digital Hate heraus, dass Inhalte über Essstörungen auf TikTok Milliarden Mal angesehen wurden. Forscher fanden heraus, dass junge TikTok-Benutzer in einigen Fällen eine verschlüsselte Sprache über Essstörungen verwendeten, um die Inhaltsmoderation von TikTok zu umgehen.
Die schiere Menge an schädlichen Inhalten, die Teenagern auf TikTok zugeführt werden, zeigt, dass die Selbstregulierung versagt hat, sagte Ahmed und fügte hinzu, dass Bundesregeln erforderlich seien, um Plattformen zu zwingen, mehr zum Schutz von Kindern zu tun.
Ahmed bemerkte, dass die Version von TikTok, die dem inländischen chinesischen Publikum angeboten wird, darauf ausgelegt ist, Inhalte über Mathematik und Naturwissenschaften für junge Benutzer zu fördern, und begrenzt, wie lange 13- und 14-Jährige jeden Tag auf der Website sein können.
Ein Vorschlag vor dem Kongress würde neue Regeln auferlegen, die die Daten einschränken, die Social-Media-Plattformen über junge Nutzer sammeln können, und ein neues Büro innerhalb der Federal Trade Commission schaffen, das sich auf den Schutz der Privatsphäre junger Social-Media-Nutzer konzentriert.
Einer der Unterstützer des Gesetzentwurfs, Senator Edward Markey, D-Mass., sagte am Mittwoch, dass er optimistisch sei, dass sich die Gesetzgeber beider Parteien auf die Notwendigkeit strengerer Vorschriften für den Zugriff und die Nutzung der Informationen junger Benutzer durch Plattformen einigen könnten.
„Daten sind der Rohstoff, den Big Tech verwendet, um junge Menschen in unserem Land jeden Tag zu verfolgen, zu manipulieren und zu traumatisieren“, sagte Markey.
source – www.gadgets360.com
