Uluslararası Af Örgütü'nün yeni araştırması, TikTok'un 'Sizin İçin/'For You' başlıklı akışının, çocuklarını ve gençlerini ruh sağlığı içerikleriyle etkileşime girerek depresyon, kendine zarar verme ve intihar içerikleri döngüsüne ittiğini ortaya koydu. 

Örgütün Fransa temsilciliği tarafından yapılan araştırmada, TikTok'un çocukları ve gençleri etkileyen riskleri ortadan kaldırma konusunda başarısızlığının devam ettiği vurgulandı.

Uluslararası Af Örgütü Çocuk ve Gençlerin Dijital Hakları Araştırmacısı Lisa Dittmer, "Teknik araştırmamız, ruh sağlığıyla ilgili içeriklere ilgi gösteren gençlerin ne kadar çabuk zehirli tuzaklara çekilebileceğini gösteriyor. TikTok'un 'Sizin İçin' akışına girdikten sadece üç ila dört saat sonra, test için açılan genç hesapları intiharı romantikleştiren veya gençlerin intihar yöntemleri hakkında bilgiler de dahil olmak üzere hayatlarına son verme niyetlerini gösteren videolarla karşılaştı." dedi.  

Uluslararası Af Örgütü araştırmacıları kendilerini 13 yaşında gibi göstererek TikTok’a kaydoldu

Uluslararası Af Örgütü araştırmacıları, TikTok'un 'Sizin İçin' akışındaki içeriklerin algoritmik olarak nasıl güçlendirildiğini manuel olarak incelemek için Fransa'da yaşayan, kendilerini ikisi kadın, biri erkek olmak üzere 13 yaşında gibi kaydederek, üç genç hesabı oluşturdu. Beş dakika boyunca kaydırdıktan ve herhangi bir tercih belirtmeden önce, hesaplarda üzüntü veya hayal kırıklığıyla ilgili videolar görüldü. 

Bu videoları izlemek, üzüntü ve ruh sağlığıyla ilgili içerik miktarını hızla artırdı. Deneye başladıktan 15-20 dakika sonra, üç yayın da neredeyse tamamen ruh sağlığıyla ilgili videolarla doldu ve yarısına kadarı depresif içerik içeriyordu. İki hesapta ise 45 dakika içinde intihar düşüncelerini dile getiren videolar vardı. 

Fransa'da 13 yaşındaki çocukların otomatik test hesapları kullanılarak Algoritmik Şeffaflık Enstitüsü ile ek deneyler gerçekleştirildi. TikTok'un öneri sisteminin, izleme geçmişlerinde farklı seviyelerde bu tür videolar bulunduğunda önerilen üzücü veya depresif içerik payını iki kattan fazla artırdığı görüldü.

Araştırma, TikTok'un Avrupa Birliği'nin Dijital Hizmetler Yasası (DSA, Digital Services Act) kapsamında düzenlendiği Fransa'da gerçekleştirildi. Bu yasa, 2023'ten bu yana platformların çocuk haklarına yönelik sistemik riskleri tespit edip azaltmasını zorunlu kılıyor.   

Fransız milletvekilleri şu anda sosyal medya düzenlemelerindeki boşlukları tartışıyor ve bu araştırma, Uluslararası Af Örgütü'nün TikTok'un etkileşime dayalı iş modeline bağlı sistemik riskleri ele almadığına dair önceki kanıtlara ekleniyor.

Gençler üzerindeki etkisi: ‘Sizi etkiliyor ve kendinize zarar vermeye teşvik ediyor ve " 

TikTok'un 2024'ten bu yana duyurduğu risk azaltma önlemlerine rağmen platform, savunmasız kullanıcıları kendine zarar verme, umutsuzluk ve intihar düşüncelerini normalleştiren içeriklere maruz bırakmaya devam ediyor.  

Depresyondaki gençlerin ve etkilenen veya yaslı ebeveynlerin ifadeleri, TikTok'un iş modelinin zaten zorluk çeken gençlerin ruhsal ve fiziksel sağlığı açısından ne kadar büyük riskler ve zararlar içerdiğini ortaya koyuyor.   

18 yaşındaki Maëlle, 2021'de TikTok'un ‘Sizin İçin’ akışındaki depresif ve kendine zarar verme içeriklerine nasıl ilgi duyduğunu anlatırken, "Hâlâ retinama kazınmış videolar var," dedi. Sonraki üç yıl boyunca, zararlı çevrimiçi içeriklere kapılırken, kendine zarar vermeyle ilgili zihinsel sağlık sorunları ile mücadelesi azalmaya devam etti.  

Genç şöyle dedi: "Kendini kesen insanları, bunu sonlandırmak için hangi ilacı alması gerektiğini söyleyen insanları görmek, sizi etkiliyor ve kendinize zarar vermeye teşvik ediyor." 

Rapor, zararlı içeriklerin yaygınlaştırılmasına odaklanırken, toplanan ifadeler aynı zamanda TikTok'un içerik denetimindeki başarısızlıklarına da işaret ediyor.

Araştırma katılımcılarına göre, gençler ve ailelerinden gelen tekrarlanan bildirimlere rağmen, kendine zarar vermeyi veya intiharı teşvik eden içerikler platformdan kaldırılmadı.    

Örneğin, Uluslararası Af Örgütü araştırmacıları, 2025 yazında manuel olarak yönetilen bir test hesabının akışında "dudak kremi meydan okuması"na dair iki video buldu. Sosyal trendin, başka bir kişide dudak kremi kokusunu tahmin etme meydan okumasıyla başladığı iddia ediliyor. Fikir, insanları üzgün hissettikleri ve kendilerine zarar verdikleri veya dudak kremi bittiğinde intihar girişiminde bulundukları her seferinde dudak kremlerinden bir parça çıkarmaya teşvik eden farklı bir versiyona dönüştü. 

TikTok'un depresif içerik sarmalına düşüp 2021'de hayatına son veren 15 yaşındaki Fransız Marie Le Tiec'in annesi Stéphanie Mistre, "Bu platformlar için çocuklarımız insan olmaktan çok ürün haline geliyor. Çocuklarımızı bir algoritma ve filtre baloncuğuyla ürün olarak kullanıyorlar, duygularını kullanarak onları cezbediyorlar. Algoritma ilgi alanlarınızı ele geçiriyor ki bu normal değil. Çocuğun özel hayatına müdahale ediyorlar. Ama çocukların hakları var." dedi.

TikTok'u güvenli hale getirmek için acil ve bağlayıcı önlemler     

Örgüt bu araştırmanın, TikTok'un platformunun gençler üzerindeki bağımlılık yaratan tasarımının neden olduğu sistemik riskleri ele alma konusundaki başarısızlığını ortaya koyduğunu açıkladı. “Şirket, BM İş ve İnsan Hakları Rehber İlkeleri doğrultusunda insan haklarına saygı gösterme sorumluluğunu yerine getirmekte başarısız olmakta ve DSA yükümlülüklerinin tamamını yerine getirmemektedir.” dedi.   

Örgütün Fransa’dan savunuculuk görevlisi Katia Roux ise "TikTok'un açık DSA ihlallerine dair bu yeni kanıt, Avrupa Komisyonu'nun devam eden soruşturmasına acilen dahil edilmelidir. TikTok'un nihayet Avrupa Birliği ve dünya genelindeki gençler için güvenli bir uygulama haline gelmesini sağlamak için bağlayıcı ve etkili önlemler alınmalıdır." dedi.

Kaynak: Uluslararası Af Örgütü