AB Komisyonu, TikTok’u Kullanıcıları Zararlı İçerik Döngülerine Çekmekle Suçluyor

AB Komisyonu, TikTok’u Kullanıcıları Zararlı İçerik Döngülerine Çekmekle Suçluyor

Avrupa Komisyonu, geçtiğimiz Cuma günü TikTok’u, öneri algoritmasının kullanıcıları üzüntü, kendine zarar verme ve beden imajı gibi konulardaki içerik “tavşan deliklerine” çekmesini engellemekte başarısız olmakla suçladı. Bu ön bulgular, TikTok’un AB’nin Dijital Hizmetler Yasası’nı (DSA) ihlal ettiğini gösteriyor ve sosyal medya platformlarının genç kullanıcıları nasıl tehlikeye attığına dair Atlantik’in her iki yakasında da devam eden tartışmaların ortasında geldi.

Avrupalı yetkililer, bu bulguların AB düzenleyicilerinin büyük bir sosyal medya platformunun etkileşim tabanlı öneri sistemine doğrudan meydan okuduğu ilk örnek olduğunu ve bildikleri kadarıyla dünya çapında bu türden ilk uygulama eylemi olduğunu belirtti. Komisyon yetkilileri gazetecilere, soruşturmanın öncelikli olarak kullanıcı etkileşimi üzerine kurulu bir “iş modelini ele aldığını” ifade etti.

Avrupa Komisyonu, TikTok’un “Sizin İçin” akışının, zihinsel sağlık sorunları ve beden imajıyla ilgili olsa bile kullanıcılara sürekli kişiselleştirilmiş videolar gösterdiğini belirtti. Komisyon, “Bir kullanıcı belirli bir içerik türüyle ne kadar çok etkileşime girerse, TikTok’un ‘Sizin İçin’ akışı algoritması o kadar benzer içerik önerir. Bu tasarım, örneğin üzüntü, izolasyon veya beden imajı hakkındaki içeriklerin sonsuz ve tekrarlanan maruz kalma durumunda zararlı olabilir” açıklamasını yaptı.

Brüksel, TikTok’un kendi risk değerlendirmelerinde bazı sorunları tespit ettiğini, ancak müfettişlerin şirketin bu riskleri doğru bir şekilde analiz etmekte ve uygun önlemleri almakta başarısız olduğunu bulduğunu söyledi. Bu bulgular nihai değil ve TikTok’un Komisyon’un kanıtlarını inceleme ve bulgularına itiraz etme hakkı bulunuyor. Eğer DSA ihlalleri doğrulanırsa, şirket yıllık küresel gelirinin %6’sına kadar para cezasıyla karşı karşıya kalabilir.

Tavşan Delikleri ve Algoritma Sorunları

Avrupalı yetkililer, davanın içerik kaldırma ile ilgili olmadığını vurguladı ve müfettişlerin kasıtlı olarak ne yasa dışı ne de TikTok’un kendi kurallarına aykırı olmayan videolara odaklandığını belirtti. Bir yetkili bu içerik kategorisini “en az zararlı” olarak tanımladı. Yetkililer, “bir günde ne yiyorum” ve “SkinnyTok” gibi trendleri örnek göstererek, yasal içeriğin tek başına zararsız görünebileceğini ancak özellikle genç ve savunmasız kullanıcılar için tekrarlar yoluyla zarar verici hale geldiğini ifade etti.

Bu durum, ABD senatörlerinin geçtiğimiz Ağustos ayında, Şubat 2022’de üzüntü ve intiharla ilgili içerik akışını izledikten sonra intihar eden 16 yaşındaki Chase Nasca’nın ölümü üzerine TikTok’tan yanıt talep etmesinin ardından geldi. Geçen yıl Bloomberg tarafından bildirilen dahili bir TikTok incelemesi, Nasca’nın platformun kullanıcı tabanının yaklaşık %10’unu oluşturan bir kontrol grubunun parçası olduğunu ve bu grupta zararlı konulara tekrarlanan maruz kalmayı önlemeyi amaçlayan tasarım değişikliklerinin uygulanmadığını ortaya koydu.

Avrupa Komisyonu’ndan bir yetkili Cuma günü yaptığı açıklamada, “Aynı türden yüzlerce, hatta binlerce videodan oluşan bir zincir elde ederseniz, bu insanları ‘tavşan deliği’ dediğimiz şeye sürükler ve bu da insanların zihinsel refahı üzerinde olumsuz bir etki yaratır” dedi. Komisyon’a göre, TikTok’un döngüleri kırmak için kendi araçları işe yaramıyor; akışı çeşitlendirmeye yönelik “dağıtım” teknikleri etkisiz, akışı yenilemek sadece kısa süreli yardımcı oluyor ve “ilgilenmiyorum” seçeneğine dokunmak bir süre sonra işlevini yitiriyor.

Özellikle Komisyon, TikTok’un algoritmik önerilerini, kullanıcıların videoları ne kadar süre izledikleri gibi dolaylı sinyaller yerine, açıkça istediklerini belirttikleri şeylere dayandırmasını istiyor. Yetkililer, “dünyanın en gelişmiş soruşturma altyapılarından birini” geliştirmek için iki buçuk yıl harcadıklarını, ancak belirli test yöntemlerinin platformların araçları manipüle etmesini önlemek için gizli tutulması gerektiğini söyledi. Şirketin iç belgelerini ve verilerini elde ettiklerini ve psikologlar, psikiyatristler ve sistem tasarımı uzmanlarının yardımıyla yaklaşık 20.000 videoyu analiz ettiklerini belirttiler. Bir yetkili, test için “tam algoritmaya erişime gerçekten ihtiyaç duymadıklarını, onsuz yeterli bilgiye sahip olduklarını” ifade etti.

Komisyon’un kanıtlarını kontrol etme ve itiraz etme hakkına sahip olan TikTok sözcüsü, “Komisyon, platformumuzun mimarisini ve kullanıcı güvenliğine olan bağlılığımızı temelden yanlış yansıtan ve çarpıtan bir dizi açıklama yaptı” dedi. Sözcü, “Topluluğumuzu koruma ve kullanıcılara içerik deneyimleri üzerinde doğrudan ve sezgisel kontrol sağlama konusunda güçlü bir geçmişimiz var” diye ekledi.

Cuma günkü bulgular, Komisyon’un bu yıl TikTok’a karşı çıkardığı üçüncü bulgu oldu. Şubat ayında bağımlılık yapan tasarım özelliklerine itiraz eden bir bulgu ve Temmuz ayında reşit olmayanların hesaplarındaki korumalarla ilgili bir başka bulgu yayınlanmıştı. Yetkililer, bu davanın bildirimler veya sonsuz kaydırma gibi sorunlardan ziyade platformun öneri sistemine odaklandığını belirtti. Ayrıca, TikTok’un Alabama’daki son uzlaşmasının öneri sistemine “bu kadar derinlemesine girmediğini” söylediler.

Diğer platformların da benzer şekilde kullanıcıları tavşan deliklerine ittiğini kabul eden yetkililer, Komisyon’un “TikTok’un ötesine daha geniş bir şekilde baktığını” ancak TikTok dışındaki konularda yorum yapmaktan kaçındıklarını ifade ettiler. Komisyon, bu davayı, Eylül ayında tanıtılan ve platformların çocuklara içerik önermek için yalnızca etkileşim sinyallerine güvenmesini yasaklayacak olan önerilen KIDS Yasası için bir “sahne belirleyici” olarak tanımladı. Yetkililer, bu hükmün doğrudan TikTok soruşturmasından ilham aldığını belirtti.