Menurut penyelidikan yang dikeluarkan pada 14 Disember yang menimbulkan kebimbangan mengenai media sosial dan pengaruhnya terhadap kesihatan mental remaja, algoritma TikTok mengesyorkan video mengenai kecederaan diri dan gangguan makan.
Akaun TikTok untuk personaliti remaja palsu di Amerika Syarikat, United Kingdom, Kanada dan Australia telah dibina oleh penyelidik di Countering Digital Hate . Para penyelidik yang menjalankan akaun “menyukai” video mengenai masalah mencederakan diri dan masalah makan untuk melihat bagaimana algoritma TikTok bertindak balas.
Dalam beberapa minit, platform yang sangat popular itu mula mempromosikan video tentang mengurangkan berat badan dan mencederakan diri, termasuk foto model dan jenis badan yang ideal, imejan pisau cukur dan bersembang tentang bunuh diri.
Apabila penyelidik membina identiti dengan nama pengguna yang membayangkan kecenderungan khusus untuk gangguan makan, seperti “mengurangkan berat badan,” akaun tersebut diberi maklumat yang lebih berbahaya.
“Ia seperti terperangkap di dalam dewan cermin di mana anda terus-menerus diberitahu anda hodoh, anda tidak cukup baik, mungkin anda perlu membunuh diri,” kata Ketua Pegawai Eksekutif pusat itu Imran Ahmed, pejabat di AS dan UK. “Ia sebenarnya menghantar mesej yang paling merosakkan kepada golongan muda.”
Algoritma media sosial berfungsi dengan mengenali subjek dan maklumat yang pengguna minati, dan kemudian menghantarnya lebih banyak perkara yang sama untuk memaksimumkan masa mereka di tapak. Walau bagaimanapun, penentang media sosial berpendapat bahawa algoritma yang sama yang menyerlahkan maklumat tentang pasukan sukan tertentu, hobi atau trend tarian boleh membawa pengguna ke kandungan toksik.
Menurut Josh Golin, pengarah eksekutif Fairplay, sebuah organisasi non-profit yang menyokong perlindungan dalam talian yang lebih baik untuk kanak-kanak, ini merupakan masalah khusus untuk remaja dan kanak-kanak, yang menghabiskan lebih banyak masa dalam talian dan lebih terdedah kepada buli, tekanan rakan sebaya atau kandungan negatif tentang “eating disorder” atau bunuh diri.
Beliau seterusnya mengatakan bahawa TikTok bukanlah satu-satunya tapak yang tidak melindungi pengguna mudanya daripada pengumpulan data bahan berbahaya dan invasif.
“Semua kesan negatif ini terikat dengan model perniagaan, ” jelas Golin. “Tidak ada bezanya sama ada platform media sosial digunakan.”
TikTok membantah penemuan itu dalam satu kenyataan daripada jurucakap perniagaan, menekankan bahawa para penyelidik tidak menggunakan laman web itu seperti pengguna biasa, dan hasilnya telah terpesong sebagai akibatnya. Perniagaan itu juga menyatakan bahawa nama akaun pengguna seharusnya tidak mempunyai kaitan dengan jenis bahan yang diperoleh pengguna.
TikTok tidak membenarkan pengguna di bawah umur 13 tahun, dan garis panduannya yang dinyatakan melarang filem yang menggalakkan gangguan makan atau bunuh diri. Pengguna TikTok di Amerika Syarikat yang mencari bahan gangguan makan menerima gesaan dengan sumber kesihatan mental dan maklumat hubungan untuk Persatuan Gangguan Makan Kebangsaan.
“Kami melibatkan diri dengan profesional kesihatan secara tetap, memadamkan pelanggar piawaian kami, dan memberikan akses kepada perkhidmatan yang berguna untuk sesiapa sahaja yang memerlukan,” kata TikTok, yang dimiliki oleh ByteDance Ltd, sebuah perniagaan China yang terletak di Singapura.
Di sebalik usaha platform itu, penyelidik mendapati bahawa kandungan gangguan makan telah dilihat berbilion kali di TikTok. Dalam kes lain, penyelidik mendapati, pengguna TikTok remaja menggunakan bahasa berkod berkenaan masalah makan dalam usaha untuk mengelakkan pemantauan kandungan TikTok.
Menurut Ahmed, jumlah maklumat berbahaya yang banyak diberikan kepada remaja di TikTok menunjukkan bahawa pengawalseliaan kendiri telah gagal, dan bahawa sekatan kerajaan diperlukan untuk memaksa platform melakukan lebih banyak untuk melindungi kanak-kanak di bawah umur.
Ahmed menegaskan bahawa versi TikTok yang tersedia untuk khalayak Cina domestik bertujuan untuk mempromosikan bahan matematik dan saintifik kepada pengguna muda, dan ia mengehadkan jumlah masa yang boleh diluangkan oleh kanak-kanak berumur 13 dan 14 tahun di tapak setiap hari.
Cadangan sebelum Kongres AS akan mengenakan undang-undang baharu yang menyekat data yang mungkin dikumpulkan oleh syarikat media sosial tentang pengguna muda, serta menubuhkan pejabat baharu di dalam Suruhanjaya Perdagangan Persekutuan yang didedikasikan untuk memelihara privasi pengguna media sosial muda.
Senator Edward Markey, D-Mass., salah seorang penyokong rang undang-undang itu, berkata pada hari Rabu bahawa beliau percaya senator dari kedua-dua parti boleh bersetuju tentang keperluan untuk peraturan yang lebih ketat tentang cara platform mengakses dan menggunakan maklumat pengguna bawah umur.
“Data ialah bahan asas yang digunakan oleh teknologi besar setiap hari untuk mengintai, mengawal dan menimbulkan trauma kepada golongan muda dalam masyarakat kita,” tambah Markey.