BERITA BANJAR– Ketika membicarakan TikTok, pasti kamu langsung teringat pada video pendek yang setiap hari muncul di FYP. Dari tarian lucu, resep masakan sederhana, hingga tips teknologi – semuanya ada. Tapi, di balik layar aplikasi hiburan ini, ada usaha besar yang tidak banyak orang ketahui: moderasi konten.
Ya, setiap video yang kamu lihat sebenarnya sudah melewati filter terlebih dahulu. Tujuannya jelas: agar tidak ada konten berbahaya, tidak pantas, atau bahkan hoaks yang lolos begitu saja. Selama ini, proses ini dilakukan oleh ribuan moderator manusia yang tugasnya menonton, menyaring, bahkan kadang menghapus video yang dianggap melanggar aturan.
Mengapa TikTok Berpindah ke Moderasi AI?
Jika dipikir-pikir, memang masuk akal juga mengapa TikTok akhirnya serius menggunakan AI untuk moderasi. Ada beberapa alasan yang cukup kuat:
1. Skala Konten yang Sangat Besar
Bayangkan, setiap menit ratusan ribu video baru diunggah ke TikTok dari seluruh dunia. Mustahil rasanya jika semuanya diperiksa secara manual oleh manusia. AI dianggap bisa bekerja lebih cepat, real-time, dan tidak mudah lelah.
2. Efisiensi Biaya
Jumlah moderator manusia bisa mencapai puluhan ribu. Artinya biaya gaji, tunjangan, dan fasilitas lainnya meningkat drastis. Dengan AI, perusahaan dapat memangkas biaya operasional secara signifikan.
3. Konsistensi Keputusan
Moderator manusia terkadang bisa memiliki perbedaan pendapat: sebuah video dianggap aman, tetapi moderator lain mungkin menghapusnya. AI dinilai lebih konsisten karena mengikuti algoritma yang sama.
4. Tekanan Psikologis pada Moderator
Banyak laporan mengatakan bahwa pekerjaan sebagai moderator konten sangat berat secara mental. Mereka bisa terpapar video kekerasan, pornografi, hingga konten ekstrem lainnya. AI dianggap lebih “tahan banting” karena tidak memiliki perasaan.
Bagaimana Cara Kerja AI Moderasi di TikTok?
AI yang digunakan TikTok sebenarnya merupakan gabungan dari beberapa teknologi canggih:
Visi Komputer: Dapat mengenali gambar atau video, misalnya deteksi senjata, darah, atau simbol tertentu.
Pemrosesan Bahasa Alami (NLP): Untuk membaca caption, komentar, atau teks dalam video.
Pengenalan Suara: Dapat mengenali suara, lirik lagu, atau ucapan dalam video.
Machine Learning: Sistem belajar dari data, sehingga semakin lama semakin cerdas dalam mendeteksi pelanggaran.
Prosesnya biasanya seperti ini:
Video diunggah.
AI melakukan pemindaian otomatis langsung.
Jika terdeteksi melanggar aturan jelas (misalnya ada konten pornografi atau ujaran kebencian), video bisa langsung dihapus tanpa campur tangan manusia.
Jika kasusnya abu-abu (misalnya satire, lelucon gelap, atau konten sensitif), AI dapat menandai untuk direview oleh moderator manusia tetapi proporsinya menjadi jauh lebih kecil.
Dampak terhadap Moderator Manusia: Gelombang PHK
Di balik kemajuan ini, ada cerita yang cukup menyedihkan. Ribuan moderator yang dahulu bekerja untuk TikTok (baik secara langsung maupun melalui pihak ketiga) akhirnya di-PHK.
Beberapa isu yang muncul:
Kehilangan pekerjaan tetap: Banyak dari mereka yang menggantungkan hidup pada pekerjaan ini.
Kompensasi minimal: Ada laporan bahwa pesangon yang diberikan tidak sebanding dengan lamanya bekerja.
Apakah AI Bisa Menggantikan Semua Moderator?
Pertanyaan besar yang muncul adalah: apakah benar AI bisa sepenuhnya menggantikan manusia?
Jawabannya: tidak sepenuhnya.
Mengapa? Karena ada beberapa hal yang AI masih sulit lakukan:
Konteks Budaya
Satu kata bisa memiliki makna yang berbeda di setiap negara. Misalnya, sebuah gerakan tangan bisa dianggap biasa dalam satu budaya, tetapi ofensif dalam budaya lain. AI sering mengalami kesulitan dalam memahami konteks seperti ini.
Humor dan Sarkasme
AI sering kali gagal membedakan apakah sebuah konten bersifat serius atau hanya sekadar bercanda. Akibatnya, bisa terjadi false positive (video yang aman justru dihapus).
Isu Etika dan Hak Asasi Manusia
Terkadang keputusan moderasi bukan hanya tentang aturan, tetapi juga melibatkan dilema etis. Misalnya, konten yang menyinggung politik, agama, atau isu sosial.
Jadi, meskipun AI semakin canggih, peran manusia masih diperlukan sebagai “pembuat keputusan terakhir” untuk kasus-kasus yang sensitif.
Reaksi Publik dan Netizen
Berita TikTok mengganti moderator manusia dengan AI tentu tidak luput dari perhatian netizen. Ada yang pro, ada juga yang kontra.
Pro-AI: “Bagus saja, agar lebih cepat dan tidak ada konten berbahaya yang lolos.”
Kontra: “Sayang kepada para pekerja. Lagi-lagi manusia dikorbankan demi efisiensi perusahaan.”
Netral: “Selama hasilnya bagus dan adil, tidak masalah jika AI yang memoderasi.”
Di sisi lain, beberapa aktivis hak digital mengingatkan bahwa AI juga bisa bersifat bias. Jika dataset yang digunakan tidak inklusif, maka konten dari kelompok tertentu bisa lebih sering dihapus.
Bagaimana dengan Platform Lain?
Sebenarnya, TikTok bukan yang pertama menggunakan AI untuk moderasi. YouTube, Facebook, dan Instagram juga sudah lama mengandalkan AI. Perbedaannya, biasanya mereka tetap mempertahankan ribuan moderator manusia sebagai cadangan.
YouTube, misalnya, selama pandemi 2020 lebih banyak mengandalkan AI karena moderator bekerja dari rumah. Hasilnya? Banyak video yang seharusnya aman justru dihapus. Dari sana, mereka menyadari bahwa AI belum bisa akurat 100%.
Masa Depan Moderasi Konten
Jika kita melihat tren, moderasi konten di masa depan akan menjadi kombinasi antara AI dan manusia.
AI: sebagai filter utama, cepat, luas, dan efisien.
Manusia: menjadi pengambil keputusan akhir untuk kasus yang ambigu atau sensitif.
Mungkin yang akan berubah adalah jumlah moderator manusia akan jauh berkurang. Dari yang tadinya ribuan, bisa jadi hanya ratusan orang saja.
Langkah TikTok menggunakan AI untuk moderasi konten adalah bagian dari tren besar di dunia teknologi: otomatisasi. Dari sisi bisnis, ini masuk akal lebih cepat, murah, dan konsisten. Tapi dari sisi manusia, ada harga yang harus dibayar: ribuan pekerja kehilangan mata pencaharian.
Pertanyaan yang masih menggantung adalah: apakah kita sebagai pengguna lebih nyaman jika konten difilter oleh AI, atau lebih percaya pada manusia?
Jelas, dunia digital memang semakin mengandalkan AI. Dan kisah TikTok ini mungkin baru awal dari perubahan besar dalam cara platform media sosial bekerja di masa depan.***
