HALOSMI.ID- Meta, induk media sosial Instagram hingga Facebook, mengaku terus menyisir sejumlah konten berbahaya di platform media sosial mereka.
Meta memiliki beberapa teknologi untuk menyisir konten berbahaya, mulai dari deteksi berbasis teks hingga visual seperti foto dan video.
Sederet teknologi yang diterapkan Meta di platformnya hadir untuk memastikan keamanan pengguna. Teknologi tersebut sejalan dengan berbagai kebijakan keamanan mereka.
“Kami memiliki serangkaian kebijakan yang sangat dalam dan luas yang mencakup semua masalah yang bisa Anda lihat. Eksploitasi anak-anak, perundungan dan pelecehan, humor yang kejam dan tidak sensitif, kejahatan, penipuan, dan fraud,” ujar Antigone Davis, VP & Global Head of Safety Meta dalam acara Peluncuran Cerdas Digital 2025 di Jakarta, pada Rabu 16 April.
Davis menegaskan pihaknya bakal menghapus konten yang melanggar kebijakan ini, serta akun yang terlibat dalam perilaku berulang yang melanggar kebijakan Meta.
“Kami akan melakukan hal ini tidak hanya melalui mekanisme pelaporan kami, tetapi juga melalui teknologi yang kami bangun untuk secara proaktif mencoba menemukan pelanggaran-pelanggaran ini di platform kami,” imbuhnya.
Teknologi yang menyisir pelanggaran konten Meta dilatih untuk menemukan sinyal-sinyal tertentu. Sebagai contoh, beberapa teknologi mencari ketelanjangan dalam foto, sementara teknologi lain belajar memahami teks.
Awalnya, teknologi pengenalan ini mungkin tidak terlalu yakin apakah sebuah konten berbahaya atau tidak. Kemudian, tim peninjau akan mengonfirmasi hasil penilaian teknologi, yang ke depannya membuat teknologi tersebut belajar atas setiap keputusan manusia.
Seiring berjalannya waktu, teknologi ini akan memiliki akurasi yang lebih baik usai ribuan kali pembelajaran yang didapatkan.
Teknologi Meta akan mengambil tindakan terhadap konten baru, jika konten tersebut sama atau hampir sama dengan konten lain yang melanggar. Hal ini akan membantu untuk menyisir kampanye misinformasi yang viral, meme, dan konten lain yang dapat menyebar dengan sangat cepat.
“Di semua pekerjaan yang kami lakukan, kami membangun teknologi untuk mencoba mengidentifikasi pelanggaran kebijakan kami di platform. Namun selain teknologi itu, kami juga mencoba membangun teknologi untuk pengguna,” tutur Davis.
Davis mengaku ada beberapa kasus yang mungkin tidak bisa dideteksi oleh teknologinya.
Sebagai contoh, kasus perundungan dan pelecehan biasanya bersifat sangat personal. Hal semacam ini mungkin tidak bisa diidentifikasi oleh teknologi yang dimiliki Meta.
