Google kini bergabung dengan berbagai organisasi untuk memerangi pornografi anak di internet dengan melakukan review secara manual.
Namun, lantaran mau tak mau harus melihat sekian banyak gambar berbau child sexual abuse, hal itu sulit dilakukan secara teknis dan menguras emosi pengulasnya.
Google berniat mempermudah proses tersebut dengan memakai teknologi kecerdasan buatan atau Artificial Intelligence/ atau AI.
Sang raksasa internet pada awal pekan ini memperkenalkan Content Safety API, sebuah developer toolkit berbasis AI untuk mengindentifikasi konten pornografi anak secara otomatis dan memprioritaskan mana saja yang mesti mendapat perhatian lebih dari reviewer.
Dengan demikian, proses penyaringan bisa berlangsung jauh lebih cepat, sementara jumlah orang (reviewer) yang mesti terekspos konten terkait pun bisa dikurangi.
Google mengklaim toolkit AI besutannya bisa membantu meningkatkan jumlah identifikasi pornografi anak hingga tujuh ratus persen
“Dengan cepat mengidentifikasi gambar baru, anak yang mengalami eksploitasi seksual bisa lekas diidentifikasi dan dilindungi,” tulis engineering lead Nikola Todorovic dan product manager Abhi Chaudhuri dari Google dalam sebuah posting blog.
Sebagaimana ditulis Cnet, Kamis pagi WIB ), teknologi Google ini mengandalkan deep neural network untuk melakukan identifikasi konten pornografi anak.
Cara kerjanya mirip otak manusia yang mampu “dilatih” untuk mengidentifikasi konten baru.
Lewat Content Safety API, Google menyediakan sang tool AI secara cuma-cuma untuk para rekanan industri dan LSM yang memerangi pornografi anak di internet.
Salah satunya, Internet Watch Foundation, menyambut hangat pemanfaatan kecerdasan buatan untuk keperluan tersebut.
“Dengan menggunakan teknologi ini, identifikasi gambar bisa dipecepat. Pada gilirannya, internet akan menjadi tempat yang lebih aman,” ujar mereka.
Sebelumnya, Twitter telah melakukan langkah yang maju atas pengusutan konten berbau porno yang dilatari balas dendam atau teror.
Situs mikroblog, kemarin, mengubah aturan kebijakan perusahaan yang melarang pengguna mengunggah konten intim tanpa persetujuan.
Dalam perubahan aturan itu, Twitter juga menegaskan melarang penggunanya membuat ancaman yang bernada SARA.
“Anda mungkin tidak memposting foto atau video intim yang diambil atau didistribusikan tanpa persetujuan subjek,” ujar aturan komunitas perusahaan.
Dikutip dari Washington Post, langkah pembaharuan aturan Twitter itu dilakukan menyusul langkah situs Reddit.
Diketahui beberapa pekan sebelumnya, Reddit telah mengubah kebijakan perusahaan untuk menindak orang yang memasukkan foto eksplisit intim dalam situsnya.
Nah, pada aturan terbaru pada Twitter, pengguna yang melihat foto intim mereka diposting bisa melaporkan materi tersebut secara resmi kepada Twitter.
Namun Twitter mengatakan pelapor haruslah yang benar-benar menjadi subjek dalam konten terlarang tersebut. Pelapor boleh saja meminta Twitter untuk mengulas dan menghapus gambar mereka.
Twitter juga memberikan ruang bagi pengguna yang memposting foto orang lain untuk mengajukan banding atas keputusan penghapusan foto yang diprotes.
Peraturan baru Twitter ditegaskan berbeda dengan kebijakan Reddit. Twitter tidak hanya akan menyembunyikan postingan intim dari publik, tapi juga memungkinkan mengunci akun pemgguna yang memposting.
“Pengguna akan diminta untuk menghapus konten yang dimaksud sebelum bisa kembali mengaktifkan akun,” kata perusahaan yang berbasis di San Francisco, Amerika Serikat itu.
Guna memberikan kenyamana kepada pengguna, Twitter juga melarang pengguna memosting konten yang berniat melecehkan orang lain. Jika menemukan pengguna kategori ini, Twitter berjanji akan menskors akun pengguna itu.
Dalam perubahan aturan itu, Twitter juga menegaskan akan kooperatif dengan penegak hukum jika memang kasus pada platformnya berlanjut ke meja hijau.
Keputussan kebijakan baru Twitter itu disambut dengan gembira oleh aktivis kekerasan rumah tangga dan korban penganiayaan.
Aktivis memandang langkah Twitter adalah langkah yang benar dan bisa membantu memerangi masalah pelecehan.
“Ada sedikit titik kritis. Tak baik mengatakan satu-satunya cara aman yaitu mengisolasi secara sosial. Kekerasan rumah tangga adalah soal isolasi, dan sangat penting bagi korban untuk dapat berhubungan kembali dengan teman dan keluarganya,” ujar Cindy Southworth,
