Ada yang besar quantity foto dan video pelecehan seksual anak secara on-line—jutaan keping dihapus dari net setiap tahun. Gambar ilegal ini sering ditemukan di situs net media sosial, layanan internet hosting gambar, discussion board net gelap, dan situs net pornografi authorized. Sekarang alat baru di salah satu situs net pornografi terbesar sedang mencoba mengganggu orang saat mereka mencari materi pelecehan seksual anak dan mengarahkan mereka ke layanan di mana mereka bisa mendapatkan bantuan.
Sejak Maret tahun ini, setiap kali seseorang mencari kata atau frasa yang mungkin terkait dengan materi pelecehan seksual terhadap anak (juga dikenal sebagai CSAM) di situs net Pornhub UK, sebuah chatbot muncul dan mengganggu upaya pencarian mereka, menanyakan apakah mereka mau untuk mendapatkan bantuan dengan perilaku yang mereka tunjukkan. Selama 30 hari pertama uji coba sistem, pengguna memicu chatbot sebanyak 173.904 kali.
“Skala masalahnya sangat besar sehingga kami benar-benar perlu mencoba dan mencegahnya terjadi sejak awal,” kata Susie Hargreaves, kepala eksekutif Web Watch Basis (IWF), organisasi nirlaba yang berbasis di Inggris yang menghapus konten pelecehan seksual terhadap anak dari net. IWF adalah salah satu dari dua organisasi yang mengembangkan chatbot yang digunakan di Pornhub. “Kami ingin hasilnya agar orang tidak mencari pelecehan seksual terhadap anak. Mereka berhenti dan memeriksa perilaku mereka sendiri,” kata Hargreaves.
Chatbot muncul saat seseorang menelusuri Pornhub untuk salah satu dari 28.000 istilah yang telah diidentifikasi yang diyakini memiliki tautan ke orang yang mencari CSAM. Dan pencarian dapat mencakup jutaan kombinasi kata kunci potensial. Munculan, yang telah dirancang oleh badan amal anti-pelecehan anak, Yayasan Lucy Faithfull bersama IWF, kemudian akan mengajukan serangkaian pertanyaan kepada orang-orang dan menjelaskan bahwa apa yang mereka cari mungkin ilegal. Chatbot memberi tahu orang-orang bahwa itu dijalankan oleh Lucy Faithfull Basis dan mengatakan itu menawarkan dukungan “rahasia, tidak menghakimi”. Orang-orang yang mengklik immediate yang mengatakan bahwa mereka membutuhkan bantuan akan ditawari element situs net organisasi, saluran bantuan telepon, dan layanan e-mail.
“Kami menyadari bahwa perjalanan pengguna harus sesederhana mungkin,” kata Dan Sexton, chief expertise officer di IWF. Sexton menjelaskan chatbot telah dikembangkan selama lebih dari 18 bulan dan melibatkan beberapa grup berbeda seperti yang dirancang. Tujuannya adalah untuk “mengalihkan” atau “mengganggu” seseorang yang mungkin mencari materi pelecehan seksual terhadap anak dan melakukannya hanya dengan beberapa klik.
Kunci keberhasilan sistem terletak pada inti premisnya: Apakah dorongan perilaku semacam ini menghentikan orang untuk mencari CSAM? Hasilnya mungkin sulit diukur, kata mereka yang terlibat dalam proyek chatbot. Jika seseorang menutup browser mereka setelah melihat chatbot, itu bisa dianggap sukses, misalnya, tetapi tidak mungkin untuk mengetahui apa yang mereka lakukan selanjutnya.
New Replace : [randomize]