UE menyediakan £1.8 juta dalam pembiayaan untuk pembuatan aplikasi baru yang dimaksudkan untuk mengurangi penayangan konten pelecehan seksual anak di internet

Ini akan diuji pada sukarelawan yang telah meminta bantuan karena ketertarikan mereka pada gambar-gambar terlarang untuk memastikan mereka tidak dapat menyerah pada keinginan mereka.

Saat dipasang di perangkat, seperti telepon, program akan mengenali dan mencegah tampilan gambar dan video yang menyinggung.

Diyakini bahwa itu akan membantu mengurangi "permintaan yang meningkat" untuk foto-foto pelecehan anak.

Organisasi dari UE dan Inggris telah bergabung dalam proyek Protech.

Aplikasi Salus proyek, yang menggunakan kecerdasan buatan untuk mengidentifikasi informasi yang berpotensi pornografi dan mencegah pengguna melihatnya, dirancang untuk beroperasi secara waktu nyata.

Internet Watch Foundation, sebuah organisasi yang bekerja untuk menemukan, menandai, dan menghapus materi pelecehan anak, akan membantu melatih teknologi AI yang dikembangkan oleh perusahaan Inggris, SafeToNet.

Tom Farrell dari SafeToNet, yang bekerja selama 19 tahun dalam penegakan hukum, mengatakan kepada BBC bahwa aplikasi tersebut tidak dimaksudkan untuk menjadi alat untuk melaporkan pengguna ke polisi: "Orang-orang yang secara sukarela ingin berhenti melihat materi pelecehan seksual terhadap anak dengan jelas tidak akan tidak menggunakan solusi seperti itu jika mereka percaya bahwa itu akan melaporkan mereka ke penegak hukum."

iklan

'Bantuan praktis'

Relawan yang mengunduh aplikasi akan direkrut melalui organisasi yang bekerja dengan individu yang mencari bantuan karena mereka tertarik pada gambar pelecehan anak online.

Salah satu organisasi tersebut adalah badan amal Inggris, Lucy Faithfull Foundation, yang mengoperasikan saluran bantuan bagi mereka yang takut mengunduh gambar ilegal dan ingin berhenti. Itu termasuk sejumlah besar orang yang mengaku sebagai pedofil, beberapa di antaranya telah divonis.

Donald Findlater dari yayasan, mengatakan alat seperti aplikasi baru dapat membantu individu mengontrol perilaku mereka, menambahkan: "ini adalah bantuan praktis untuk orang yang mengenali kerentanan dalam diri mereka sendiri".

Anggota proyek Protech berharap dapat membendung "permintaan yang meningkat untuk materi pelecehan seksual anak secara online".

Tinggi baru 30,925 pelanggaran yang melibatkan kepemilikan dan berbagi gambar tidak senonoh anak-anak dilakukan pada tahun 2021/2022, menurut NSPCC.

Tahun lalu a melaporkan oleh thinktank Yayasan Polisi mengatakan bahwa volume pelanggaran pelecehan seksual anak secara online "hanya membuat kemampuan lembaga penegak hukum, secara internasional, kewalahan untuk merespons".

Anggota proyek yang berbicara dengan BBC menyarankan bahwa kepolisian saja tidak akan menghentikan orang mengunduh gambar.

Mr Farrell berpendapat bahwa Inggris telah menangkap lebih banyak orang karena memiliki materi pelecehan seksual anak daripada negara lain di dunia sejak 2014 dan dalam prosesnya telah mengidentifikasi beberapa pelanggar yang sangat serius.

Tapi jutaan orang masih melihat gambar

"Jadi penangkapan bukanlah solusinya. Kami pikir kami dapat bekerja di sisi pencegahan dan mengurangi permintaan dan mengurangi aksesibilitas."

'Tahap percontohan'

Banyak detail pengoperasian aplikasi masih perlu dikerjakan. Tidak ada AI yang sempurna dan keseimbangan harus dicapai antara over-blocking - yang akan mempersulit penggunaan perangkat yang sah - dan under-blocking - yang gagal mendeteksi banyak gambar penyalahgunaan.

Mr Farrell mengatakan aplikasi tersebut akan diuji dalam "tahap percontohan" di lima negara - Jerman, Belanda, Belgia, Republik Irlandia dan Inggris dengan setidaknya 180 pengguna selama periode 11 bulan.

Dan para ahli yang tidak terlibat dalam proyek menganggap gagasan itu menjanjikan.

Profesor Belinda Winder dari Nottingham Trent University mengatakan ini adalah perkembangan yang disambut baik yang dapat mendukung orang-orang yang "ingin dibantu untuk melawan dorongan tidak sehat mereka, dan yang akan mendapat manfaat dari jaring pengaman ini".

Seperti halnya semua alat teknologi baru, detailnya akan rumit dan Prof Winder memiliki pertanyaan tentang cara kerjanya dalam praktik tetapi mengatakan: "Ini adalah langkah positif ke arah yang benar."

Bagikan artikel ini: