Terhubung dengan kami

EU

#ArtificialIntelligence - Hukum UE harus menetapkan batas aman untuk aplikasi berisiko tinggi, kata #EESC

SAHAM:

Diterbitkan

on

Kami menggunakan pendaftaran Anda untuk menyediakan konten dengan cara yang Anda setujui dan untuk meningkatkan pemahaman kami tentang Anda. Anda dapat berhenti berlangganan kapan saja.

Pengenalan biometrik untuk melacak, mengawasi, dan mendeteksi emosi seharusnya tidak memiliki tempat dalam pendekatan human-centric Eropa terhadap Artificial Intelligence (AI), kata laporan tersebut. Komite Ekonomi dan Sosial Eropa (EESC) dalam bukunya tanggapan terhadap Buku Putih Komisi Eropa tentang AI, diadopsi oleh pleno EESC pada bulan Juli.

Komisi Eropa telah mengusulkan bahwa aplikasi AI harus dianggap berisiko tinggi jika melibatkan sektor berisiko tinggi (perawatan kesehatan, transportasi, energi dan bagian-bagian dari sektor publik) dan penggunaan risiko tinggi, dengan beberapa pengecualian yang mencakup: masih harus didefinisikan. Hanya jika kedua kondisi ini dipenuhi, saran Komisi, sebaiknya kita berbicara tentang AI berisiko tinggi, yang akan jatuh di bawah peraturan dan struktur tata kelola tertentu.

EESC percaya bahwa definisi ini berisiko menciptakan celah yang berpotensi berbahaya. Iklan politik Facebook memberikan contoh utama, kata Komite.

"Periklanan adalah sektor berisiko rendah dan fungsi agregasi berita Facebook dapat dianggap sebagai penggunaan berisiko rendah. Namun," kata pelapor opini Catelijne Muller, "kami telah melihat selama kampanye pemilihan bahwa penyebaran berita palsu dan deepfake di Facebook menghasilkan dengan bantuan AI dapat memiliki banyak efek negatif dan mempengaruhi cara orang memilih, dengan campur tangan bahkan dari luar Eropa. "

Haruskah ada pengecualian dari ini, dan berapa banyak yang harus ada? Daripada membuat daftar pengecualian, EESC percaya akan lebih baik untuk menyusun daftar karakteristik umum yang dianggap berisiko tinggi, apa pun sektornya.

Banyak aplikasi memiliki dampak yang kuat pada hak-hak fundamental, tegas Muller, tidak hanya pada privasi masyarakat, tetapi juga pada hak mereka untuk berdemonstrasi atau bergabung dengan serikat, misalnya.

Sisi gelap pengakuan biometrik

iklan

Pengenalan wajah dan biometrik adalah salah satu area utama di mana AI menyentuh hak-hak dasar. Penggunaannya mungkin diizinkan untuk tujuan identifikasi pribadi - dan memang diatur oleh Peraturan Perlindungan Data Umum.

Tetapi penggunaan luas pengenalan biometrik berbasis AI untuk pengawasan atau untuk melacak, menilai atau mengkategorikan perilaku atau emosi manusia harus dilarang. Terlebih lagi karena tidak ada bukti ilmiah apa pun yang dapat membedakan perasaan seseorang berdasarkan biometriknya, tegas Muller.

COVID-19 melacak dan melacak aplikasi

EESC juga memperingatkan terhadap lonjakan pelacakan dan penelusuran teknologi yang tidak terkendali yang menemukan jalannya ke masyarakat kita jauh lebih cepat dan dengan pengawasan yang jauh lebih sedikit daripada sebelumnya, dalam upaya untuk memerangi wabah koronavirus.

"Teknik AI dan pendekatan untuk melawan pandemi harus sama kuat, efektif, transparan, dan dapat dijelaskan seperti teknik AI lainnya dalam situasi lain," kata pelapor EESC. "Mereka harus menjunjung tinggi hak asasi manusia, prinsip etika dan undang-undang. Mereka juga harus sukarela, karena suka atau tidak suka, banyak teknik yang diperkenalkan selama krisis akan menjadi permanen."

EESC berharap bahwa Komisi akan menerima masukannya, seperti yang telah dilakukan dengan rekomendasi yang telah diajukan EESC sejak pendapat inovatif tentang AI pada tahun 2017, yang pertama kali memperjuangkan pendekatan "human in command" untuk AI di Eropa.

Latar Belakang

Grafik Buku Putih tentang AI, bagian dari paket luas langkah-langkah tentang AI yang diumumkan di Komisi Eropa untuk Membentuk Masa Depan digital Eropa, mengedepankan:

  • Langkah-langkah untuk memperlancar penelitian, mempromosikan kerja sama antara negara-negara anggota dan meningkatkan investasi di AI, dan;
  • opsi kebijakan untuk kerangka kerja regulasi UE di masa depan tentang AI, dengan fokus yang kuat pada aplikasi berisiko tinggi.

Pada bulan Februari 2020, Komisi meluncurkan konsultasi publik tentang White Paper yang berlangsung hingga 14 Juni dan menarik lebih dari 1 balasan untuk kuesioner dan sekitar 200 pengajuan tertulis. Komisi sedang memproses masukan itu dan akan segera menerbitkan laporan.

Membentuk masa depan digital Eropa menguraikan tindakan yang akan diambil Komisi Eropa untuk memastikan Eropa sesuai dengan era digital, salah satu prioritas utama Ursula von der Leyen pada masanya sebagai presiden eksekutif Eropa. Itu didasarkan pada tiga pilar utama:

  • Teknologi yang bekerja untuk rakyat;
  • ekonomi digital yang adil dan kompetitif, dan;
  • masyarakat yang terbuka, demokratis dan berkelanjutan.

EESC telah memberikan sarannya tentang "Membentuk masa depan digital Eropa" dalam a, juga diadopsi pada pleno EESC Juli, dengan satu rekomendasi utama:

"Transformasi digital yang sangat cepat membuat kami tidak tahu perkembangan baru apa yang akan datang bulan depan. Oleh karena itu, kami harus fleksibel dan mudah beradaptasi. Ini membutuhkan dialog yang konstan antara semua pihak yang terlibat. EESC, sebagai suara dari masyarakat sipil yang terorganisir. masyarakat, harus menjadi bagian darinya, dan kami meminta Komisi untuk membuat dialog permanen seperti itu, "kata pelapor opini Ulrich Samm.

Bagikan artikel ini:

EU Reporter menerbitkan artikel dari berbagai sumber luar yang mengungkapkan berbagai sudut pandang. Posisi yang diambil dalam artikel ini belum tentu milik Reporter UE.

Tren