Terhubung dengan kami

EU

#ArtificialIntelligence - Menangani risiko bagi konsumen

SAHAM:

Diterbitkan

on

Kami menggunakan pendaftaran Anda untuk menyediakan konten dengan cara yang Anda setujui dan untuk meningkatkan pemahaman kami tentang Anda. Anda dapat berhenti berlangganan kapan saja.

Sirkuit elektronik kecerdasan buatan, microchip dengan otak bercahaya. © Vchalup / Adobe Stock   © Vchalup / Adobe Stock 

Kecerdasan buatan dan proses pengambilan keputusan otomatis dapat menimbulkan ancaman tertentu bagi konsumen. Cari tahu bagaimana Parlemen Eropa ingin melindungi mereka.

Apa itu kecerdasan buatan dan mengapa itu bisa berbahaya?

Karena algoritma pembelajaran dapat memproses kumpulan data dengan presisi dan kecepatan di luar kapasitas manusia, aplikasi kecerdasan buatan (AI) telah menjadi semakin umum di bidang keuangan, kesehatan, pendidikan, sistem hukum dan lainnya. Namun, ketergantungan pada AI juga membawa risiko, terutama di mana keputusan dibuat tanpa pengawasan manusia. Pembelajaran mesin bergantung pada pengenalan pola dalam dataset. Masalah muncul ketika data yang tersedia mencerminkan bias masyarakat.

Kecerdasan Buatan dalam proses pengambilan keputusan

AI semakin terlibat dalam sistem keputusan algoritmik. Dalam banyak situasi, dampak keputusan terhadap orang dapat menjadi signifikan, seperti akses ke kredit, pekerjaan, perawatan medis, atau hukuman pengadilan. Pengambilan keputusan otomatis karenanya dapat melanggengkan kesenjangan sosial. Sebagai contoh, beberapa algoritma perekrutan telah ditemukan bias terhadap perempuan.

Bagaimana melindungi konsumen di era AI

Pengembangan AI dan proses pengambilan keputusan otomatis juga menghadirkan tantangan bagi kepercayaan dan kesejahteraan konsumen. Ketika konsumen berinteraksi dengan sistem seperti itu, mereka harus diberi informasi tentang bagaimana fungsinya.

Posisi Parlemen

Di sebuah resolusi diadopsi pada 23 Januari, yang pasar internal dan komite perlindungan konsumen mendesak Komisi Eropa untuk memeriksa apakah langkah-langkah tambahan diperlukan untuk menjamin serangkaian hak yang kuat untuk melindungi konsumen dalam konteks AI dan pengambilan keputusan otomatis.

Komisi perlu mengklarifikasi bagaimana rencananya untuk:
  • Pastikan bahwa konsumen dilindungi dari praktik komersial yang tidak adil dan diskriminatif serta dari risiko yang ditimbulkan oleh layanan profesional yang digerakkan oleh AI;
  • menjamin transparansi yang lebih besar dalam proses ini, dan;
  • memastikan bahwa hanya set data berkualitas tinggi dan tidak bias yang digunakan dalam sistem keputusan algoritmik

"Kami harus memastikan bahwa perlindungan dan kepercayaan konsumen terjamin, bahwa aturan UE tentang keselamatan dan kewajiban untuk produk dan layanan sesuai untuk tujuan di era digital," kata anggota German Greens / EFA Petra De Sutter, ketua pasar internal dan komite perlindungan konsumen.

Langkah berikutnya

Anggota parlemen akan memberikan suara pada resolusi pada pertengahan Februari. Setelah itu akan diteruskan ke Dewan dan KPU. Itu Komisi harus menyampaikan rencananya untuk pendekatan Eropa terhadap AI pada 19 Februari.

iklan

Bagikan artikel ini:

EU Reporter menerbitkan artikel dari berbagai sumber luar yang mengungkapkan berbagai sudut pandang. Posisi yang diambil dalam artikel ini belum tentu milik Reporter UE.

Tren