Kecerdasan buatan: Ancaman dan peluang

Pertumbuhan dan kekayaan Eropa terkait erat dengan bagaimana ia akan menggunakan data dan teknologi yang terhubung. AI dapat membuat perbedaan besar dalam hidup kita dan masyarakat - baik atau buruk - dan Parlemen Eropa telah membentuk a komite untuk memeriksa dampak teknologi. Di bawah ini adalah beberapa peluang dan ancaman utama yang terkait dengan aplikasi AI di masa depan.

Baca lebih lanjut tentang apa itu kecerdasan buatan dan bagaimana penggunaannya.

Keuntungan AI

Negara-negara UE sudah kuat dalam industri digital dan aplikasi bisnis-ke-bisnis. Dengan infrastruktur digital berkualitas tinggi dan kerangka peraturan yang melindungi privasi dan kebebasan berbicara, UE dapat melakukannya menjadi pemimpin global dalam ekonomi data dan aplikasinya.

Manfaat AI bagi manusia

AI dapat membantu orang-orang dengan perawatan kesehatan yang lebih baik, mobil yang lebih aman dan sistem transportasi lainnya, produk dan layanan yang disesuaikan, lebih murah dan tahan lama. Ini juga dapat memfasilitasi akses ke informasi, pendidikan dan pelatihan. Kebutuhan akan pembelajaran jarak jauh menjadi lebih penting karena Pandemi COVID-19. AI juga dapat membuat tempat kerja lebih aman karena robot dapat digunakan untuk bagian pekerjaan yang berbahaya, dan membuka posisi pekerjaan baru saat industri yang digerakkan oleh AI tumbuh dan berubah.

iklan

Peluang kecerdasan buatan untuk bisnis

Untuk bisnis, AI dapat memungkinkan pengembangan generasi baru produk dan layanan, termasuk di sektor di mana perusahaan Eropa sudah memiliki posisi kuat: ekonomi hijau dan melingkar, permesinan, pertanian, perawatan kesehatan, mode, pariwisata. Ini dapat meningkatkan penjualan, meningkatkan perawatan mesin, meningkatkan hasil dan kualitas produksi, meningkatkan layanan pelanggan, serta menghemat energi.

Peluang AI dalam layanan publik

AI yang digunakan dalam layanan publik dapat mengurangi biaya dan menawarkan kemungkinan baru dalam transportasi publik, pendidikan, energi dan pengelolaan limbah, serta dapat meningkatkan keberlanjutan produk. Dengan cara ini AI dapat berkontribusi untuk mencapai tujuan dari Kesepakatan Hijau UE.

Memperkuat demokrasi

Demokrasi bisa diperkuat dengan menggunakan pengawasan berbasis data, pencegahan disinformasi dan serangan cyber dan memastikan akses ke informasi yang berkualitas. AI juga dapat mendukung keragaman dan keterbukaan, misalnya dengan mengurangi kemungkinan prasangka dalam keputusan perekrutan dan menggunakan data analitik sebagai gantinya.

AI, keamanan dan keselamatan

AI diperkirakan akan lebih banyak digunakan dalam pencegahan kejahatan dan sistem peradilan pidana, karena kumpulan data masif dapat diproses lebih cepat, risiko penerbangan narapidana dinilai lebih akurat, kejahatan atau bahkan serangan teroris diprediksi dan dicegah. Ini sudah digunakan oleh platform online untuk mendeteksi dan bereaksi terhadap perilaku online yang melanggar hukum dan tidak pantas.

Dalam urusan militer, AI dapat digunakan untuk strategi pertahanan dan serangan dalam peretasan dan phishing atau untuk menargetkan sistem utama dalam perang siber, sementara keunggulan utama dari sistem senjata otonom adalah potensi untuk terlibat dalam konflik bersenjata dengan pengurangan risiko kerusakan fisik.

Ancaman dan tantangan AI

Ketergantungan yang meningkat pada sistem AI juga menimbulkan potensi risiko.

AI yang kurang digunakan dan digunakan secara berlebihan

Kurangnya penggunaan AI dianggap sebagai ancaman utama: hilangnya peluang bagi UE dapat berarti implementasi yang buruk dari program-program utama, seperti Kesepakatan Hijau UE, kehilangan keunggulan kompetitif terhadap bagian lain dunia, stagnasi ekonomi, dan kemungkinan yang lebih buruk bagi masyarakat. Kurang digunakan dapat berasal dari ketidakpercayaan publik dan bisnis pada AI, infrastruktur yang buruk, kurangnya inisiatif, investasi rendah, atau, karena pembelajaran mesin AI bergantung pada data, dari pasar digital yang terfragmentasi.

Penggunaan yang berlebihan juga bisa menjadi masalah: berinvestasi dalam aplikasi AI yang terbukti tidak berguna atau menerapkan AI untuk tugas-tugas yang tidak sesuai, misalnya menggunakannya untuk menjelaskan masalah sosial yang kompleks.

Kewajiban: Siapa yang bertanggung jawab atas kerusakan yang disebabkan oleh AI?

Tantangan penting adalah menentukan siapa yang bertanggung jawab atas kerusakan yang disebabkan oleh perangkat atau layanan yang dioperasikan AI: dalam kecelakaan yang melibatkan mobil yang dapat mengemudi sendiri. Apakah kerusakan harus ditanggung oleh pemilik, pabrikan mobil, atau programmer?

Jika produsen benar-benar bebas dari akuntabilitas, mungkin tidak ada insentif untuk menyediakan produk atau layanan yang baik dan itu dapat merusak kepercayaan orang pada teknologi; tetapi regulasi juga bisa menjadi terlalu ketat dan menghambat inovasi.

Ancaman AI terhadap hak-hak fundamental dan demokrasi

Hasil yang dihasilkan AI bergantung pada bagaimana ia dirancang dan data apa yang digunakannya. Baik desain dan data bisa jadi bias secara sengaja atau tidak sengaja. Misalnya, beberapa aspek penting dari suatu masalah mungkin tidak diprogram ke dalam algoritme atau mungkin diprogram untuk mencerminkan dan mereplikasi bias struktural. Selain itu, penggunaan angka untuk mewakili realitas sosial yang kompleks dapat membuat AI tampak faktual dan tepat padahal sebenarnya tidak. Ini terkadang disebut sebagai mathwashing.

Jika tidak dilakukan dengan benar, AI dapat menyebabkan keputusan yang dipengaruhi oleh data tentang etnis, jenis kelamin, usia saat mempekerjakan atau memecat, menawarkan pinjaman, atau bahkan dalam proses pidana.

AI dapat sangat memengaruhi hak atas privasi dan perlindungan data. Ini dapat digunakan misalnya dalam peralatan pengenalan wajah atau untuk pelacakan online dan pembuatan profil individu. Selain itu, AI memungkinkan penggabungan informasi yang diberikan seseorang ke dalam data baru, yang dapat memberikan hasil yang tidak diharapkan orang tersebut.

Itu juga bisa menjadi ancaman bagi demokrasi; AI telah disalahkan karena membuat ruang gema online berdasarkan perilaku online seseorang sebelumnya, hanya menampilkan konten yang diinginkan seseorang, alih-alih menciptakan lingkungan untuk debat publik yang pluralistik, sama-sama dapat diakses dan inklusif. Ia bahkan dapat digunakan untuk membuat video, audio, dan gambar palsu yang sangat realistis, yang dikenal sebagai deepfakes, yang dapat menimbulkan risiko finansial, merusak reputasi, dan menantang pengambilan keputusan. Semua ini dapat menyebabkan pemisahan dan polarisasi di ruang publik dan memanipulasi pemilu.

AI juga dapat berperan dalam merusak kebebasan berkumpul dan memprotes karena AI dapat melacak dan membuat profil individu yang terkait dengan keyakinan atau tindakan tertentu.

Dampak AI pada pekerjaan

Penggunaan AI di tempat kerja diharapkan dapat menghilangkan sejumlah besar pekerjaan. Meskipun AI juga diharapkan dapat menciptakan dan membuat pekerjaan yang lebih baik, pendidikan dan pelatihan akan memiliki peran penting dalam mencegah pengangguran jangka panjang dan memastikan tenaga kerja terampil.

Mengumpulkan informasi juga dapat menyebabkan distorsi persaingan karena perusahaan dengan lebih banyak informasi dapat memperoleh keuntungan dan secara efektif menghilangkan pesaing.

Risiko keselamatan dan keamanan

Aplikasi AI yang bersentuhan fisik dengan manusia atau terintegrasi ke dalam tubuh manusia dapat menimbulkan risiko keselamatan karena mungkin dirancang dengan buruk, disalahgunakan, atau diretas. Penggunaan AI yang tidak diatur dengan baik dalam senjata dapat menyebabkan hilangnya kendali manusia atas senjata berbahaya.

Tantangan transparansi

Ketidakseimbangan akses ke informasi dapat dimanfaatkan. Misalnya, berdasarkan perilaku online seseorang atau data lain dan tanpa sepengetahuan mereka, vendor online dapat menggunakan AI untuk memprediksi seseorang bersedia membayar, atau kampanye politik dapat menyesuaikan pesan mereka. Masalah transparansi lainnya adalah terkadang tidak jelas bagi orang apakah mereka berinteraksi dengan AI atau seseorang.