Setelah perundingan 'maraton' selama tiga hari, kepresidenan Dewan dan para perunding Parlemen Eropa telah mencapai kesepakatan sementara mengenai proposal harmonisasi peraturan tentang kecerdasan buatan (AI), yang disebut dengan undang-undang kecerdasan buatan. Rancangan peraturan tersebut bertujuan untuk memastikan bahwa sistem AI yang ditempatkan di pasar Eropa dan digunakan di UE aman dan menghormati hak-hak dasar dan nilai-nilai UE. Proposal penting ini juga bertujuan untuk merangsang investasi dan inovasi AI di Eropa.
Ini adalah pencapaian bersejarah dan tonggak sejarah besar menuju masa depan! Perjanjian ini secara efektif menjawab tantangan global dalam lingkungan teknologi yang berkembang pesat dan merupakan bidang penting bagi masa depan masyarakat dan perekonomian kita. Dan dalam upaya ini, kami berhasil menjaga keseimbangan yang sangat rumit: meningkatkan inovasi dan penggunaan kecerdasan buatan di seluruh Eropa sambil sepenuhnya menghormati hak-hak dasar warga negara kami. Carme Artigas, Menteri Luar Negeri Spanyol untuk Digitalisasi dan Kecerdasan Buatan
Tindakan AI adalah a Flagship inisiatif legislatif yang berpotensi mendorong pengembangan dan penerapan AI yang aman dan tepercaya di seluruh pasar tunggal UE, baik oleh pihak swasta maupun publik. Ide utamanya adalah untuk mengatur AI berdasarkan pada kapasitas AI untuk menimbulkan kerugian bagi masyarakat setelah a 'berbasis risiko' pendekatan: semakin tinggi risikonya, semakin ketat aturannya. Sebagai usulan legislatif yang pertama di dunia, dapat menetapkan a standar global untuk regulasi AI di yurisdiksi lain, seperti yang telah dilakukan GDPR, sehingga mendorong pendekatan Eropa terhadap regulasi teknologi di tingkat dunia.
Elemen utama dari perjanjian sementara
Dibandingkan dengan usulan awal Komisi, unsur-unsur utama baru dari perjanjian sementara dapat diringkas sebagai berikut:
aturan pada model AI tujuan umum yang berdampak tinggi yang dapat menimbulkan risiko sistemik di kemudian hari, maupun pada risiko tinggi Sistem AI
sistem yang direvisi pemerintahan dengan beberapa kekuatan penegakan hukum di tingkat UE
perpanjangan daftar larangan tetapi dengan kemungkinan untuk digunakan identifikasi biometrik jarak jauh oleh otoritas penegak hukum di ruang publik, dengan tunduk pada pengamanan
perlindungan hak yang lebih baik melalui kewajiban bagi penerapan sistem AI yang berisiko tinggi untuk melakukan a penilaian dampak terhadap hak-hak dasar sebelum menggunakan sistem AI.
Secara lebih konkrit, perjanjian sementara tersebut mencakup aspek-aspek sebagai berikut:
Definisi dan ruang lingkup
Untuk memastikan bahwa definisi Ketika sistem AI memberikan kriteria yang cukup jelas untuk membedakan AI dari sistem perangkat lunak yang lebih sederhana, perjanjian kompromi menyelaraskan definisi tersebut dengan pendekatan yang diusulkan oleh OECD.
Perjanjian sementara juga mengklarifikasi bahwa peraturan tersebut tidak berlaku untuk bidang-bidang di luar cakupan hukum UE dan, dalam hal apa pun, tidak akan mempengaruhi kompetensi negara-negara anggota dalam bidangnya. keamanan nasional atau entitas apa pun yang diberi tugas di bidang ini. Selain itu, tindakan AI tidak akan berlaku pada sistem yang digunakan secara eksklusif untuk tujuan tersebut militer or pertahanan tujuan. Demikian pula, perjanjian tersebut menetapkan bahwa peraturan tersebut tidak akan berlaku untuk sistem AI yang digunakan hanya untuk tujuan tersebut penelitian dan inovasi, atau untuk orang yang menggunakan AI untuk alasan non-profesional.
iklan
Klasifikasi sistem AI sebagai praktik AI yang berisiko tinggi dan dilarang
Perjanjian kompromi mengatur tentang a lapisan perlindungan horizontal, termasuk klasifikasi risiko tinggi, untuk memastikan bahwa sistem AI yang kemungkinan besar tidak menyebabkan pelanggaran hak asasi manusia yang serius atau risiko signifikan lainnya tidak tercakup. Hanya sistem AI yang disajikan risiko terbatas akan terkena sangat ringan kewajiban transparansi, misalnya mengungkapkan bahwa konten tersebut dibuat oleh AI sehingga pengguna dapat membuat keputusan yang tepat mengenai penggunaan lebih lanjut.
Beragam macam berisiko tinggi Sistem AI akan diizinkan, namun tunduk pada serangkaian persyaratan dan kewajiban untuk mendapatkan akses ke pasar UE. Persyaratan-persyaratan tersebut telah diperjelas dan disesuaikan oleh para pembantu legislator sedemikian rupa sehingga lebih banyak lagi secara teknis layak dan kurang memberatkan untuk dipatuhi oleh pemangku kepentingan, misalnya dalam hal kualitas data, atau dalam kaitannya dengan dokumentasi teknis yang harus dibuat oleh UKM untuk menunjukkan bahwa sistem AI berisiko tinggi mereka mematuhi persyaratan.
Karena sistem AI dikembangkan dan didistribusikan melalui rantai nilai yang kompleks, perjanjian kompromi mencakup perubahan yang memperjelas hal tersebut alokasi tanggung jawab dan peran berbagai aktor dalam rantai tersebut, khususnya penyedia dan pengguna sistem AI. Hal ini juga memperjelas hubungan antara tanggung jawab berdasarkan UU AI dan tanggung jawab yang sudah ada berdasarkan undang-undang lain, seperti undang-undang perlindungan data Uni Eropa atau undang-undang sektoral yang relevan.
Untuk beberapa penggunaan AI, risiko dianggap tidak dapat diterima dan oleh karena itu, sistem ini akan dilarang di UE. Perjanjian sementara melarang, misalnya, kognitif manipulasi perilaku, yang tidak ditargetkan membuang gambar wajah dari internet atau rekaman CCTV, pengenalan emosi di tempat kerja dan lembaga pendidikan, penilaian sosial, kategorisasi biometrik untuk menyimpulkan data sensitif, seperti orientasi seksual atau keyakinan agama, dan beberapa kasus pemolisian prediktif untuk individu.
Pengecualian dalam penegakan hukum
Mengingat kekhususan otoritas penegak hukum dan kebutuhan untuk mempertahankan kemampuan mereka dalam menggunakan AI dalam pekerjaan vital mereka, beberapa perubahan pada usulan Komisi disepakati terkait penggunaan sistem AI untuk tujuan penegakan hukum. Tunduk pada yang sesuai pengamanan, perubahan ini dimaksudkan untuk mencerminkan perlunya menghormati kerahasiaan data operasional sensitif sehubungan dengan aktivitas mereka. Misalnya, prosedur darurat diperkenalkan yang memungkinkan lembaga penegak hukum untuk menerapkan alat AI berisiko tinggi yang belum lolos penilaian kesesuaian prosedur jika terjadi keadaan mendesak. Namun, mekanisme khusus juga telah diperkenalkan untuk memastikan hal tersebut hak-hak dasar akan cukup terlindungi dari potensi penyalahgunaan sistem AI.
Apalagi dari segi penggunaan real-time identifikasi biometrik jarak jauh sistem di ruang yang dapat diakses publik, perjanjian sementara memperjelas tujuan jika penggunaan tersebut benar-benar diperlukan untuk tujuan penegakan hukum dan oleh karena itu otoritas penegak hukum harus diizinkan menggunakan sistem tersebut. Perjanjian kompromi mengatur pengamanan tambahan dan membatasi pengecualian ini pada kasus-kasus korban kejahatan tertentu, pencegahan ancaman yang nyata, saat ini, atau yang dapat diperkirakan, seperti serangan teroris, dan pencarian orang-orang yang dicurigai melakukan kejahatan paling serius.
Sistem AI tujuan umum dan model dasar
Ketentuan baru telah ditambahkan untuk mempertimbangkan situasi di mana sistem AI dapat digunakan untuk berbagai tujuan (AI tujuan umum), dan ketika teknologi AI untuk keperluan umum kemudian diintegrasikan ke dalam sistem berisiko tinggi lainnya. Perjanjian sementara ini juga membahas kasus-kasus spesifik sistem AI tujuan umum (GPAI).
Aturan khusus juga telah disepakati model pondasi, sistem besar yang mampu melakukan berbagai tugas khusus secara kompeten, seperti menghasilkan video, teks, gambar, percakapan dalam bahasa lateral, komputasi, atau menghasilkan kode komputer. Perjanjian sementara menetapkan bahwa model pondasi harus sesuai dengan yang spesifik kewajiban transparansi sebelum ditempatkan di pasar. Rezim yang lebih ketat diberlakukan 'dampak tinggi' model pondasi. Ini adalah model dasar yang dilatih dengan data dalam jumlah besar dan kompleksitas, kemampuan, dan kinerja tingkat lanjut yang jauh di atas rata-rata, yang dapat menyebarkan risiko sistemik di sepanjang rantai nilai.
Arsitektur tata kelola baru
Mengikuti peraturan baru tentang model GPAI dan kebutuhan yang jelas untuk penegakannya di tingkat UE, an Kantor AI di dalam Komisi ini dibentuk untuk mengawasi model AI paling canggih ini, berkontribusi dalam mendorong standar dan praktik pengujian, serta menegakkan aturan umum di semua negara anggota. A panel ilmiah yang terdiri dari para ahli independen akan memberikan saran kepada Kantor AI tentang model GPAI, dengan berkontribusi pada pengembangan metodologi untuk mengevaluasi kemampuan model pondasi, memberi nasihat tentang penunjukan dan munculnya model pondasi berdampak tinggi, dan memantau kemungkinan risiko keselamatan material terkait model pondasi.
Grafik Papan AI, yang terdiri dari perwakilan negara-negara anggota, akan tetap menjadi platform koordinasi dan badan penasehat Komisi dan akan memberikan peran penting kepada Negara-negara Anggota dalam implementasi peraturan tersebut, termasuk perancangan kode praktik untuk model yayasan. Akhirnya, sebuah forum penasehat bagi pemangku kepentingan, seperti perwakilan industri, UKM, perusahaan rintisan, masyarakat sipil, dan akademisi, akan dibentuk untuk memberikan keahlian teknis kepada Dewan AI.
Penalti
Denda atas pelanggaran undang-undang AI ditetapkan sebagai persentase dari omset tahunan global perusahaan yang melanggar pada tahun keuangan sebelumnya atau jumlah yang telah ditentukan, mana saja yang lebih tinggi. Jumlahnya adalah €35 juta atau 7% untuk pelanggaran terhadap aplikasi AI yang dilarang, €15 juta atau 3% untuk pelanggaran kewajiban tindakan AI, dan €7,5 juta atau 1,5% untuk penyediaan informasi yang salah. Namun, perjanjian sementara mengaturnya topi yang lebih proporsional tentang denda administratif bagi UKM dan start-up jika terjadi pelanggaran terhadap ketentuan UU AI.
Perjanjian kompromi juga memperjelas bahwa perorangan atau badan hukum dapat mengajukan pengaduan kepada pihak yang bersangkutan otoritas pengawasan pasar mengenai ketidakpatuhan terhadap tindakan AI dan mungkin berharap bahwa keluhan tersebut akan ditangani sesuai dengan prosedur khusus dari otoritas tersebut.
Transparansi dan perlindungan hak-hak dasar
Perjanjian sementara mengatur tentang a penilaian dampak terhadap hak-hak dasar sebelum sistem AI berisiko tinggi dipasarkan oleh pihak yang menerapkannya. Perjanjian sementara juga mengatur peningkatan transparansi mengenai penggunaan sistem AI berisiko tinggi. Khususnya, beberapa ketentuan dalam usulan Komisi telah diubah untuk menunjukkan bahwa pengguna tertentu dari sistem AI berisiko tinggi yang merupakan entitas publik juga akan diwajibkan untuk mendaftar di Basis data UE untuk sistem AI berisiko tinggi. Selain itu, ketentuan baru yang ditambahkan menekankan pada kewajiban bagi pengguna suatu sistem pengenalan emosi untuk memberi tahu orang perseorangan ketika mereka terpapar pada sistem seperti itu.
Langkah-langkah untuk mendukung inovasi
Dengan tujuan untuk menciptakan kerangka hukum yang lebih ramah terhadap inovasi dan untuk mendorong pembelajaran peraturan berbasis bukti, ketentuan mengenai langkah-langkah yang mendukung inovasi telah banyak diubah dibandingkan dengan usulan Komisi.
Khususnya, telah diklarifikasi bahwa AI kotak pasir peraturan, yang seharusnya menciptakan lingkungan terkendali untuk pengembangan, pengujian, dan validasi sistem AI inovatif, juga harus memungkinkan pengujian sistem AI inovatif dalam kondisi dunia nyata. Selain itu, ketentuan baru telah ditambahkan yang memungkinkan pengujian sistem AI di kondisi dunia nyata, dalam kondisi dan pengamanan tertentu. Untuk meringankan beban administratif bagi perusahaan kecil, perjanjian sementara mencakup daftar tindakan yang harus dilakukan untuk mendukung operator tersebut dan mengatur beberapa pengurangan yang terbatas dan ditentukan dengan jelas.
Berlakunya
Perjanjian sementara menetapkan bahwa tindakan AI harus diterapkan dua tahun setelah berlakunya, dengan beberapa pengecualian terhadap ketentuan tertentu.
Langkah berikutnya
Setelah perjanjian sementara hari ini, pekerjaan akan dilanjutkan pada tingkat teknis dalam beberapa minggu mendatang untuk menyelesaikan rincian peraturan baru. Kepresidenan akan menyerahkan teks kompromi kepada perwakilan negara-negara anggota (Coreper) untuk disetujui setelah pekerjaan ini selesai.
Keseluruhan teks perlu dikonfirmasi oleh kedua lembaga dan menjalani revisi hukum-linguistik sebelum diadopsi secara resmi oleh para wakil legislator.
Informasi latar belakang
Proposal Komisi, yang diajukan pada bulan April 2021, merupakan elemen kunci dari kebijakan UE untuk mendorong pengembangan dan penyerapan AI yang aman dan sah di pasar tunggal yang menghormati hak-hak dasar.
Proposal ini mengikuti pendekatan berbasis risiko dan menetapkan kerangka hukum horizontal yang seragam untuk AI yang bertujuan untuk menjamin kepastian hukum. Rancangan peraturan ini bertujuan untuk mendorong investasi dan inovasi dalam AI, meningkatkan tata kelola dan penegakan hukum yang efektif mengenai hak-hak dasar dan keselamatan, serta memfasilitasi pengembangan pasar tunggal untuk penerapan AI. Hal ini sejalan dengan inisiatif lainnya, termasuk rencana terkoordinasi mengenai kecerdasan buatan yang bertujuan untuk mempercepat investasi AI di Eropa. Pada tanggal 6 Desember 2022, Dewan mencapai kesepakatan untuk pendekatan umum (mandat negosiasi) mengenai file ini dan mengadakan pembicaraan antarlembaga dengan Parlemen Eropa ('trilog') pada pertengahan Juni 2023.
EU Reporter menerbitkan artikel dari berbagai sumber luar yang mengungkapkan berbagai sudut pandang. Posisi yang diambil dalam artikel ini belum tentu milik Reporter UE.
