Oleh: Pater Vinsensius Darmin Mbula, OFM
Ketua Presidium Majelis Nasional Pendidikan Katolik (MNPK)
AI Ethicist dengan peran penting dalam memantau dan mengawasi teknologi memastikan bahwa Pilkada berlangsung secara jujur, adil, langsung, umum, bebas dan rahasia dan sesuai dengan prinsip-prinsip demokrasi yang substansial.
Pendahuluan
Dalam era teknologi yang berkembang pesat, kecerdasan buatan (Artificial Intelligence/AI) semakin memainkan peran penting dalam berbagai aspek kehidupan manusia, termasuk dalam proses politik dan pemilihan umum.
Pemilihan kepala daerah (Pilkada) yang adil, jujur, dan transparan merupakan pilar utama dalam demokrasi substantif.
Namun, penggunaan teknologi seperti AI dan big data dalam proses Pilkada menghadirkan tantangan baru yang berpotensi mengganggu integritas pemilu.
Manipulasi data, penyebaran informasi yang menyesatkan, dan pengawasan yang tidak memadai dapat mencederai prinsip-prinsip jurdil (jujur dan adil) serta luber (langsung, umum, bebas, dan rahasia) yang seharusnya mendasari setiap pemilihan demokratis.
Oleh karena itu, pembentukan Dewan AI Ethicist menjadi sangat penting. Dewan ini berperan sebagai lembaga pengawas independen yang mengawasi penggunaan AI dalam setiap tahapan Pilkada, mulai dari kampanye, pengumpulan suara, hingga penghitungan suara.
Dengan adanya pengawasan yang ketat dan standar etis yang jelas, penggunaan AI dalam Pilkada dapat dioptimalkan untuk menjamin keadilan dan transparansi, sambil meminimalisir potensi penyalahgunaan teknologi yang dapat mengancam demokrasi substantif.
Dewan AI Ethicist tidak hanya menjamin pemilu yang lebih adil, tetapi juga berperan penting dalam mewujudkan demokrasi substantif yang mampu menciptakan masyarakat yang sehat dan bahagia secara berkelanjutan.
Demokrasi yang sehat adalah demokrasi yang tidak hanya berdasarkan prosedur, tetapi juga substansi, di mana setiap warga negara mendapatkan kesempatan yang setara untuk berpartisipasi, bebas dari manipulasi teknologi, dan terlindungi dari ketidakadilan.
Dalam konteks ini, Dewan AI Ethicist hadir untuk memastikan bahwa Pilkada berlangsung sesuai dengan nilai-nilai demokrasi yang luhur, dan pada akhirnya menciptakan masyarakat yang adil, sejahtera, serta harmonis dalam jangka panjang.
Konsep AI Ethicist
Kecerdasan buatan mampu mengotomatiskan berbagai pekerjaan rutin yang sebelumnya dilakukan oleh manusia, seperti analisis data, administrasi, bahkan pekerjaan produksi di pabrik.
Pekerjaan yang berulang, seperti entri data dan produksi manual, kemungkinan besar akan digantikan oleh mesin berbasis AI.
Industri manufaktur sudah mengalami peralihan ke robot dan otomatisasi, mengurangi kebutuhan akan pekerja manusia di lini produksi.
AI juga akan mengubah jenis keterampilan yang dibutuhkan di tempat kerja. Pekerjaan di masa depan akan menuntut keterampilan yang lebih kreatif, analitis, dan berbasis teknologi, sementara keterampilan manual dan administratif akan semakin berkurang permintaannya. Keterampilan seperti pemrograman, analisis data, dan pemikiran kritis akan lebih dibutuhkan.
Meskipun AI menghilangkan beberapa pekerjaan, AI juga menciptakan peluang kerja baru dalam bidang teknologi dan inovasi. Pekerjaan di bidang pengembangan perangkat lunak, pengelolaan data, dan keamanan siber akan meningkat. Profesi seperti “AI Ethicist” atau spesialis dalam etika kecerdasan buatan adalah salah satu contoh pekerjaan baru.
AI Ethicist adalah seorang profesional yang mengkhususkan diri dalam mengidentifikasi, menganalisis, dan memberikan panduan terkait masalah etika yang muncul dari pengembangan dan penggunaan kecerdasan buatan (AI).
Mereka bertanggung jawab untuk memastikan bahwa sistem AI dirancang dan diterapkan dengan memperhatikan dampak etisnya terhadap masyarakat, individu, dan lingkungan.
AI Ethicist memainkan peran penting dalam menjembatani kesenjangan antara teknologi AI yang cepat berkembang dan tantangan etis yang muncul dari penggunaannya.
Pada intinya, AI Ethicist berfokus pada tanggung jawab moral dan sosial dalam penerapan teknologi AI. Peran ini muncul karena kemajuan pesat dalam AI yang tidak hanya menawarkan manfaat besar, tetapi juga risiko serius seperti diskriminasi, pelanggaran privasi, bias algoritmik, dan hilangnya pekerjaan manusia.
Seorang AI Ethicist memandang AI tidak hanya sebagai teknologi yang harus dioptimalkan untuk efisiensi, tetapi juga sebagai sistem yang harus sejalan dengan nilai-nilai moral.
Mereka mengeksplorasi pertanyaan-pertanyaan seperti: Bagaimana AI bisa digunakan tanpa melanggar privasi individu? Bagaimana cara mencegah bias dalam algoritma AI? Apa dampak AI terhadap kesetaraan ekonomi dan sosial?
Elemen-Elemen Kunci dari AI Ethicist yaitu, Keberlanjutan dan Tanggung Jawab Sosial: AI Ethicist berfokus pada penerapan teknologi yang berkelanjutan secara sosial dan lingkungan.
Mereka berusaha memastikan bahwa sistem AI tidak hanya efisien secara teknis, tetapi juga adil bagi semua lapisan masyarakat, serta tidak merusak lingkungan.
AI Ethicist mengidentifikasi dan mengelola isu-isu terkait privasi, terutama dalam hal pengumpulan dan penggunaan data pribadi. Mereka memastikan bahwa data yang digunakan oleh AI diproses secara etis, transparan, dan aman dari penyalahgunaan.
Salah satu tantangan utama dalam AI adalah bias yang inheren dalam algoritma, yang dapat menghasilkan keputusan yang tidak adil atau diskriminatif.
AI Ethicist bekerja untuk mengurangi dan mengatasi bias ini, memastikan bahwa sistem AI dapat diandalkan dan berfungsi secara adil untuk semua orang.
AI Ethicist berupaya memastikan bahwa sistem AI transparan dan dapat diaudit. Hal ini mencakup pemahaman bagaimana algoritma mengambil keputusan, sehingga jika terjadi kesalahan, pihak yang bertanggung jawab bisa diidentifikasi.
AI Ethicist harus memastikan bahwa teknologi yang dikembangkan sejalan dengan prinsip-prinsip moral dan nilai-nilai sosial yang diakui secara luas, seperti keadilan, kesejahteraan umum, dan penghormatan terhadap hak asasi manusia.
AI Ethicist juga terlibat dalam advokasi untuk regulasi dan kebijakan yang mendukung penerapan AI secara etis. Mereka bekerja sama dengan pembuat kebijakan dan pemimpin industri untuk menciptakan regulasi yang mempromosikan penggunaan AI yang aman dan bertanggung jawab.
Teknologi AI memiliki dampak besar terhadap struktur sosial dan ekonomi, seperti pengangguran akibat otomatisasi atau kesenjangan ekonomi. AI Ethicist menganalisis dampak tersebut dan mencari solusi yang dapat memitigasi potensi masalah sosial.
Kehadiran AI Ethicist memastikan bahwa pengembangan dan penggunaan AI tidak hanya mengejar efisiensi teknologi, tetapi juga mempertimbangkan dampak sosial, moral, dan etis. Hal ini mencegah penggunaan teknologi yang merugikan kelompok rentan atau melanggar hak-hak individu.
Dengan berfokus pada pengurangan bias algoritmik dan ketidakadilan dalam keputusan yang dihasilkan AI, AI Ethicist membantu menciptakan sistem AI yang lebih adil dan inklusif, mengurangi risiko diskriminasi rasial, gender, atau ekonomi yang bisa terjadi akibat bias dalam data atau algoritma.
Keberadaan AI Ethicist yang memastikan transparansi dan akuntabilitas dalam sistem AI dapat meningkatkan kepercayaan publik terhadap teknologi ini. Masyarakat akan merasa lebih aman mengetahui bahwa AI digunakan dengan memperhatikan etika dan tanggung jawab sosial.
AI Ethicist berperan penting dalam memastikan bahwa data pribadi yang digunakan oleh AI diperlakukan dengan aman dan etis. Hal ini mengurangi risiko pelanggaran privasi yang dapat terjadi akibat pengumpulan data yang tidak etis atau penyalahgunaan informasi.
AI Ethicist bekerja sama dengan pemerintah, regulator, dan industri untuk mengembangkan kebijakan yang mendukung penggunaan AI yang aman dan bertanggung jawab. Hal ini dapat menciptakan kerangka regulasi yang lebih baik untuk melindungi masyarakat dari potensi dampak negatif teknologi.
AI Ethicist membantu masyarakat dan perusahaan memahami aspek etis dari teknologi baru, mendorong pendekatan yang lebih bijaksana dalam pengembangan dan penerapan inovasi teknologi. Ini menciptakan keseimbangan antara inovasi teknologi dan etika.
Kehadiran AI Ethicist dalam Konteks Pilkada
Kehadiran AI Ethicist dalam konteks pemilihan kepala daerah (Pilkada) dapat berperan penting dalam memastikan bahwa proses berlangsung secara jujur, adil, langsung, umum, bebas, dan rahasia (Jurdil dan Luber), yang merupakan prinsip utama dalam mewujudkan demokrasi substansial.
Meskipun AI berpotensi meningkatkan efisiensi dan akurasi dalam penyelenggaraan Pilkada, penerapan teknologi ini tetap harus diawasi secara etis agar tidak menimbulkan dampak negatif.
AI Ethicist bertanggung jawab untuk memastikan bahwa teknologi AI yang digunakan dalam Pilkada tidak disalahgunakan untuk memanipulasi hasil pemilu atau menyalahgunakan data pemilih.
Dengan AI yang digunakan dalam analisis suara, pemetaan pemilih, atau keamanan siber, ada potensi data pribadi dan hasil pemilu dapat disusupi.
AI Ethicist dapat memberikan panduan etis agar data diperlakukan secara aman dan sesuai dengan regulasi, mencegah kebocoran atau manipulasi data yang dapat merugikan proses demokrasi.
Sistem AI yang digunakan untuk mendukung penghitungan suara atau analisis pemilih dapat membawa risiko bias, yang dapat mempengaruhi hasil pemilu secara tidak adil.
AI Ethicist memainkan peran penting dalam mengidentifikasi dan mengatasi bias ini, memastikan bahwa algoritma yang digunakan tidak mendiskriminasi berdasarkan faktor seperti ras, agama, atau lokasi geografis.
Ini akan membantu menjaga integritas pemilu dan memastikan bahwa semua suara dihitung dengan adil.
Dalam proses Pilkada yang melibatkan teknologi AI, transparansi sangat penting untuk menjaga kepercayaan publik. AI Ethicist bekerja untuk memastikan bahwa sistem AI yang digunakan dalam pemilu transparan dan akuntabel.
Masyarakat harus dapat memahami bagaimana teknologi tersebut bekerja, terutama dalam penghitungan suara atau pemantauan kampanye, sehingga jika ada ketidaksesuaian atau masalah, pihak yang bertanggung jawab dapat diidentifikasi.
Salah satu tantangan besar dalam Pilkada adalah penyebaran misinformasi dan berita palsu (hoaks) yang dapat mempengaruhi opini publik dan hasil pemilu.
AI Ethicist berperan dalam memastikan bahwa teknologi AI yang digunakan untuk mendeteksi atau melawan misinformasi dilakukan secara etis, tidak melanggar kebebasan berpendapat, tetapi tetap menjaga integritas informasi yang disebarkan selama proses pemilu.
AI Ethicist memastikan bahwa teknologi yang digunakan dalam pemilu memberikan akses yang adil kepada semua pemilih, termasuk mereka yang berada di daerah terpencil atau memiliki keterbatasan fisik.
Dengan begitu, penggunaan AI dalam Pilkada tidak memperlebar kesenjangan sosial atau ekonomi, melainkan memfasilitasi partisipasi yang lebih luas dan inklusif, sehingga prinsip Luber dapat terwujud.
AI dapat digunakan untuk meningkatkan efisiensi proses pemilu, seperti dalam penghitungan suara dan pemantauan kampanye.
Namun, AI Ethicist perlu memastikan bahwa peningkatan efisiensi ini tidak mengorbankan hak-hak demokratis, serta menjaga agar sistem pemilu tetap aman dari potensi ancaman seperti serangan siber.
Dengan mengawasi penggunaan teknologi secara etis, AI Ethicist dapat membantu menciptakan sistem pemilu yang lebih aman dan dapat diandalkan.
Ketika teknologi AI diawasi oleh AI Ethicist, kepercayaan publik terhadap sistem pemilu akan meningkat karena adanya jaminan bahwa proses berlangsung secara transparan, adil, dan aman.
AI Ethicist membantu mengidentifikasi dan mencegah praktik-praktik yang melanggar etika selama proses kampanye dan pemilu, seperti penyebaran misinformasi atau penggunaan data pribadi tanpa izin.
Dengan memastikan bahwa teknologi AI tidak menimbulkan diskriminasi atau ketidakadilan, AI Ethicist berperan penting dalam mendorong inklusivitas dan keterlibatan yang lebih luas dalam proses pemilu, terutama di kalangan kelompok rentan.
AI Ethicist membantu memastikan bahwa prinsip-prinsip demokrasi seperti kejujuran, keadilan, kebebasan, dan rahasia (Jurdil dan Luber) dijaga dalam penerapan teknologi AI selama Pilkada, sehingga demokrasi substansial dapat terwujud.
Belum Memiliki Dewan AI Ethicist
Hingga saat ini, di Indonesia belum ada kebijakan, peraturan, atau Undang-undang yang secara khusus mengatur tentang pembentukan dewan AI Ethicist yang bertugas mengawasi jalannya Pemilihan Kepala Daerah (Pilkada) secara jujur, adil, langsung, umum, bebas, dan rahasia (Jurdil dan Luber).
Meskipun teknologi kecerdasan buatan (AI) mulai diterapkan dalam beberapa aspek pemerintahan, pengawasan Pilkada melalui dewan yang berfokus pada etika AI belum menjadi bagian dari regulasi resmi.
Namun, penggunaan teknologi dalam Pilkada, seperti sistem elektronik untuk penghitungan suara, keamanan siber, dan penyebaran informasi, semakin berkembang. Dalam konteks ini, regulasi terkait penggunaan teknologi secara umum, termasuk keamanan data dan pemanfaatan sistem elektronik, telah diatur melalui beberapa undang-undang.
Undang-Undang No. 11 Tahun 2008 tentang Informasi dan Transaksi Elektronik (UU ITE) mengatur tentang penggunaan teknologi informasi, termasuk perlindungan data, keamanan informasi, dan ketentuan yang melarang penyebaran informasi palsu atau yang dapat mempengaruhi hasil pemilu secara tidak sah.
Meskipun tidak secara spesifik mengatur etika AI, UU ini dapat menjadi landasan hukum untuk pengawasan penggunaan teknologi dalam Pilkada.
Undang-Undang No. 7 Tahun 2017 tentang Pemilu mengatur tata cara penyelenggaraan pemilu, termasuk Pemilihan Presiden, legislatif, dan kepala daerah.
Dalam pelaksanaannya, undang-undang ini menekankan prinsip Jurdil dan Luber, serta pengawasan untuk memastikan tidak ada manipulasi data dan hasil suara. Penggunaan teknologi dalam pemilu, seperti Sistem Informasi Penghitungan Suara (Situng), diatur di bawah Komisi Pemilihan Umum (KPU), tetapi belum ada peraturan yang spesifik mengenai penggunaan AI secara luas.
KPU sebagai lembaga yang bertanggung jawab atas pelaksanaan Pilkada telah menerbitkan berbagai peraturan yang mengatur proses pemilihan, termasuk penggunaan teknologi dalam penghitungan suara dan transparansi.
Meskipun demikian, PKPU juga belum mengatur tentang dewan AI Ethicist yang secara khusus bertugas memastikan integritas teknologi AI yang digunakan.
Saat ini, Indonesia masih dalam tahap awal penggunaan AI dalam berbagai sektor, termasuk pemerintahan dan pemilu.
Pembentukan AI Ethicist yang berfungsi sebagai dewan pengawas khusus untuk mengawasi penerapan AI dalam Pilkada memerlukan landasan hukum yang lebih kuat serta pemahaman yang lebih mendalam mengenai dampak sosial, etis, dan teknologi AI dalam konteks demokrasi.
Dewan AI Ethicist dapat memainkan peran penting dalam memastikan bahwa penggunaan AI dalam Pilkada tidak menimbulkan bias atau penyalahgunaan teknologi yang dapat merusak prinsip-prinsip demokrasi substansial.
Untuk itu, regulasi baru atau revisi Undang-undang pemilu mungkin diperlukan agar Indonesia dapat mengintegrasikan teknologi AI secara etis dan bertanggung jawab dalam proses pemilihan.
Pembentukan kebijakan baru yang mengatur penerapan AI dalam Pilkada, termasuk pengawasan oleh AI Ethicist, dapat menjadi langkah penting. Kebijakan ini dapat mencakup regulasi mengenai penggunaan algoritma AI untuk analisis data pemilih, keamanan siber, serta penghitungan suara yang etis dan transparan.
KPU dapat mulai mengadopsi standar etis dalam penggunaan teknologi, bekerja sama dengan pakar AI dan etika untuk memastikan bahwa teknologi yang digunakan tidak mengandung bias dan menjaga integritas proses demokrasi.
Meningkatkan kesadaran publik mengenai peran AI dan pentingnya pengawasan etis dalam proses pemilu dapat membantu masyarakat lebih memahami dampak teknologi terhadap demokrasi.
Ini juga dapat mendorong pengembangan regulasi yang mendukung demokrasi substansial. Sehingga, meskipun Indonesia belum memiliki dewan AI Ethicist khusus dalam pengawasan Pilkada, ada potensi pengembangan regulasi di masa depan untuk memastikan penggunaan AI yang etis dan demokratis.
Karakteristik, Tugas dan Fungsi Dewan AI Ethicist
Dewan AI Ethicist adalah kelompok ahli yang bertugas memastikan bahwa penerapan kecerdasan buatan (AI) dalam berbagai sektor, termasuk politik, pemerintahan, dan ekonomi, dilakukan dengan mempertimbangkan prinsip-prinsip etika.
Dalam konteks pemilihan umum (Pilkada), dewan ini akan bertanggung jawab untuk mengawasi penggunaan AI agar proses demokrasi berjalan secara adil, transparan, dan sesuai dengan nilai-nilai etis. Berikut adalah tugas, kriteria, indikator utama, serta karakteristik dari Dewan AI Ethicist:
Dewan AI Ethicist bertugas memastikan bahwa teknologi AI yang digunakan dalam Pilkada atau proses pemerintahan lainnya tidak menimbulkan bias, diskriminasi, atau ketidakadilan.
Mereka mengawasi penggunaan AI untuk penghitungan suara, analisis data pemilih, dan kampanye politik berbasis AI. Melakukan audit terhadap sistem AI untuk menilai apakah algoritma yang digunakan sesuai dengan prinsip keadilan, keterbukaan, dan keamanan.
Dewan merancang dan menerapkan pedoman etis untuk penggunaan AI dalam Pilkada. Pedoman ini mencakup aspek transparansi dalam pengambilan keputusan oleh AI, perlindungan privasi data, serta keadilan dalam penggunaan AI terhadap pemilih.
Dewan melakukan evaluasi berkala untuk menguji keandalan, keamanan, dan ketepatan algoritma AI. Mereka harus memastikan bahwa sistem AI tidak menimbulkan kesalahan atau manipulasi data yang dapat merusak kepercayaan publik dalam proses pemilihan.
Dewan Ethicist bertanggung jawab untuk mengidentifikasi risiko yang terkait dengan penggunaan AI, seperti penyalahgunaan data pribadi, manipulasi informasi, atau penggunaan deepfake dalam kampanye politik.
Dewan Ethicist juga dapat bertindak sebagai juru bicara untuk meningkatkan kesadaran publik mengenai dampak teknologi AI dalam kehidupan politik dan demokrasi. Mereka mengedukasi masyarakat tentang hak-hak mereka terkait privasi, perlindungan data, dan keterbukaan dalam penggunaan AI.
Anggota dewan harus memiliki keahlian dalam bidang etika teknologi, hukum teknologi, atau filosofi yang berkaitan dengan penerapan AI. Mereka harus memahami prinsip-prinsip etika, seperti keadilan, non-diskriminasi, dan tanggung jawab sosial.
Selain ahli etika, dewan ini harus mencakup anggota dengan keahlian teknis yang mendalam tentang kecerdasan buatan, pemrosesan data, algoritma, dan sistem informasi yang digunakan dalam Pilkada. Ini penting untuk memahami secara mendalam bagaimana teknologi AI bekerja dan potensi bahayanya.
Anggota dewan harus memiliki pengalaman dalam mengembangkan regulasi dan kebijakan, khususnya di bidang teknologi digital, privasi data, dan keamanan informasi. Mereka juga harus memahami undang-undang yang berlaku terkait pemilihan umum dan demokrasi.
Dewan harus bersifat independen dan non-partisan, tidak terikat pada kepentingan politik atau ekonomi tertentu. Hal ini penting agar mereka dapat bertindak dengan objektif dan adil dalam mengawasi penggunaan AI.
Dewan Ethicist harus terdiri dari individu dari berbagai latar belakang, termasuk akademisi, pakar teknologi, aktivis hak asasi manusia, dan perwakilan masyarakat sipil. Ini untuk memastikan bahwa semua perspektif yang relevan terkait penggunaan AI dan dampaknya terhadap demokrasi dipertimbangkan.
Dewan Ethicist harus transparan dalam semua proses pengambilan keputusan, termasuk dalam audit teknologi, evaluasi kebijakan, dan pelaporan kepada publik. Ini memastikan bahwa publik dapat memantau kinerja dewan dan percaya pada hasil yang dikeluarkan.
Dewan harus bertanggung jawab terhadap hasil pengawasan mereka. Mereka perlu melaporkan secara berkala tentang temuan mereka, baik kepada badan pemerintah terkait maupun kepada masyarakat umum, serta menawarkan solusi untuk memperbaiki masalah yang teridentifikasi.
Dewan Ethicist harus bertindak secara imparsial dan tidak terpengaruh oleh tekanan politik, ekonomi, atau pihak yang berkepentingan. Mereka harus menegakkan prinsip-prinsip etika secara tegas, tanpa memihak kepada salah satu kubu dalam Pilkada.
Dewan Ethicist harus mampu beradaptasi dengan perkembangan teknologi yang sangat cepat, khususnya di bidang AI. Mereka harus terus memperbarui pengetahuan mereka agar dapat memberikan evaluasi yang relevan terhadap sistem AI yang berkembang.
Dewan Ethicist harus proaktif dalam melibatkan masyarakat dan pemangku kepentingan lain dalam diskusi mengenai penggunaan AI dalam Pilkada. Mereka harus terbuka terhadap kritik dan masukan dari publik serta memfasilitasi dialog tentang etika AI.
Kehadiran Dewan Ethicist dapat meningkatkan kepercayaan publik terhadap proses Pilkada karena ada jaminan bahwa teknologi yang digunakan diawasi dengan ketat dan tidak menimbulkan bias.
Dewan Ethicist dapat membantu mencegah manipulasi data pemilih atau hasil suara yang dilakukan melalui teknologi, dengan menerapkan audit ketat pada sistem AI yang digunakan.
Dengan pengawasan dewan, penggunaan teknologi dalam Pilkada akan lebih transparan dan sesuai dengan prinsip keadilan, sehingga semua calon dan pemilih diperlakukan secara setara.
Dewan AI Ethicist memiliki potensi untuk memastikan bahwa pemilu di era digital berjalan sesuai dengan prinsip demokrasi yang substansial, dengan meminimalkan risiko penyalahgunaan teknologi AI.
Menuju Pembentukan Dewan AI Ethicist
Saat ini, belum ada negara di dunia yang secara eksplisit memiliki Dewan AI Ethicist yang secara khusus mengawasi proses pemilihan umum (seperti Pilkada) dengan tujuan menjamin demokrasi substansial.
Namun, beberapa negara telah mulai mengambil langkah-langkah untuk memastikan bahwa penggunaan teknologi kecerdasan buatan (AI) dalam pemilihan umum diawasi dengan baik melalui berbagai kebijakan, regulasi, atau lembaga pengawas independen.
Berikut beberapa contoh negara yang sedang menuju pengawasan teknologi AI dalam konteks pemilu, walaupun belum memiliki Dewan AI Ethicist yang khusus untuk pengawasan pemilu.
Uni Eropa (UE) melalui General Data Protection Regulation (GDPR) dan Artificial Intelligence Act (AI Act) telah mengatur penggunaan teknologi AI, termasuk dalam konteks pemilu. Kebijakan ini menekankan bahwa penggunaan AI harus adil, transparan, dan bebas dari diskriminasi.
UE sedang dalam proses membentuk kerangka regulasi yang lebih jelas untuk penggunaan AI, termasuk di bidang pemilu. Misalnya, AI Act menetapkan regulasi yang ketat terhadap penggunaan AI yang dianggap berisiko tinggi, termasuk teknologi pengawasan massal dan manipulasi pemilu menggunakan data pribadi.
Amerika Serikat belum memiliki Dewan AI Ethicist yang mengawasi proses pemilihan, namun pengawasan teknologi di pemilu mulai diperhatikan, terutama setelah pemilihan presiden 2016.
Beberapa organisasi independen, seperti Center for Democracy & Technology (CDT) dan AI Now Institute, telah bekerja untuk menyusun pedoman dan penelitian terkait penggunaan AI dalam pemilu.
Di tingkat negara bagian, beberapa undang-undang yang terkait dengan perlindungan data dan privasi sudah mulai diterapkan untuk mengatur penggunaan teknologi berbasis AI dalam konteks pemilu dan kampanye politik.
Kanada memiliki pendekatan yang proaktif terhadap pengaturan AI melalui Directive on Automated Decision-Making, yang memberikan pedoman tentang penggunaan algoritma dalam berbagai sektor, termasuk sektor publik.
Pada 2019, Komisi Pemilihan Kanada memperingatkan penggunaan teknologi AI dalam pemilu sebagai potensi ancaman terhadap integritas demokrasi dan mengusulkan kebijakan perlindungan terhadap manipulasi data pemilih.
Communications Security Establishment (CSE) di Kanada telah mengidentifikasi potensi ancaman dari penggunaan AI dalam manipulasi pemilu dan melakukan pengawasan terhadap teknologi yang digunakan dalam kampanye politik.
Britania Raya telah membentuk beberapa komite parlementer yang mengawasi etika penggunaan AI di sektor publik dan pemilu.
Information Commissioner’s Office (ICO) mengatur dan mengawasi penggunaan data pribadi, termasuk dalam pemilu, untuk memastikan bahwa AI tidak disalahgunakan untuk manipulasi data pemilih.
Meskipun belum ada Dewan AI Ethicist, negara ini memiliki Centre for Data Ethics and Innovation (CDEI) yang berperan dalam menyusun pedoman etis untuk teknologi berbasis AI yang digunakan dalam pemilihan umum dan proses pemerintahan.
Sementara banyak negara belum memiliki Dewan AI Ethicist formal untuk mengawasi Pilkada atau pemilu, ada upaya global untuk memastikan bahwa penggunaan AI dalam pemilu tidak merusak demokrasi.
Regulasi seperti AI Act di Uni Eropa, pengawasan independen di Kanada, dan pusat inovasi etis di Britania Raya adalah contoh bahwa kesadaran akan pentingnya etika AI dalam demokrasi mulai meningkat.
Untuk Indonesia, pengawasan terhadap penggunaan teknologi dalam pemilu telah diatur oleh Badan Pengawas Pemilu (Bawaslu), tetapi belum ada aturan khusus terkait pengawasan AI dalam Pilkada. Mungkin perlu dipertimbangkan pembentukan Dewan AI Ethicist atau lembaga serupa di masa depan.
Penutup
Pentingnya pembentukan Dewan AI Ethicist tidak dapat dianggap remeh dalam konteks pemilihan umum yang jujur dan adil (jurdil) serta langsung, umum, bebas, dan rahasia (luber).
Dewan ini berperan kunci dalam memastikan bahwa teknologi kecerdasan buatan digunakan dengan prinsip etika yang tinggi, menghindari potensi manipulasi, dan menjaga integritas proses demokrasi.
Dengan adanya Dewan AI Ethicist, kita dapat memastikan bahwa teknologi yang digunakan dalam pilkada tidak hanya berfungsi secara efektif tetapi juga menghormati hak dan keadilan bagi semua pemilih.
Pembentukan Dewan ini adalah langkah strategis menuju tercapainya demokrasi substantif, di mana keputusan politik mencerminkan kehendak rakyat secara nyata dan adil.
Keterlibatan dan pengawasan dari Dewan ini akan memastikan bahwa teknologi kecerdasan buatan mendukung proses pemilihan yang transparan dan bebas dari pengaruh yang tidak diinginkan.
Dengan demikian, melalui penerapan standar etika yang ketat dan pengawasan yang efektif, kita dapat menciptakan lingkungan demokrasi yang lebih sehat dan bahagia.
Hal ini bukan hanya tentang mencapai pemilihan yang bersih, tetapi juga tentang mewujudkan masyarakat yang adil, sejahtera, dan berkelanjutan, di mana setiap individu merasa dihargai dan memiliki suara yang berarti.
Ini adalah langkah menuju masa depan di mana demokrasi dan teknologi berfungsi bersama-sama untuk kesejahteraan masyarakat secara keseluruhan.
Daftar Pustaka
Bostrom, N., & Yudkowsky, E. (2014). The Ethics of Artificial Intelligence. In Frankish, K. & Ramsey, W. M. (Eds.), The Cambridge Handbook of Artificial Intelligence. Cambridge University Press.
Cath, C. (2018). Artificial Intelligence and the ‘Good Society’: The US, EU, and UK Approach. Science and Engineering Ethics.
Binns, R. (2018). Fairness in Machine Learning: Lessons from Political Philosophy. Proceedings of the 2018 Conference on Fairness, Accountability, and Transparency (FAT 2018).
Eubanks, V. (2018). Automating Inequality: How High-Tech Tools Profile, Police, and Punish the Poor. St. Martin’s Press.
O’Neil, C. (2016). Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy. Crown.
Villasenor, J. (2019). Artificial Intelligence, Deepfakes, and the Uncertain Future of Truth. Brookings Institution.