 |
| (Sumber: Cornell Cronicle) |
Dalam rapat dengar pendapat soal AI di Kongres Amerika Serikat pada 16 Mei 2023, Senator Josh Hawley melemparkan pertanyaan itu kepada Sam Altman, CEO OpenAI, pembuat ChatGPT. Altman menjawab dia memang khawatir ada orang yang menggunakan model bahasa untuk memanipulasi, membujuk, dan menarik pemilih lewat interaksi langsung.
Altman tidak mengelaborasi jawabannya, tapi dia sepertinya memiliki skenario berikut ini dalam pikirannya. Bayangkan, dalam waktu dekat, pengembang teknologi dengan motif politik mengembangkan mesin bernama Clogger, kotak hitam yang memuat kampanye politik. Clogger secara terus-menerus mengejar tujuan penciptaannya: memaksimalkan seorang kandidat—seseorang yang membayar kepada Clogger Inc—menang di pemilu.
Media sosial, seperti Facebook, Twitter, dan YouTube, telah lama memanfaatkan AI untuk membuat pengguna betah lebih lama di platform tersebut. Clogger menggunakan AI untuk tujuan lain, yaitu mengubah pilihan orang-orang di pemilu.
Sebagai peneliti politik dan akademikus yang mempelajari persilangan teknologi serta demokrasi, kami yakin bahwa teknologi seperti Clogger bisa membuat sistem otomatisasi meningkatkan skala dan efektivitas manipulasi perilaku dan teknik microtargeting yang telah digunakan dalam kampanye politik sejak awal 2000-an. Seperti iklan yang memanfaatkan history di browser dan media sosial untuk membidik target iklan secara personal, Clogger akan mengamati Anda, juga ratusan juta pemilih lain, satu per satu.
Teknologi ini akan menawarkan tiga keunggulan ketimbang manipulasi perilaku berdasarkan algoritma tercanggih saat ini. Pertama, model bahasanya dapat membuat pesan—baik teks, media sosial, maupun e-mail, bahkan foto dan video—yang disusun untuk Anda secara personal. Sementara pengiklan menyempilkan promosi produk mereka, model bahasa seperti ChatGPT bisa memproduksi pesan yang jumlahnya tak terhitung untuk Anda, juga bagi jutaan orang lain, selama masa kampanye.
Kedua, Clogger akan memakan teknologi yang disebut reinforcement learning guna menghasilkan rangkaian pesan yang memungkinkan perubahan preferensi dalam pemilu. Reinforcement learning adalah mesin pembelajaran dengan pendekatan trial and error, di mana komputer bertindak dan mendapat umpan balik soal cara terbaik untuk mencapai tujuan. Setiap mesin bisa memainkan catur atau video game lain dan mengalahkan pemain terbaik menggunakan reinforcement learning.
Ketiga, selama masa kampanye, pesan dari Clogger bisa berubah untuk menyesuaikan respons Anda terhadap pesan sebelumnya, juga hasil pembelajaran mesin tentang cara terbaik mengubah pikiran kita. Clogger bisa menemani Anda, juga jutaan orang lain, dalam percakapan yang dinamis sepanjang waktu. Pesan dari Clogger akan serupa dengan iklan-iklan yang terus mengikuti Anda meski telah mengganti website dan media sosial.
Fitrah AI
Tiga fitur lain dari Clogger—bisa juga kita sebut bug—perlu kita perhatikan. Pertama, pesan yang Clogger kirim bisa mengandung unsur politik, bisa juga tidak. Satu-satunya tujuan mesin ini adalah memaksimalkan suara. Mesin bisa memikirkan strategi mencapai tujuan itu lewat cara yang tak pernah terpikirkan oleh juru kampanye mana pun.
Satu kemungkinannya adalah membanjiri pemilih kubu oposisi dengan informasi tentang olahraga, hiburan, serta hal-hal menarik lain sehingga pesan politik terbenam. Bisa juga dengan mengirim pesan tak menyenangkan, seperti iklan yang datang bertubi-tubi, saat kubu oposisi menerima pesan politik. Mesin juga mampu memanipulasi media sosial teman-teman pemilih untuk memberi kesan bahwa rekan mereka mendukung kandidat tertentu.
Kedua, Clogger tidak mempedulikan kebenaran. Mesin ini bahkan tak bisa membedakan mana benar dan salah. Model bahasa "halusinasi" tidak menjadi masalah karena tujuan utamanya adalah mengubah pilihan politik Anda, bukan menyediakan informasi yang akurat. Ketiga, karena sifatnya sebagai kotak hitam kecerdasan buatan, orang tak mungkin tahu strategi yang mesin ini gunakan.
Clogokrasi
Jika Partai Republik Amerika Serikat mengerahkan Clogger dalam kampanye pemilihan presiden 2024, kampanye Partai Demokrat ada kemungkinan akan dipaksa menggunakan cara yang sama, mungkin dengan mesin serupa. Sebut saja Dogger. Jika para juru kampanye menganggap mesin-mesin ini efektif, pemilihan presiden bisa bergantung pada Clogger vs Dogger. Pemenangnya adalah penyewa jasa mesin yang lebih efektif.
Para akademikus dan pakar politik bisa berbicara panjang-lebar soal bagaimana AI yang satu menang, tapi rasanya tak ada orang yang menyadari penyebab utamanya. Presiden tidak terpilih karena ide dan gagasan politiknya diterima mayoritas warga, melainkan karena dia menggunakan teknologi AI yang lebih mumpuni. Konten yang menentukan itu berasal dari AI yang sepenuhnya bertujuan memenangkan kandidatnya, tanpa memiliki ide politik apa pun.
Dengan kondisi seperti itu, pemilu lebih tepat disebut dimenangi oleh sebuah mesin ketimbang seseorang. Pemilihan umum—satu unsur utama demokrasi—tidak lagi demokratis, meski semua aktivitas pemilu, seperti pencoblosan dan penghitungan suara, berlangsung.
Presiden yang terpilih lewat kampanye AI bisa menggunakan kemenangannya untuk memperjuangkan kebijakan partai politik. Namun, karena gagasan parpol bisa saja tak berhubungan dengan alasan dukungan pemilih—karena Clogger dan Dogger tak mempedulikan pandangan politik—kebijakan presiden tidak mencerminkan keinginan pemilih. Sebab, pilihan itu bisa saja hasil manipulasi AI, bukan murni sikap politik pemilih.
Presiden juga bisa mengikuti pesan, perilaku, dan kebijakan yang diprediksi mesin dapat meningkatkan peluang keterpilihan kembali. Dengan demikian, presiden terpilih tak akan memiliki agenda selain mempertahankan kekuasaannya. Tindakan presiden, yang dituntun Clogger, besar kemungkinan bertujuan memanipulasi pemilih, bukan melayani kepentingan mereka.
Menghindari Clogokrasi
Manipulasi AI dalam pemilu bisa dihindari selama kandidat, juru kampanye, dan konsultan politik bersumpah menghindari penggunaan teknologi AI politik, seperti Clogger. Tapi kami rasa itu tak mungkin terjadi.
Jika kotak hitam AI politik dikembangkan, sulit bagi kandidat mengelak dari godaan untuk menggunakannya. Konsultan politik memandang teknologi itu sebagai alat yang dibutuhkan untuk memenangkan kandidat, sesuai dengan tanggung jawab pekerjaan mereka. Satu saja kandidat menggunakan mesin seefektif itu, kubu oposisi pasti mengikutinya.
Kami yakin peningkatan keamanan pelindungan data pribadi dapat membantu memperbaiki situasi. Clogger akan bergantung pada akses data pribadi untuk bisa membidik seseorang, menyusun pesan untuk membujuk atau memanipulasi dia, serta mengikuti dan membidiknya kembali sepanjang masa kampanye. Penolakan akses informasi akan membuat efektivitas kerja mesin itu anjlok.
Solusi lain ada di komisi pemilihan umum. Mereka dapat melarang atau mempersempit ruang gerak mesin AI politik. Uni Eropa bergerak ke arah itu. Pemerintah merevisi draf peraturan bikinan parlemen Eropa soal kecerdasan buatan menjadi menggolongkan "sistem AI untuk mempengaruhi pemilih dalam pemilu sebagai risiko tinggi" serta mewajibkannya tunduk pada pengawasan dan peraturan ketat.
Satu aturan yang lebih sederhana telah diberlakukan oleh regulator Internet Eropa dan negara bagian California, Amerika, dengan melarang bot menyamar sebagai manusia. Contohnya, peraturan mewajibkan pesan kampanye disertai sangkalan jika konten mereka diproduksi mesin, bukan manusia.
Jadi, penafian iklan yang dulunya menyatakan "Dibayar oleh Sam Jones, calon anggota kongres" berganti menjadi "Iklan bikinan AI ini dibayar oleh Sam Jones, calon anggota kongres". Versi yang lebih ketat bisa mewajibkan seperti ini. "Pesan yang dibuat AI ini dikirim ke Anda oleh Sam Jones, calon anggota kongres, karena Clogger memprediksi pesan ini dapat meningkatkan peluang Anda memilih Sam Jones sebesar 0,0002 persen." Kami yakin pemilih perlu tahu saat bot menyampaikan pesan, juga alasannya.
Kemungkinan pengembangan sistem, seperti Clogger, menunjukkan bahwa jalan menuju ketidakberdayaan kolektif tak memerlukan kecerdasan buatan manusia super. Hanya butuh juru kampanye dan konsultan politik yang gelap mata serta mau menggunakan alat yang mampu mengubah pilihan politik jutaan orang.
Archon Fung
(Guru besar kewarganegaraan di Harvard Kennedy School, dan Lawrence Lessig, guru besar hukum di Harvard University. Terbit pertama kali dalam bahasa Inggris di The Conversation dan diterjemahkan oleh Reza Maulana dari Tempo)
