A video menghantam media sosial pada bulan Mei menggambarkan Ron DeSantis dalam giliran yang tidak menyenangkan sebagai Michael dari acara TV lama “The Office”. Klip tersebut – kemungkinan besar dibuat oleh penggemar Donald Trump – mengejek DeSantis sebagai orang bodoh yang lemah. Tapi alih-alih lucu, itu mengerikan.
Video itu sangat realistis. Wajah dan suara DeSantis diterapkan dengan sangat mulus sehingga Anda tidak dapat salah mengira itu palsu – tidak seperti video “palsu dalam” beberapa tahun terakhir yang memiliki kualitas tidak manusiawi setelah diperiksa lebih dekat. Banyak kandidat dan aktivis baru-baru ini menggunakan media persuasif yang dihasilkan AI untuk mempengaruhi pemilih. Terkadang itu hanya a malas cara membuat konten; semakin banyak itu adalah cara yang berbahaya tipu muslihat.
AI sekarang dapat secara efektif memanipulasi hal-hal yang Anda lihat dan dengar tanpa Anda sadari. Sementara itu, jaringan media sosial kami memiliki kontrol yang buruk atas konten. Platform dan aplikasi berbasis teks kami, yang semakin banyak digunakan sebagai sumber informasi, tidak memiliki editor sama sekali. Serangan berita palsu yang akan datang akan membuat campur tangan Rusia dalam pemilihan presiden 2016 terlihat sangat amatir.
Kami belum siap untuk ini. Demokrasi kita belum siap untuk ini.
Setelah manipulasi media kami yang kasar dan merusak oleh Rusia dan lainnya selama dekade terakhir, kami masih belum cukup menyesuaikan undang-undang kami untuk mencegah jenis informasi yang salah yang menghancurkan republik. Kita harus bergerak.
Sayangnya, tidak seperti negara Barat lainnya, salah satu hak kami yang paling berharga – Amandemen Pertama – juga merupakan tanggung jawab kami. Kami berhak melindungi kebebasan berbicara dengan biaya berapa pun. Mahkamah Agung mengaturnya dengan sangat keras sehingga hampir tidak mungkin untuk mengatur pengaruh uang dalam pemilihan, mengizinkan miliarder mana pun yang memiliki dendam untuk meluncurkan PAC sembilan angka kepada kandidat atau ideologi dengan efek yang melemahkan. Media juga dilindungi jauh melampaui apa yang diizinkan sebagian besar negara lain, dengan larangan pencemaran nama baik dan pertanggungjawaban atas perselisihan sipil yang ditetapkan begitu tinggi sehingga bahkan mereka yang berada di menara gading hampir tidak dapat melihatnya.
Tetapi jika kita tidak mulai memberikan hukuman serius untuk menggunakan ucapan seperti video palsu yang dirancang untuk mengungkap masyarakat kita, dualitas teknologi dan Amandemen Pertama yang tidak terkekang pasti akan menyebabkan kekacauan.
Untungnya, kasus federal baru-baru ini menjadi preseden yang memberi kita jalan sempit menuju keselamatan tanpa membatasi secara berbahaya apa yang orang Amerika dapat katakan atau bagaimana mereka dapat mengungkapkan pendapat mereka.
Kilat Berita Harian
Hari kerja
Ikuti lima cerita teratas hari ini setiap sore hari kerja.
Di awal tahun, pengadilan federal di Brooklyn memutuskan bahwa pemimpin jaringan orang yang menyebarkan misinformasi pemungutan suara di Internet yang menargetkan orang kulit hitam dan Amerika Latin pada pemilihan presiden 2016 bersalah atas penindasan pemilih. Kasus ini adalah yang pertama dari jenisnya dan menjadi preseden bahwa aktor jahat tidak dapat bersembunyi di balik kebebasan berbicara untuk mempengaruhi pemilu secara tidak adil. Sayangnya, cakupannya terbatas, hanya berfokus pada misinformasi yang dikirimkan tentang pemungutan suara itu sendiri, bukan kandidat. Kasus serupa di Ohio tahun lalu menemukan bahwa dua operator sayap kanan yang menggunakan robocall untuk mencegah pemungutan suara juga bersalah atas penipuan telekomunikasi.
Tapi sementara preseden ini sekarang ada di tingkat federal, masih penting bagi negara bagian, yang mengawasi semua pemilihan, sekarang mengesahkan undang-undang yang mengkodifikasi prinsip bahwa menipu orang dari hak mereka untuk memilih adalah ilegal. Mereka juga harus menetapkan denda setinggi mungkin untuk pelanggaran untuk mencegah aktor jahat. Negara Bagian Washington baru-baru ini memiliki a hukum menegakkan pengungkapan media apa pun yang diproduksi untuk pemilu yang berisi konten yang dimanipulasi. Setiap negara bagian harus.
Kongres juga harus mengesahkan undang-undang serupa dengan hukuman yang berat, dan kita harus meningkatkan dana secara signifikan untuk tim internasional kita yang mengidentifikasi dan menghentikan kampanye disinformasi yang direncanakan oleh musuh kita.
Kita juga harus melangkah lebih jauh dengan menggunakan undang-undang ini sebagai landasan untuk mencegah metode pemungutan suara lain yang mencoba membingungkan pemilih tentang kandidat itu sendiri dengan kebohongan yang terang-terangan. Ini selalu menjadi tantangan di negara kita – dan untuk alasan yang bagus. Untuk mengizinkan jenis pidato politik – kritik retoris, sindiran, dll. – mengandalkan kebenaran setengah-setengah dan absurditas untuk membuat argumen yang valid, kami telah menghindari menempatkan batasan yang dapat mencegah perbedaan yang sehat.
Tetapi ada batasan pada jenis ucapan lain untuk mencegah penipuan dan upaya untuk menyakiti dengan sengaja. Dengan menciptakan standar untuk mengidentifikasi kebohongan yang dipersenjatai yang digunakan untuk merusak pemilu, kita dapat membentuk perisai dengan mencapai keseimbangan.
Penyair Romawi Virgil berkata, “Tidak ada kejahatan lain yang kami tahu lebih cepat dari rumor,” 2.000 tahun sebelum munculnya Internet. Jika kita tidak mengambil tindakan cepat dan serius untuk mencegah misinformasi yang dihasilkan oleh AI memengaruhi pemilu kita, kemungkinan peradaban besar kita akan mengalami nasib yang sama seperti peradabannya.
Thies adalah konsultan politik di New York.
