Deepfake: Bakal Dalang Hoax Jelang Pemilu 2024?

Dinamika Pemilu 2024 tidak hanya soal pasangan calon pemimpin baru negeri ini, tetapi juga gelagat para buzzer yang menyertainya. Situasi politik Indonesia mulai memanas jelang suksesi kepemimpinan tahun depan. Baru-baru ini jagat maya tengah dihebohkan dengan munculnya video deepfake pidato Presiden Joko Widodo (Jokowi) yang menggunakan bahasa Mandarin. Sontak kemunculan video itu membuat gaduh netizen. Banyak yang menegaskan bahwa itu hoax, tetapi tak sedikit pula yang termakan isu yang digiring pengunggah video tersebut.

Pasalnya, video tersebut berasal dari video pidato Presiden Jokowi menggunakan bahasa Inggris, yang diunggah ke platform YouTube pada tahun 2015. Video itu kemudian diedit sedemikian rupa menggunakan artificial intelligence atau kecerdasan buatan deepfake agar seolah-olah Presiden Jokowi berpidato menggunakan bahasa Mandarin. Lalu, apa itu deepfake? Perlukah kita waspada?

Kami menemui Dosen Teknik Informatika, Fakultas Komunikasi dan Informatika (FKI), Universitas Muhammadiyah Surakarta (UMS), Endang Wahyu Pamungkas, S.Kom., M.Kom., Ph.D., untuk menggali informasi lebih dalam mengenai deepfake.

Deepfake merupakan salah satu tipe kecerdasan buatan yang menggunakan metode deep learning dengan algoritma Generative Adversarial Network (GAN). Teknologi deepfake digunakan untuk membuat foto, video, hingga audio yang mirip dengan kenyataan di sekitar kita. 

“Deepfake sendiri muncul di luar negeri kalau tidak salah sejak 2018 atau 2019. Baru mulai tahun 2020 makin ramai dan populer,” ungkap Endang saat ditemui di ruangannya, Kamis (02/11/2023).

Teknologi deepfake mempunyai mekanisme dengan mengumpulkan data yang tersebar di internet. Data tersebut kemudian di-generate dengan menyesuaikan kondisi yang diminta pengguna, baik itu menyesuaikan mimik wajah, intonasi suara, maupun raut wajah.

“Kalau dari kasus video Pak Jokowi kemarin, dia (AI deepfake) mengumpulkan data orang yang menggunakan bahasa mandarin, lalu data tersebut disesuaikan dengan mimik wajah Pak Jokowi yang mirip yang mana. Kalau tidak ada yang mirip, maka AI akan mencoba men-generate sebuah data semirip mungkin dengan aslinya,” terang Endang.

Endang mengamini kemajuan teknologi saat ini semakin bagus, tetapi tidak menutup celah bagi oknum yang ingin membuat gaduh dengan menyalahgunakan AI sebagai media penebar hoax. 

“Memang kemajuan teknologi sekarang semakin bagus, tetapi semakin banyak pula yang memanfaatkan untuk hal-hal yang negatif. Video Pak Jokowi itu kemarin viral karena kebetulan Indonesia sedang menghadapi Pemilu dan Pilpres tahun depan. Jadi lagi panas-panasnya,” ungkap Endang melanjutkan.

Video Presiden Jokowi yang dimanipulasi berasal dari rekaman pidato Presiden Jokowi kala menghadiri acara Gala Hosted by USINDO, US Chamber, and USABC, 26 Oktober 2015. (sumber: TV One)

Akan tetapi menurut Endang, ada ancaman yang lebih berbahaya dibandingkan video deepfake yang viral beberapa waktu lalu. Ancaman tersebut berkaitan dengan pencurian identitas pribadi masyarakat. Potensi ini berbahaya karena akan meningkatkan risiko kejahatan khususnya penipuan melalui platform digital.

“Kalau menurut saya, sih, tantangan terbesarnya pencurian identitas. Dikhawatirkan deepfake dapat disalahgunakan, maka bisa saja muncul kasus penipuan atau kejahatan lainnya karena kita tidak bisa memastikan apakah yang kita tonton itu asli atau palsu,” kata pria yang akrab disapa Pak Dadang itu.

Ancaman pencurian identitas ini pernah terjadi beberapa waktu sebelum video Presiden Jokowi muncul di internet. Melansir CNNIndonesia.com, pemerasan menggunakan metode deepfake pernah dilakukan secara terorganisir oleh narapidana dari dalam penjara. Dengan menggunakan fitur reface app, narapidana ini menggunakan wajah orang lain untuk menjalankan aksi penipuan berkedok cinta, atau yang populer dikenal dengan nama love scamming. 

Menanggapi kasus itu, Endang mengatakan masyarakat harus mewaspadai penyalahgunaan deepfake. “Memang kita harus lebih berhati-hati lagi di era sekarang untuk menanggapi orang baru ataupun orang yang belum dikenal.”

Menurut laporan Waspada Scammer Cinta (WSC) kepada Kompas TV, pihaknya telah menerima laporan sebanyak 17 kasus per 31 Maret 2023. Korban penjaja asmara palsu ini harus menelan pil pahit kala tertipu dengan total kerugian hingga Rp630 juta. 

Ironisnya, berbeda dengan kecerdasan buatan berbasis teks seperti Chat GPT yang mudah dideteksi dengan menggunakan software tertentu, video yang dibuat dengan menggunakan deepfake acap kali menemui kesulitan dalam mendeteksi keaslian isi kontennya. Endang menuturkan ada kemungkinan kreator video dapat melakukan penyuntingan tertentu untuk mengelabui software pendeteksi deepfake.

“Hasil dari GAN tadi berupa video memang agak susah untuk dideteksi dengan algoritma tertentu. Meskipun sudah ada teknologi untuk mendeteksi video deepfake, sebagian peneliti mengatakan hasil analisis tersebut tidak akurat sepenuhnya karena saat memproduksi video, kreator bisa memanipulasi prosesnya agar tidak terdeteksi,” papar Endang.

Endang menekankan pentingnya tanggung jawab para developer AI dan orang-orang informatika untuk mengusung sisi etika dari teknologi yang dikembangkan. Menurutnya, dalam pengembangan teknologi yang sedemikian canggih, harus diperkirakan dampak buruk yang akan menyertainya. Ia mengatakan potensi penyalahgunaan teknologi akan selalu ada. 

“Ketika kita melakukan pengembangan teknologi, harus dipikirkan dari sisi etikanya. Kita kan nggak ada yang mengira kalau teknologi yang kita kembangkan akan disalahgunakan seperti ini. Sudah seharusnya menjadi kesadaran bersama untuk menentukan batasan mana yang boleh dan mana yang tidak dalam pemanfaatan teknologi, khususnya teknologi artificial intelligence,” sambung dia.

Maraknya kasus penyalahgunaan teknologi kecerdasan buatan membuat publik bertanya bagaimana langkah pemerintah untuk menegakkan hukum kepada para pelaku. Endang, dengan penuh keyakinan, mengatakan perlu langkah tegas dari pemerintah untuk memberantas kasus penyalahgunaan kecerdasan buatan.

“Sangat perlu penegakan aturan karena penyalahgunaan deepfake ini berimbas pada penyebaran berita bohong atau disinformasi yang disengaja untuk disebar,” terangnya.

Endang mengatakan kita tidak bisa melarang kemajuan teknologi AI. Hal ini karena sudah menjadi keniscayaan bahwa teknologi akan terus berkembang semakin canggih. Menurutnya, yang perlu diregulasi adalah penggunanya yang menyalahgunakan kemajuan teknologi. Efek jera sangat diperlukan untuk menekan angka kejahatan digital di Indonesia. 

“AI itu semacam tools. Jadi sama seperti pisau. Tergantung penggunanya. Kalau digunakan dengan baik ya akan bermanfaat. Tapi kalau disalahgunakan ya nanti akan berbahaya,” jelas dia.

Regulasi untuk mencegah penyalahgunaan AI untuk menyebarkan hoax telah tercantum dalam Undang-Undang (UU) tentang Informasi dan Transaksi Elektronik (ITE), Pasal 28 Ayat 1 yang berbunyi “setiap orang yang sengaja menyebarkan berita bohong dan menyesatkan yang mengakibatkan kerugian konsumen dalam transaksi elektronik bisa dikenakan pidana penjara paling lama enam tahun dan/atau denda maksimal Rp1 miliar.”

Dengan masifnya arus informasi dan kemajuan teknologi kecerdasan buatan saat ini, Endang menekankan pentingnya edukasi lewat literasi. Menurutnya, penting untuk tidak percaya terlebih dahulu sebelum menemukan informasi yang kredibel.

“Kalau kita menerima informasi berupa teks atau video, harus dipastikan dulu keaslian informasinya. Bisa dengan melihat video serupa di internet atau dengan menggunakan software untuk mengecek keaslian,” tutur Endang melanjutkan.

Tak ketinggalan, ia menekankan pentingnya netizen Indonesia untuk tidak menggunakan emosinya dalam menerima informasi baru. Hal inilah yang dapat menyuburkan penyebaran informasi palsu di Indonesia. Selain itu, penting bagi netizen untuk berhati-hati dalam menyebarkan sebuah informasi. Endang mengatakan sangat mungkin jika dampak dari berita yang informasinya belum benar akan menimbulkan kegaduhan di dunia nyata.

“Yang perlu kita sadari bersama kalau ada informasi yang kontroversial harus dicek kembali sumber dan kebenarannya. Kalau kita share berita dan ternyata beritanya bohong, maka kita juga bertanggung jawab atas orang yang terpengaruh berita tersebut,” pungkas Endang.

Penulis: Gede Arga Adrian

Editor: Al Habiib Josy Asheva