Apa itu Deepfake dan Seberapa Berbahayanya Mereka?

Woman looking at two deepfakes and being confused as to which one is real
Klik di sini untuk lihat rangkuman singkat
Apa itu Deepfake? Penjelasan Singkat

Deepfake adalah jenis media sintetis, baik itu video atau audio, yang menyerupai orang nyata, yang dilekatkan ke orang lain. Hal yang mengkhawatirkan adalah deepfake semakin mudah dibuat. Hal ini bisa menyebabkan konsekuensi serius di dalam hidup orang-orang biasa karena deepfake bisa digunakan untuk memeras korban-korban yang tidak curiga. Mereka juga digunakan untuk menyebarkan berita palsu dengan membuat video-video menyesatkan tentang orang-orang terkenal.

Anda bisa melindungi diri sendiri dari deepfake. Berikut langkah-langkah yang bisa diambil:

  • Cari tahu tentang deepfake dan cara mengenalinya.
  • Hindari mengunggah foto diri Anda di akun media sosial publik.
  • Amankan perangkat Anda supaya foto-foto Anda, serta bentuk data lainnya, tidak dicuri dan digunakan untuk tujuan jahat.
  • Jelaskan resiko deepfake ke keluarga dan sahabat jika Anda tidak ingin mereka mengunggah foto-foto Anda.

Jika kemiripan Anda digunakan di media deepfake, laporkan ke platform media sosial tempat deepfake diunggah, dan hubungi pihak berwajib di daerah Anda. Tergantung pada lokasi Anda, Anda juga bisa berkonsultasi dengan pakar hukum.

Baca artikel lengkap kami untuk mencari tahu lebih lanjut tentang deepfake, dan cara melindungi diri dari ancaman tersebut.

Pada film kedua Terminator, robot T-1000 mampu mengubah penampilannya menjadi siapapun yang diinginkannya. Deepfake sangat mirip seperti robot T-1000. Mereka membuat media palsu yang bisa “mengubah” tampilan mereka supaya terlihat dan terdengar seperti siapapun, baik orang yang masih hidup atau sudah meninggal. Masa depan itu sekarang, dan hal ini tidak selalu baik adanya.

Apa itu Deepfake?

Deepfake adalah sebuah media palsu, biasanya video, yang terlihat sangat asli. Ini merupakan aplikasi teknologi AI dan machine learning untuk memanipulasi video dan suara. Contohnya adalah deepfake Mark Zuckerberg dari Facebook. Videonya, diunggah di Instagram, menunjukkan “Mark palsu” yang mengatakan kata-kata yang tidak menyenangkan:

“Bayangkan sejenak: Satu orang, dengan kuasa penuh atas milyaran data curian orang-orang, semua rahasia mereka, kehidupan mereka, masa depan mereka… Semua hal ini berkat Spectre. Spectre menunjukkan kepada saya bahwa siapapun yang menguasai data, menguasai masa depan.”

Tapi deepfake relatif rumit untuk dibuat. Machine learning membutuhkan kumpulan data yang sangat besar untuk melatih jaringan saraf. Untuk membuat deepfake, data biasanya berisi ribuan gambar dua orang yang diubah dan digabungkan menggunakan perangkat lunak khusus. Suaranya kemudian dilapis dan disinkronkan dengan bibir.

Deepfake yang berisi selebriti mungkin lucu bagi sejumlah orang, namun teknologi di belakangnya sebenarnya menyeramkan. Hal ini bahkan bisa jadi berbahaya, karena cuplikan singkat selebriti mengucapkan hal-hal keterlaluan hanyalah sedikit dari kemampuan deepfake sepenuhnya.

Cara Deepfake Digunakan

Ada banyak deepfake di luar sana. Pada bulan Juni 2020, Facebook sendiri mengumpulkan 100.000 deepfake untuk mengajarkan algoritmanya cara mengenali video deepfake. Peningkatan penggunaan teknologi deepfake menunjukkan bahwa hal ini semakin mudah diakses. Meningkatnya akses ini berarti ada lebih banyak pengguna baru, baik untuk tujuan baik atau buruk. Berikut beberapa penggunaan deepfake terbaru, dan cara mereka merugikan orang-orang.

Berita palsu

Pada era di mana “berita palsu” tampaknya berkontribusi pada banyak kesengsaraan dunia, deepfake telah mengemban peran sebagai alat propaganda.

Video deepfake Barack Obama menunjukkan cara deepfake bisa digunakan untuk memanipulasi kebenaran dan merilis informasi secara massal. Deepfake menawarkan mekanisme yang sangat kuat bagi siapapun yang mencoba untuk memanipulasi kebiasaan orang-orang saat pemilihan umum.

Orang-orang sangat khawatir akan pengaruh deepfake terhadap Pemilu 2022 di Amerika Serikat. Namun seperti yang dijelaskan analisis ini musim gugur lalu, deepfake tidak menjadi masalah besar untuk kasus spesifik tersebut. Alasan utamanya adalah deepfake masih sulit dibuat, paling tidak untuk mencapai kualitas di mana orang-orang sulit membedakan medianya dari realita. Namun di masa yang akan datang, ketersediaan mereka untuk penggunaan massal mungkin akan bertambah. Maka, mereka mungkin akan benar-benar mengancam pemilu-pemilu lain yang akan datang.

Kejahatan cyber

Deepfake adalah kendaraan yang sempurna untuk meningkatkan skala tindak kriminal online. Pelaku kejahatan cyber bisa menggunakan deepfake untuk memeras orang supaya melakukan kemauan mereka. Hal ini bisa terjadi dengan beberapa cara, contohnya melalui serangan phishing dan sextortion.

Dengan semakin mudahnya akses ke teknologi deepfake, kemungkinannya teknologi ini bisa digunakan untuk social engineering, yaitu taktik yang digunakan dalam banyak kejahatan cyber yang memanipulasi perilaku manusia dengan mempermainkan kepercayaan kita, menciptakan rasa urgensi, menggunakan rasa malu kita, dan lainnya.

Sextortion

Sextortion adalah contoh utama bagaimana deepfake bisa menyebabkan kerugian signifikan di kehidupan nyata. Sextortion adalah penipuan di mana penjahat cyber memeras orang biasa supaya mengirim uang, di bawah ancaman bahwa mereka akan merilis video sensitif korban tersebut. Penipuan ini bisa terjadi tanpa adanya video asli, tapi deepfake adalah mekanisme di mana penjahat bisa membuat materi palsu yang sensitif.

Bahkan jika korban sadar video itu tidak asli, mereka mungkin merasa tidak punya pilihan selain membayar, karena videonya terlihat sangat realistis. Ini bukan masalah sepele. Pada bulan Januari 2021, Avast melakukan riset, menemukan, dan memblokir lebih dari 500,000 kasus sextortion yang dialami client mereka di seluruh dunia.

Phishing dan revenge porn

Dan itu hanya sebagian dari masalah yang lebih besar. Teknologi yang digunakan untuk sextortion juga bisa digunakan untuk phishing. Dalam kampanye phishing, penjahat cyber akan berpura-pura sebagai orang lain untuk mendorong tindakan korban. Mereka bisa menghubungi Anda dan menggunakan suara bos Anda, yang didapat melalui sintesis deepfake, untuk meminta informasi perusahaan.

Ini bukan contoh hipotesis semata. Beberapa tahun lalu, seorang CEO asal Inggris ditipu untuk mengirim $240.000 ke seorang penipu. CEO tersebut mengira dirinya sedang berbicara dengan kepala perusahaan induk selama panggilan telepon, yang memintanya untuk segera mengirimkan uang. CEO tersebut diyakini telah tertipu oleh suara “deepfake”.

Teknologi deepfake juga digunakan untuk membuat revenge porn. Ini khususnya punya pengaruh buruk terhadap perempuan, dan jika Anda ingin tahu lebih lanjut tentang penggunaan ini secara spesifik, Anda bisa baca editorial Forbes ini.

Pembuatan Deepfake dengan Aplikasi Deepfake

Aplikasi Zao adalah perangkat lunak pertama untuk pembuatan deepfake yang bisa diakses masyarakat luas. Penggunaannya sekarang sudah dibatasi di sebagian besar negara, tapi orang-orang tetap bisa mengaksesnya dari beberapa bagian dunia, seperti India.

Zao bukan satu-satunya aplikasi yang bisa membantu Anda dalam membuat video deepfake. Banyak aplikasi lain yang sudah dirilis, termasuk:

  • Deepfakesweb: aplikasi browser berbayar yang memungkinkan Anda untuk menggabungkan foto dan video.
  • DeepFaceLab: program yang lebih rumit yang dirancang oleh Microsoft. Tujuan utamanya adalah untuk membantu murid dan pelaku riset supaya lebih memahami produksi deepfake, tapi orang-orang bisa menggunakannya untuk membuat video mereka sendiri. Namun layanan ini lebih sulit digunakan dibanding Deepfakesweb, dan buruh kumpulan data media yang jauh lebih besar untuk membuat sesuatu yang meyakinkan.
  • Wombo: aplikasi lip-syncing yang memungkinkan Anda untuk melekatkan wajah ke video musik. Jika Anda ingin melihat cara kerjanya, cek cuplikan di bawah ini di mana Elon Musk sedang menyanyikan lagu yang tidak terduga:

Seperti yang bisa Anda lihat, sebagian besar aplikasi deepfake yang tersedia secara luas ternyata memproduksi video yang tidak terlalu realistis. Tapi hal ini bisa berubah ke depannya, maka penting untuk belajar cara melindungi diri Anda sendiri.

Cara Melindungi Diri dari Deepfake

Dalam upaya melawan pasar deepfake, Google merilis repositori data deepfake. Data yang disediakan oleh database ini akan digunakan untuk membantu membuat alat yang dibutuhkan untuk mendeteksi video palsu supaya bisa dihapus. Facebook juga mendukung inisiatif yang serupa, menyelenggarakan kompetisi untuk membuat perangkat lunak pendeteksi deepfake. Microsoft mengembangkan alat pendeteksi deepfake yang lengkap.

Namun apakah upaya-upaya ini cukup untuk menjaga keamanan Anda dari ancaman bahaya deepfake? Mereka mungkin bisa, ke depannya. Namun saat ini, Anda tetap perlu mengambil langkah-langkah pencegahan jika tidak ingin menjadi korban deepfake.

Membagikan foto secara publik: ide buruk?

Membagikan beberapa foto di internet bukan hal yang buruk. Namun, jika Anda mengambil banyak foto diri Anda dan membagikannya secara publik, Anda akan menjadi target yang lebih mudah bagi penjahat cyber untuk menggunakan teknologi deepfake.

Dalam pengaturan sebagian besar platform media sosial, Anda bisa memilih untuk membuat akun Anda private. Anjurkan anggota keluarga dan sahabat terdekat Anda untuk mengikuti panduan yang sama. Ingat bahwa video deepfake yang paling realistis hanya bisa dibuat menggunakan kumpulan besar data foto-foto orang. Jika Anda setidaknya bisa membatasi foto Anda yang tersebar luas, kemungkinannya lebih kecil bagi Anda untuk menjadi korban kejahatan cyber termasuk deepfake.

Keamanan perangkat ditingkatkan

Selain harus sadar akan foto-foto yang Anda unggah, Anda juga bisa memastikan perangkat Anda aman, supaya data Anda (termasuk foto dan video) tidak pernah bocor. Untuk melakukan hal ini, pastikan Anda menggunakan VPN (Virtual Private Network) yang membantu Anda tetap anonim saat online dengan mengubah IP Anda. Perangkat lunak anti-malware juga bisa membantu, khususnya pada perangkat mobile.

Hubungi pihak berwajib

Terakhir, jika Anda pernah menjadi korban kejahatan cyber yang melibatkan deepfake, laporkan media yang dibuat ke platform sosial tempat media tersebut disebarkan. Lalu, Anda juga sebaiknya menghubungi pihak berwajib dan membuat pengaduan resmi. Jika Anda berada dalam konten media yang dibuat dengan deepfake, ini bisa dianggap pencemaran nama baik, sehingga Anda bisa menghubungi pengacara untuk menganalisis pilihan hukum Anda.

Masa Depan Deepfake

Meskipun deepfake bisa digunakan untuk senang-senang, teknologi ini juga digunakan oleh penjahat cyber untuk menyerang korbannya. Orang-orang terkenal adalah target yang paling mudah untuk pembuatan deepfake, khususnya jika mereka akan digunakan untuk menyebarkan berita palsu, tapi bahaya deepfake bisa mempengaruhi siapapun. Hal terpenting dalam keamanan online dan penggunaan internet adalah kemampuan Anda untuk bersikap kritis atas semua hal di internet. Sekarang setelah Anda tahu soal keberadaan deepfake, Anda mungkin akan berpikir dua kali sebelum mempercayai video yang dibuat oleh seorang pejabat pemerintah tentang klaim yang mengherankan.

Jika ingin tahu lebih lanjut tentang cara melindungi diri dari kejahatan cyber, Anda juga bisa baca artikel kami tentang penipuan WhatsApp dan revenge porn.

Apa itu Deepfake? - FAQ

Deepfake semakin luas tersedia dan semakin mudah tersebar. Punya pertanyaan tentang cara baru membuat “media palsu” ini? Cek bagian FAQ untuk lihat jawaban kami atas pertanyaan yang paling sering diajukan tentang deepfake.

Video deepfake adalah sebuah media yang dibuat menggunakan teknologi deepfake yang memasukkan elemen video dan audio. Teknologi deepfake menggunakan algoritme AI dan machine learning untuk memodifikasi video-video yang sudah ada dan menambahkan wajah atau suara baru ke dalam file original-nya. Sebagian besar video deepfake populer berisi selebriti yang mengucapkan atau melakukan sesuatu yang konyol atau mengherankan. Anda bisa temukan informasi lebih lanjut pada artikel tentang deepfake.

Kami sangat menyarankan untuk tidak menggunakan deepfake untuk tujuan jahat. Membuat video deepfake dan membagikannya ke publik bisa dianggap sebagai pencemaran nama baik, dan bahkan sejenis extortion jika Anda melakukan kontak dengan orang di dalam video tersebut.

Meskipun, jika Anda hanya ingin bersenang-senang dengan teman Anda — contohnya dengan memalsukan wajah Anda ke video musik — Anda bisa menggunakan aplikasi online. Deepfakesweb memungkinkan Anda untuk membuat video deepfake, tapi tidak gratis. Pembuatan video bisa dikenakan harga antara $5-$75, tergantung pada durasi deepfake. Pilihan lainnya adalah Wombo dan DeepFaceLab.

Mengidentifikasi video deepfake pertama itu sulit. Ini karena deepfake tidak muncul begitu saja, sehingga Anda tidak bisa menentukan garis jelas antara pengeditan video manual dan pengeditan yang didukung AI. Pada nyatanya, dua jenis manipulasi media ini mulai berbaur, sampai manipulasi video bertenaga AI menjadi “otonom”.

Namun, istilah “deepfake” punya asal usul yang jelas. Terminologi ini pertama kali digunakan oleh seorang pengguna Reddit dengan nama yang sama di tahun 2017, maka bisa diasumsikan bahwa deepfake pertama yang “sesungguhnya” tidak jauh lebih tua dari itu.

International security coordinator
Marko has a Bachelor's degree in Computer and Information Sciences. He coordinates and manages VPNOverview.com's team of international VPN researchers and writers.
Kumpulkan sebuah komentar
Kumpulkan sebuah komentar