Baca berita tanpa iklan. Gabung Kompas.com+

Praktik "Deepfake" di China Marak, Youtuber Asal Ukraina Jadi Korban

Kompas.com - 16/05/2024, 11:39 WIB
Paramita Amaranggana,
Egidius Patnistik

Tim Redaksi

TEKNOLOGI mempermudah kehidupan sehari-hari manusia. Saat ini, pekerjaan manusia kian dipermudah dengan hadirnya teknologi kecerdasan buatan atau AI. Bahkan, AI dapat menciptakan teks hingga karya visual sesuai dengan kemauan pengguna hanya dalam hitungan detik.

Sayangnya, kecanggihan teknologi AI seringkali disalahgunakan pihak-pihak tidak bertanggung jawab. Baru-baru ini ramai kasus seorang Youtuber asal Ukraina menemukan banyak sekali video singkat dengan wajah serta suara dirinya berbicara bahasa Mandarin tersebar di internet.

Permasalahannya, orang yang dalam video singkat itu bukanlah dirinya dan Youtuber itu juga mengaku tak pernah belajar bahasa Mandarin. Dalam video-video singkat itu, figur yang sangat serupa dengan dirinya mengucapkan hal-hal yang Youtuber itu sendiri akui tak akan pernah katakan, seperti dukungan terhadap Rusia, mempromosikan produk-produk Rusia, hingga memuji-muji hubungan China dengan Rusia.

Youtuber Ukraina itu bernama Olga Loiek. Ia pertama kali membuat akun YouTube pada Desember 2022. Saat itu, Olga belum secara rutin mengunggah konten ke akunnya. Walau begitu, Olga mulai mendapatkan pesan dari orang-orang yang mengaku melihat dia berbicara bahasa Mandarin di aplikasi media sosial China, Xiaohongshu.

Karena penasaran, ia pun berinisiatif mencari video-video yang dimaksud. Benar saja, ia menemukan video-video tersebut. Hal yang lebih mengejutkannya lagi, ia menemukan setidaknya 35 akun yang telah menggunakan wajah dan suaranya.

Tunangan Olga pun memviralkan insiden yang melibatkan Olga ke X dan segera mendapat respon dari HeyGen, perusahaan pengembang alat yang Olga klaim pelakunya gunakan untuk membuat video-video tersebut.

Perusahaan tersebut mengonfirmasi bahwa memang benar video-video tersebut dibuat dengan teknologi mereka. Perusahaan itu menyebutkan bahwa sebanyak lebih dari 4.900 video telah dibuat memakai wajah Olga. Meski begitu, juru bicara HeyGen mengatakan bahwa sistem mereka saat itu diretas sehingga dapat menghasilkan “konten tidak sah”.

Sebagai respon, mereka akhirnya memblokir gambar Olga agar tidak digunakan lagi. Selain itu, perusahaan itu juga berjanji akan memperbaiki protokol keamanan dan verifikasi untuk mencegah penyalahgunaan lebih lanjut.

Terlepas dari insiden Olga yang menyeramkan, insiden sejenis ini sebenarnya sudah sangat umum terjadi di China.

Sekilas tentang Deepfake

Kisah seperti dalam kasus Olga umumnya disebut sebagai ‘deepfake’, di mana AI diprogram untuk melakukan pembelajaran mendalam untuk membuat gambar peristiwa palsu. Inilah kenapa fitur tersebut diberi nama deepfake.

Deepfake dapat digunakan untuk banyak tujuan, mulai dari sebatas candaan hingga hal-hal tak senonoh seperti pornografi.

Sebuah perusahaan AI, Deeptrace, menemukan bahwa 96 persen dari 15.000 video deepfake yang tersebar secara daring pada September 2019 merupakan video pornografi dan 99 persen di antaranya melibatkan wajah-wajah artis terkenal.

Tak hanya video, fitur deepfake juga dapat digunakan untuk menghasilkan foto yang sepenuhnya fiktif, bahkan mengkloning suara dari figur-figur publik. Bulan Maret lalu, kepala anak perusahaan energi Jerman di Inggris membayarkan uang sebesar hampir 200.000 pounds (setara Rp 4 miliar) ke rekening bank Hungaria setelah ditelepon oleh penipu yang menirukan suara CEO perusahaan Jerman itu. Perusahaan itu yakin bahwa suara tersebut adalah hasil deepfake, namun buktinya tidak terlalu jelas.

Deepfake di China

Angela Zhang dari Universitas Hong Kong mengatakan, yang terjadi pada Olga merupakan hal yang umum di China. Menurut Zhang, China merupakan “rumah bagi perekonomian bawah tanah yang mengkhususkan diri dalam pemalsuan, penyalahgunaan data pribadi, dan pembuatan deepfake.”

Salah satu penyalahgunaan deepfake paling populer di China adalah untuk kebutuhan penipuan. Pada Mei 2023, seorang pria mengirimkan uang ke “temannya” sebanyak 4,3 juta yuan (Rp 9,5 miliar). Korban mengaku bahwa dirinya sangat memercayai temannya itu, terlebih orang yang mengaku sebagai temannya tersebut melakukan panggilan video dengan dirinya dan benar-benar terlihat mirip seperti temannya.

Halaman:
Video rekomendasi
Video lainnya


Terkini Lainnya

Pejabat Hamas: Tak Ada yang Tahu Berapa Banyak Sandera Israel yang Masih Hidup

Pejabat Hamas: Tak Ada yang Tahu Berapa Banyak Sandera Israel yang Masih Hidup

Internasional
Rusia Kirim Kapal Perang Ke Kuba, untuk Apa?

Rusia Kirim Kapal Perang Ke Kuba, untuk Apa?

Internasional
Bagaimana Cara Barat Pakai Aset Rusia yang Dibekukan untuk Dukung Ukraina?

Bagaimana Cara Barat Pakai Aset Rusia yang Dibekukan untuk Dukung Ukraina?

Internasional
Invasi Rusia ke Ukraina Menimbulkan Emisi Karbon yang Besar

Invasi Rusia ke Ukraina Menimbulkan Emisi Karbon yang Besar

Internasional
Inilah Poin-poin Perdebatan dalam Negosiasi Gencatan Senjata Israel-Hamas

Inilah Poin-poin Perdebatan dalam Negosiasi Gencatan Senjata Israel-Hamas

Internasional
Upaya Pemulihan Keamanan di Ekuador Picu Kekhawatiran Terkait HAM

Upaya Pemulihan Keamanan di Ekuador Picu Kekhawatiran Terkait HAM

Internasional
Gelombang Partai Ultra Kanan Menjungkirbalikkan Politik Nasional Eropa

Gelombang Partai Ultra Kanan Menjungkirbalikkan Politik Nasional Eropa

Internasional
Hunter Biden Dinyatakan Bersalah, Apa Dampaknya bagi Joe Biden?

Hunter Biden Dinyatakan Bersalah, Apa Dampaknya bagi Joe Biden?

Internasional
Berbagai Cara Rusia Pakai Jalur Rahasia untuk Dapatkan Barang Impor

Berbagai Cara Rusia Pakai Jalur Rahasia untuk Dapatkan Barang Impor

Internasional
Bocoran Percakapan yang Diklaim dari Pemimpin Hamas Sebut Kematian Warga Sipil adalah 'Pengorbanan yang Perlu'

Bocoran Percakapan yang Diklaim dari Pemimpin Hamas Sebut Kematian Warga Sipil adalah "Pengorbanan yang Perlu"

Internasional
Sosok 6 Calon Presiden Iran untuk Menggantikan Raisi

Sosok 6 Calon Presiden Iran untuk Menggantikan Raisi

Internasional
UU Siber Nigeria Dijadikan Alat untuk Bungkam Suara Kritis

UU Siber Nigeria Dijadikan Alat untuk Bungkam Suara Kritis

Internasional
Bagaimana Operasi Penyelamatan 4 Sandera Israel di Gaza Berlangsung?

Bagaimana Operasi Penyelamatan 4 Sandera Israel di Gaza Berlangsung?

Internasional
Narendra Modi Kembali Menangi Pemilu, Apa Artinya bagi Dunia?

Narendra Modi Kembali Menangi Pemilu, Apa Artinya bagi Dunia?

Internasional
Terputus dari Barat, Putin Melihat Peluang ke Timur

Terputus dari Barat, Putin Melihat Peluang ke Timur

Internasional
Baca berita tanpa iklan. Gabung Kompas.com+
Baca berita tanpa iklan. Gabung Kompas.com+
Baca berita tanpa iklan. Gabung Kompas.com+
komentar di artikel lainnya
Baca berita tanpa iklan. Gabung Kompas.com+
Close Ads
Bagikan artikel ini melalui
Oke
Login untuk memaksimalkan pengalaman mengakses Kompas.com