Praktik "Deepfake" di China Marak, Youtuber Asal Ukraina Jadi Korban

TEKNOLOGI mempermudah kehidupan sehari-hari manusia. Saat ini, pekerjaan manusia kian dipermudah dengan hadirnya teknologi kecerdasan buatan atau AI. Bahkan, AI dapat menciptakan teks hingga karya visual sesuai dengan kemauan pengguna hanya dalam hitungan detik.

Sayangnya, kecanggihan teknologi AI seringkali disalahgunakan pihak-pihak tidak bertanggung jawab. Baru-baru ini ramai kasus seorang Youtuber asal Ukraina menemukan banyak sekali video singkat dengan wajah serta suara dirinya berbicara bahasa Mandarin tersebar di internet.

Permasalahannya, orang yang dalam video singkat itu bukanlah dirinya dan Youtuber itu juga mengaku tak pernah belajar bahasa Mandarin. Dalam video-video singkat itu, figur yang sangat serupa dengan dirinya mengucapkan hal-hal yang Youtuber itu sendiri akui tak akan pernah katakan, seperti dukungan terhadap Rusia, mempromosikan produk-produk Rusia, hingga memuji-muji hubungan China dengan Rusia.

Youtuber Ukraina itu bernama Olga Loiek. Ia pertama kali membuat akun YouTube pada Desember 2022. Saat itu, Olga belum secara rutin mengunggah konten ke akunnya. Walau begitu, Olga mulai mendapatkan pesan dari orang-orang yang mengaku melihat dia berbicara bahasa Mandarin di aplikasi media sosial China, Xiaohongshu.

Karena penasaran, ia pun berinisiatif mencari video-video yang dimaksud. Benar saja, ia menemukan video-video tersebut. Hal yang lebih mengejutkannya lagi, ia menemukan setidaknya 35 akun yang telah menggunakan wajah dan suaranya.

Tunangan Olga pun memviralkan insiden yang melibatkan Olga ke X dan segera mendapat respon dari HeyGen, perusahaan pengembang alat yang Olga klaim pelakunya gunakan untuk membuat video-video tersebut.

Perusahaan tersebut mengonfirmasi bahwa memang benar video-video tersebut dibuat dengan teknologi mereka. Perusahaan itu menyebutkan bahwa sebanyak lebih dari 4.900 video telah dibuat memakai wajah Olga. Meski begitu, juru bicara HeyGen mengatakan bahwa sistem mereka saat itu diretas sehingga dapat menghasilkan “konten tidak sah”.

Sebagai respon, mereka akhirnya memblokir gambar Olga agar tidak digunakan lagi. Selain itu, perusahaan itu juga berjanji akan memperbaiki protokol keamanan dan verifikasi untuk mencegah penyalahgunaan lebih lanjut.

Terlepas dari insiden Olga yang menyeramkan, insiden sejenis ini sebenarnya sudah sangat umum terjadi di China.

Sekilas tentang Deepfake

Kisah seperti dalam kasus Olga umumnya disebut sebagai ‘deepfake’, di mana AI diprogram untuk melakukan pembelajaran mendalam untuk membuat gambar peristiwa palsu. Inilah kenapa fitur tersebut diberi nama deepfake.

Deepfake dapat digunakan untuk banyak tujuan, mulai dari sebatas candaan hingga hal-hal tak senonoh seperti pornografi.

Sebuah perusahaan AI, Deeptrace, menemukan bahwa 96 persen dari 15.000 video deepfake yang tersebar secara daring pada September 2019 merupakan video pornografi dan 99 persen di antaranya melibatkan wajah-wajah artis terkenal.

Tak hanya video, fitur deepfake juga dapat digunakan untuk menghasilkan foto yang sepenuhnya fiktif, bahkan mengkloning suara dari figur-figur publik. Bulan Maret lalu, kepala anak perusahaan energi Jerman di Inggris membayarkan uang sebesar hampir 200.000 pounds (setara Rp 4 miliar) ke rekening bank Hungaria setelah ditelepon oleh penipu yang menirukan suara CEO perusahaan Jerman itu. Perusahaan itu yakin bahwa suara tersebut adalah hasil deepfake, namun buktinya tidak terlalu jelas.

Deepfake di China

Angela Zhang dari Universitas Hong Kong mengatakan, yang terjadi pada Olga merupakan hal yang umum di China. Menurut Zhang, China merupakan “rumah bagi perekonomian bawah tanah yang mengkhususkan diri dalam pemalsuan, penyalahgunaan data pribadi, dan pembuatan deepfake.”

Salah satu penyalahgunaan deepfake paling populer di China adalah untuk kebutuhan penipuan. Pada Mei 2023, seorang pria mengirimkan uang ke “temannya” sebanyak 4,3 juta yuan (Rp 9,5 miliar). Korban mengaku bahwa dirinya sangat memercayai temannya itu, terlebih orang yang mengaku sebagai temannya tersebut melakukan panggilan video dengan dirinya dan benar-benar terlihat mirip seperti temannya.