Perkembangan teknologi Artificial Intelligence (AI) dalam beberapa tahun terakhir mulai mengubah banyak aktivitas masyarakat digital. Dari komunikasi, pendidikan, hingga transaksi ekonomi, semuanya kini makin bergantung pada sistem berbasis kecerdasan buatan.
Di balik kemudahan itu, muncul ancaman baru berupa deepfake dan voice cloning. Teknologi ini mampu meniru wajah dan suara seseorang dengan tingkat kemiripan tinggi hanya lewat pengolahan data digital.
Awalnya, teknologi tersebut digunakan untuk industri hiburan dan produksi media. Dalam dunia perfilman, AI membantu memperbaiki visual, membuat efek digital, hingga pengisian suara karakter.
Namun, perkembangan AI generatif belakangan justru membuka celah penyalahgunaan baru. Manipulasi video dan suara kini dipakai dalam penipuan digital, penyebaran informasi palsu, hingga pencatutan identitas seseorang.
Saya sempat mencoba beberapa aplikasi AI pengubah suara beberapa bulan lalu. Hasilnya cukup mengejutkan. Dalam hitungan menit, suara asli bisa ditiru hampir tanpa celah bagi orang awam.
Deepfake dan Voice Cloning Jadi Ancaman Baru
Deepfake bekerja dengan memanipulasi video agar seseorang terlihat mengatakan atau melakukan sesuatu yang sebenarnya tidak pernah terjadi.
Sementara voice cloning memungkinkan suara seseorang direplikasi dengan detail sangat mirip. Tanpa kemampuan forensik digital, masyarakat umum akan sulit membedakan mana rekaman asli dan mana hasil manipulasi.
Ancaman itu makin terasa di Indonesia. Berdasarkan Survei Penetrasi Internet Indonesia 2024 dari APJII, pengguna internet nasional sudah menembus 221 juta jiwa atau sekitar 79,5 persen populasi.
Tingginya aktivitas digital membuat penyebaran konten manipulatif berbasis AI berlangsung jauh lebih cepat melalui media sosial dan platform daring.
Salah satu kasus yang sempat menyita perhatian publik terjadi di Jawa Timur. Nama Gubernur Jawa Timur Khofifah Indar Parawansa dicatut dalam video manipulatif untuk menawarkan program penjualan motor murah.
Korban diminta mentransfer sejumlah uang dengan dalih biaya administrasi. Belakangan, video tersebut diduga hasil rekayasa digital.
Regulasi Indonesia Dinilai Belum Spesifik
Kasus serupa juga muncul di tingkat internasional. Pada 2024, perusahaan engineering asal Inggris, Arup Group, menjadi korban penipuan berbasis deepfake senilai sekitar US$25 juta.
Pelaku menggunakan rapat virtual palsu berisi video dan suara manipulatif menyerupai para eksekutif perusahaan. Pegawai bagian keuangan akhirnya mentransfer dana tanpa menyadari seluruh rapat itu hasil rekayasa AI.
Di Indonesia, belum ada aturan khusus yang secara eksplisit mengatur kriminalisasi deepfake dan voice cloning.
Meski begitu, Undang-Undang Nomor 1 Tahun 2023 tentang KUHP, Undang-Undang ITE, dan Undang-Undang Pelindungan Data Pribadi masih bisa digunakan untuk menjerat pelaku.
Persoalan terbesar saat ini ada pada pembuktian digital. Rekaman hasil manipulasi AI makin sulit dibedakan tanpa pemeriksaan forensik siber yang memadai.
Karena itu, penguatan regulasi, autentikasi digital, dan kemampuan forensik dinilai mendesak agar perkembangan AI tetap memberi manfaat tanpa mengancam keamanan masyarakat.
Penulis: Lakalim Adalin
Editor: Arianto
Tidak ada komentar:
Posting Komentar