Perkembangan teknologi kecerdasan buatan (Artificial Intelligence atau AI) telah membawa banyak manfaat dalam berbagai aspek kehidupan. Namun, kemajuan tersebut juga diikuti dengan munculnya penyalahgunaan teknologi, salah satunya melalui deepfake. Deepfake merupakan teknologi berbasis deep learning yang mampu menghasilkan atau memanipulasi gambar, video, dan suara seseorang secara realistis sehingga menyerupai kondisi yang sebenarnya. Teknologi ini memungkinkan seseorang memanipulasi wajah, suara, hingga gerak tubuh seseorang dalam bentuk video atau audio sehingga tampak sangat meyakinkan dan sulit dibedakan dari yang asli.

Belakangan ini, penipuan berbasis deepfake semakin marak terjadi. Pelaku memanfaatkan foto, video, atau rekaman suara yang beredar di internet untuk membuat konten palsu yang seolah-olah berasal dari tokoh tertentu. Salah satu modus yang sering ditemukan adalah penggunaan video hasil deepfake yang menampilkan seorang presiden, menteri, atau pejabat publik seakan-akan sedang mengajak masyarakat mengikuti program investasi, membagikan bantuan, atau menawarkan keuntungan finansial. Padahal, video tersebut merupakan hasil manipulasi AI yang dibuat untuk memperoleh data pribadi atau mengelabui korban agar mentransfer sejumlah uang.

Fenomena ini bukan lagi sekadar ancaman teoritis. Di berbagai negara, termasuk Indonesia, telah ditemukan kasus penipuan yang menggunakan video tokoh publik hasil deepfake untuk menawarkan investasi bodong maupun bantuan sosial palsu. Bahkan, terdapat kasus di luar negeri di mana pelaku berhasil meniru suara pimpinan perusahaan menggunakan teknologi AI dan menggunakannya untuk memerintahkan transfer dana dalam jumlah besar. Kondisi ini menunjukkan bahwa perkembangan teknologi AI telah membuka peluang munculnya bentuk kejahatan baru yang semakin sulit dideteksi oleh masyarakat awam.

Selain menyasar tokoh politik, pelaku juga dapat meniru wajah maupun suara anggota keluarga, atasan, atau figur publik lainnya untuk membangun kepercayaan korban. Karena kualitas deepfake semakin realistis, masyarakat perlu lebih berhati-hati dan tidak mudah mempercayai video maupun panggilan yang berisi permintaan uang, kode OTP, kata sandi, atau informasi pribadi tanpa melakukan verifikasi terlebih dahulu melalui saluran komunikasi yang resmi dan terpercaya.

Dari sisi hukum, penggunaan deepfake untuk melakukan penipuan tidak dapat dibenarkan. Apabila pelaku menggunakan video atau audio hasil manipulasi AI untuk mengelabui korban demi memperoleh keuntungan, perbuatannya dapat dijerat dengan Pasal 378 Kitab Undang-Undang Hukum Pidana (KUHP) tentang tindak pidana penipuan. Selain itu, apabila penyalahgunaan tersebut dilakukan melalui media elektronik, ketentuan dalam Undang-Undang Nomor 1 Tahun 2024 tentang Perubahan Kedua atas Undang-Undang Nomor 11 Tahun 2008 tentang Informasi dan Transaksi Elektronik (UU ITE) juga dapat diterapkan sesuai dengan bentuk perbuatannya, seperti penyebaran informasi elektronik yang menyesatkan atau penggunaan sistem elektronik untuk melakukan tindak pidana. Dalam kondisi tertentu, apabila konten deepfake digunakan untuk mencemarkan nama baik, melakukan pemerasan, atau merugikan kehormatan seseorang, pelaku juga dapat dikenai ketentuan pidana lain yang relevan berdasarkan peraturan perundang-undangan yang berlaku.

Selain aspek pidana, penggunaan wajah, suara, maupun identitas seseorang tanpa izin melalui teknologi deepfake juga berpotensi melanggar hak privasi dan perlindungan data pribadi. Oleh karena itu, perkembangan teknologi AI menuntut adanya keseimbangan antara inovasi teknologi dengan perlindungan hak-hak individu agar pemanfaatannya tidak menimbulkan kerugian bagi masyarakat.

Oleh karena itu, masyarakat perlu meningkatkan literasi digital dan selalu memverifikasi kebenaran informasi yang diterima, terutama jika melibatkan tokoh publik atau permintaan yang berkaitan dengan uang. Beberapa langkah yang dapat dilakukan antara lain memeriksa sumber informasi, memperhatikan kejanggalan pada gerakan wajah atau suara dalam video, melakukan konfirmasi melalui akun atau saluran resmi, serta tidak mudah memberikan data pribadi maupun mentransfer uang hanya berdasarkan informasi yang diterima melalui media digital. Di sisi lain, perkembangan teknologi AI harus diimbangi dengan kesadaran hukum dan pemanfaatan teknologi secara bertanggung jawab agar inovasi tidak berubah menjadi sarana melakukan kejahatan. Dengan demikian, kemajuan teknologi dapat dimanfaatkan secara optimal tanpa mengorbankan keamanan, kepercayaan, dan perlindungan masyarakat di ruang digital.