Apa Itu Deepfake Porn dan Jerat Pidana bagi Pelakunya

PERTANYAAN

Seiring dengan teknologi yang berkembang pesat, teknologi deepfake sering digunakan untuk membuat pornografi ilegal. Lalu, jika AI jadi alat kejahatan seksual, bagaimana hukumnya di Indonesia? Apa jerat pidana bagi pelaku yang membuat deepfake porn?

INTISARI JAWABAN

Deepfake adalah teknologi rekayasa yang memungkinkan penggunanya untuk mengubah wajah dari satu aktor menjadi wajah dari aktor lain dalam bentuk video maupun foto. Teknologi deepfake sering kali disalahgunakan sehingga dapat menimbulkan kejahatan seperti menyebarkan konten pornografi yang dikenal dengan istilah deepfake porn.

Namun, saat ini di Indonesia belum terdapat aturan yang secara spesifik dan komprehensif mengatur mengenai penyalahgunaan AI berupa deepfake porn.

Lantas, adakah jerat hukum yang dapat dikenakan terhadap pelaku pembuat deepfake porn?

Penjelasan lebih lanjut dapat Anda baca ulasan di bawah ini.

ULASAN LENGKAP

Terima kasih atas pertanyaan Anda.

Artikel ini adalah pemutakhiran dengan judul sama yang dipublikasikan pertama kali pada 19 Oktober 2023.

Seluruh informasi hukum yang ada di Klinik hukumonline.com disiapkan semata – mata untuk tujuan pendidikan dan bersifat umum (lihat Pernyataan Penyangkalan selengkapnya). Untuk mendapatkan nasihat hukum spesifik terhadap kasus Anda, konsultasikan langsung dengan Konsultan Mitra Justika.

Pengertian Deepfake Porn

Sebelum menjawab pertanyaan Anda, sebaiknya kita pahami terlebih dahulu apa yang dimaksud dengan deepfake. Deepfake adalah teknologi rekayasa atau teknik sintetis citra manusia yang didasari pada kecerdasan buatan atau artificial intelligence (“AI”).[1] Kemudian, Marissa Koopman (et.al) menjelaskan deepfake sebagai berikut:[2]

The deepfake algorithm allows a user to switch the face of one actor in a video with the face of a different actor in a photorealistic manner.

Artinya, deepfake adalah istilah yang diberikan pada algoritma, dimana algoritma tersebut memungkinkan penggunanya untuk mengubah wajah dari satu aktor menjadi wajah dari aktor lain dalam video yang berbentuk photorealistic[3] yakni meniru objek visual yang nyata.[4] Selain dalam bentuk video, teknologi deepfake juga dapat digunakan untuk merekayasa gambar.[5]

Kemudian, teknologi deepfake sering kali disalahgunakan sehingga dapat menimbulkan kejahatan seperti penggunaan teknologi deepfake dalam menyebarkan konten pornografi. Hal ini dikenal dengan deepfake porn.[6]

Deepfake Porn sebagai Kekerasan Gender Berbasis Online

Pada dasarnya, deepfake porn termasuk dalam Kekerasan Gender Berbasis Online (“KGBO”). Menurut Ellen Kusuma dan Nenden Sekar Arum, berikut adalah dampak yang mungkin dialami para korban dan penyintas KBGO, dalam hal ini deepfake porn, antara lain:[7]

1. kerugian psikologis;
2. keterasingan sosial;
3. kerugian ekonomi;
4. mobiltas terbatas; dan
5. sensor diri, yaitu hilangnya kepercayaan terhadap keamanan menggunakan teknologi digital.

Lebih lanjut, pelaku deepfake porn dalam melakukan aksinya akan mencuri otoritas tubuh korban dengan merekayasa korban melakukan sesuatu yang pelaku inginkan tanpa izin dan bahkan sepengetahuan korban. Pelaku bertindak seolah ia memiliki kuasa sepenuhnya akan korban yang berada dalam dunia maya. Hal ini termasuk dalam perbuatan kriminal, dimana pelakunya melakukan beberapa kejahatan sekaligus ketika membuat deepfake porn,[8] sebagai contoh mencuri data pribadi, menyebarkan informasi dengan muatan yang melanggar kesusilaan, dan juga manipulasi/pemalsuan data.

Berdasarkan jenis-jenis kejahatan tersebut, maka kami akan merujuk pada ketentuan dalam UU ITE dan perubahannya, UU PDP, UU Pornografi, atau UU 1/2023 tentang KUHP baru. Berikut masing-masing ulasannya.

Deepfake Porn Menurut UU 1/2024

Berdasarkan penelusuran kami, saat ini Indonesia belum memiliki pengaturan khusus mengenai teknologi kecerdasan buatan atau AI. Namun menurut hemat kami, teknologi kecerdasan buatan memiliki kemiripan karakteristik dengan “agen elektronik” yang diatur dalam UU ITE dan perubahannya. Pasal 1 angka 8 UU 19/2016 menyatakan bahwa agen elektronik adalah perangkat dari suatu sistem elektronik yang dibuat untuk melakukan suatu tindakan terhadap suatu informasi elektronik tertentu secara otomatis yang diselenggarakan oleh orang.

Kata “otomatis” pada pasal tersebut berarti bekerja sendiri. Selain itu, teknologi kecerdasan buatan dapat didefinisikan sebagai sistem pengolahan berbasis komputer yang bisa berpikir sendiri dan membuat keputusan sendiri. Maka, karakteristik teknologi kecerdasan buatan dapat disamakan dengan karakteristik dari agen elektronik itu sendiri.[9]

Dengan demikian, deepfake porn sebagai penyalahgunaan terhadap AI adalah salah satu perbuatan yang dilarang berdasarkan Pasal 27 ayat (1) UU 1/2024 tentang perubahan kedua UU ITE yang berbunyi:

Setiap Orang dengan sengaja dan tanpa hak menyiarkan, mempertunjukkan, mendistribusikan, mentransmisikan, dan/atau membuat dapat diaksesnya Informasi Elektronik dan/atau Dokumen Elektronik yang memiliki muatan yang melanggar kesusilaan untuk diketahui umum.

Dari bunyi Pasal 27 ayat (1) UU 1/2024, terdapat beberapa penjelasan atas unsur pasal sebagai berikut:[10]

1. "Menyiarkan" termasuk perbuatan mentransmisikan, mendistribusikan, dan
   membuat dapat diaksesnya informasi dan/atau dokumen elektronik dalam sistem elektronik.
2. "Mendistribusikan" adalah mengirimkan dan/atau menyebarkan informasi
   dan/atau dokumen elektronik kepada banyak orang atau berbagai pihak melalui sistem elektronik.
3. "Mentransmisikan" adalah mengirimkan informasi dan/atau dokumen
   elektronik yang ditujukan kepada pihak lain melalui sistem elektronik.
4. "Membuat dapat diakses" adalah semua perbuatan lain selain mendistribusikan
   dan mentransmisikan melalui sistem elektronik yang menyebabkan informasi dan/atau dokumen elektronik dapat diketahui pihak lain atau publik.
5. "Melanggar kesusilaan" adalah melakukan perbuatan mempertunjukkan
   ketelanjangan, alat kelamin, dan aktivitas seksual yang bertentangan dengan nilai-nilai yang hidup dalam masyarakat di tempat dan waktu perbuatan tersebut dilakukan penafsiran pengertian kesusilaan disesuaikan dengan standar yang berlaku pada masyarakat dalam waktu dan tempat tertentu (contemporary community standard).
6. "Diketahui umum" adalah untuk dapat atau sehingga dapat diakses oleh kumpulan orang banyak yang sebagian besar tidak saling mengenal.

Kemudian, orang yang melanggar ketentuan Pasal 27 ayat (1) UU 1/2024 diancam dengan pidana penjara paling lama 6 tahun dan/atau denda paling banyak Rp1 miliar, sebagaimana diatur dalam Pasal 45 ayat (1) UU 1/2024.

Namun, perbuatan dalam Pasal 27 ayat (1) UU 1/2024 tidak dipidana dalam hal:[11]

1. dilakukan demi kepentingan umum;
2. dilakukan untuk pembelaan atas dirinya sendiri; atau
3. informasi elektronik dan/atau dokumen elektronik tersebut merupakan karya seni, budaya, olahraga, kesehatan, dan/atau ilmu pengetahuan.

Baca juga: Ini Bunyi Pasal 27 ayat (3) UU ITE yang Dianggap Pasal Karet

Deepfake Menurut UU PDP

Sebagaimana telah kami uraikan, teknologi deepfake digunakan untuk merekayasa gambar atau video menggunakan wajah orang lain dalam pembuatannya. Sebagai informasi, gambar wajah termasuk dalam data biometrik yang bersifat spesifik.[12]

Berdasarkan UU PDP, ketentuan deepfake terdapat dalam Pasal 66 UU PDP, yaitu setiap orang dilarang membuat data pribadi palsu atau memalsukan data pribadi dengan maksud untuk menguntungkan diri sendiri atau orang lain yang dapat mengakibatkan kerugian bagi orang lain. Lalu, orang yang melanggar ketentuan tersebut dapat dipidana dengan pidana penjara paling lama 6 tahun dan/atau pidana denda paling banyak Rp6 miliar.[13]

Deepfake Porn Menurut UU Pornografi

Apabila mengacu pada UU Pornografi, penyalahgunaan deepfake porn termasuk dalam unsur-unsur yang diatur di Pasal 1 angka 1 UU Pornografi sebagai berikut:

Pornografi adalah gambar, sketsa, ilustrasi, foto, tulisan, suara, bunyi, gambar bergerak, animasi, kartun, percakapan, gerak tubuh, atau bentuk pesan lainnya melalui berbagai bentuk media komunikasi dan/atau pertunjukan di muka umum, yang memuat kecabulan atau eksploitasi seksual yang melanggar norma kesusilaan dalam masyarakat.

Di dalam Pasal 4 ayat (1) UU Pornografi melarang setiap orang memproduksi, membuat, memperbanyak, menggandakan, menyebarluaskan, menyiarkan, mengimpor, mengekspor, menawarkan, memperjualbelikan, menyewakan, atau menyediakan pornografi yang secara eksplisit memuat:

1. persenggamaan, termasuk persenggamaan yang menyimpang;
2. kekerasan seksual;
3. masturbasi atau onani;
4. ketelanjangan atau tampilan yang mengesankan ketelanjangan;
5. alat kelamin; atau
6. pornografi anak.

Kemudian, pelaku yang melanggar larangan dalam Pasal 4 ayat (1) UU Pornografi dapat dipidana dengan pidana penjara paling singkat 6 bulan dan paling lama 12 tahun dan/atau pidana denda paling sedikit Rp250 juta dan paling banyak Rp6 miliar, sebagaimana diatur dalam Pasal 29 UU Pornografi.

Deepfake Porn Menurut UU 1/2023

Selain diatur dalam beberapa undang-undang di atas, deepfake bermuatan pornografi juga diatur dalam Pasal 407 UU 1/2023 tentang KUHP baru yang mulai berlaku 3 tahun terhitung sejak tanggal diundangkan,[14] yakni pada tahun 2026. Berikut adalah bunyi Pasal 407 UU 1/2023:

Setiap Orang yang memproduksi, membuat, memperbanyak, menggandakan, menyebarluaskan, menyiarkan, mengimpor, mengekspor, menawarkan, memperjualbelikan, menyewakan, atau menyediakan pornografi, dipidana dengan pidana penjara paling singkat 6 bulan dan pidana penjara paling lama 10 tahun atau pidana denda paling sedikit kategori IV, yaitu Rp200 juta[15] dan pidana denda paling banyak kategori VI, yaitu Rp2 miliar.[16]

Kemudian, penting untuk diketahui bahwa pada saat KUHP baru mulai berlaku, Pasal 27 ayat (1) UU ITE jo. Pasal 45 ayat (1) UU 19/2016 (sebelum diubah oleh Pasal 27 ayat (1) jo. Pasal 45 ayat (1) UU 1/2024), dicabut dan dinyatakan tidak berlaku.[17]

Kesimpulannya, saat ini di Indonesia belum terdapat aturan yang secara spesifik dan komprehensif mengatur mengenai penyalahgunaan AI berupa deepfake porn. Akan tetapi, karena kejahatan deepfake porn dilakukan melalui kecerdasan buatan, memiliki muatan pornografi, dan pelaku menggunakan wajah orang lain dalam pembuatan deepfake porn, maka kita dapat merujuk pada UU ITE dan perubahannya, UU PDP, UU Pornografi, atau UU 1/2023 tentang KUHP baru.

Demikian jawaban dari kami, semoga bermanfaat.

Dasar Hukum:

1. Undang-Undang Nomor 44 Tahun 2008 tentang Pornografi;
2. Undang-Undang Nomor 11 Tahun 2008 tentang Informasi dan Transaksi Elektronik sebagaimana diubah dengan Undang-Undang Nomor 19 Tahun 2016 tentang Perubahan atas Undang-Undang Nomor 11 Tahun 2008 tentang Informasi dan Transaksi Elektronik yang diubah kedua kalinya dengan Undang-Undang Nomor 1 Tahun 2024 tentang Perubahan Kedua atas Undang-Undang Nomor 11 Tahun 2008 tentang Informasi dan Transaksi Elektronik;
3. Undang-Undang Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi;
4. Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana.

Referensi:

1. Ellen Kusuma dan Nenden Sekar Arum. Memahami dan Menyikapi Kekerasan Gender Berbasis Online: Sebuah Panduan. Southeast Asia Freedom of Expression Network, 2019;
2. Eva Istia Utawi dan Neni Ruhaeni. Penegakan Hukum Terhadap Tindak Pidana Pornografi Menurut Peraturan Perundang-Undangan Tentang Pornografi Melalui Media Sosial. Bandung Conference Studies: Law Studies, Vol. 3, No. 1, 2023;
3. Itsna Hidayatul Khusna dan Sri Pangestuti. Deepfake, Tantangan Baru Untuk Netizen. Jurnal Promedia, Vol. 5, No. 2, 2019;
4. Ivana Dewi Kasita. Deepfake Pornografi: Tren Kekerasan Gender Berbasis Online (KGBO) Di Era Pandemi Covid-19. Jurnal Wanita dan Keluarga, Vol. 3, No. 1, 2022;
5. Lysy C. Moleong (et.al). Implementasi Cluster Computing Untuk Render Animasi. E-Jurnal Teknik Elektro dan Komputer, Vol. 2, No. 3, 2013;
6. Marissa Koopman (et.al). Detection of Deepfake Video Manipulation. Proceedings of the 20^th Irish Machine Vision and Image Processing Conference, University of Amsterdam & Netherlands Forensic Institute, 2018;
7. Muhammad Faqih Faathurrahman dan Enni Soerjati Priowirjanto. Pengaturan Pertanggungjawaban Pelaku Penyalahgunaan Deepfakes dalam Teknologi Kecerdasan Buatan pada Konten Pornografi Berdasarkan Hukum Positif Indonesia. Jurnal JIST, Vol. 3, No. 11, 2022.

---

[1] Itsna Hidayatul Khusna dan Sri Pangestuti. Deepfake, Tantangan Baru Untuk Netizen. Jurnal Promedia, Vol. 5, No. 2, 2019, hal. 2

[2] Marissa Koopman (et.al). Detection of Deepfake Video Manipulation. Proceedings of the 20^th Irish Machine Vision and Image Processing Conference, University of Amsterdam & Netherlands Forensic Institute, 2018, hal. 133

[3] Ivana Dewi Kasita. Deepfake Pornografi: Tren Kekerasan Gender Berbasis Online (KGBO) Di Era Pandemi Covid-19. Jurnal Wanita dan Keluarga, Vol. 3, No. 1, 2022, hal. 18

[4] Lysy C. Moleong (et.al). Implementasi Cluster Computing Untuk Render Animasi. E-Jurnal Teknik Elektro dan Komputer, Vol. 2, No. 3, 2013, hal. 4

[5] Eva Istia Utawi dan Neni Ruhaeni. Penegakan Hukum Terhadap Tindak Pidana Pornografi Menurut Peraturan Perundang-Undangan Tentang Pornografi Melalui Media Sosial. Bandung Conference Studies: Law Studies, Vol. 3, No. 1, 2023, hal. 368

[6] Ivana Dewi Kasita. Deepfake Pornografi: Tren Kekerasan Gender Berbasis Online (KGBO) Di Era Pandemi Covid-19. Jurnal Wanita dan Keluarga, Vol. 3, No. 1, 2022, hal. 17

[7] Ellen Kusuma dan Nenden Sekar Arum. Memahami dan Menyikapi Kekerasan Gender Berbasis Online: Sebuah Panduan. Southeast Asia Freedom of Expression Network, 2019, hal. 10

[8] Ivana Dewi Kasita. Deepfake Pornografi: Tren Kekerasan Gender Berbasis Online (KGBO) Di Era Pandemi Covid-19. Jurnal Wanita dan Keluarga, Vol. 3, No. 1, 2022, hal. 22

[9] Muhammad Faqih Faathurrahman dan Enni Soerjati Priowirjanto. Pengaturan Pertanggungjawaban Pelaku Penyalahgunaan Deepfakes dalam Teknologi Kecerdasan Buatan pada Konten Pornografi Berdasarkan Hukum Positif Indonesia. Jurnal JIST, Vol. 3, No. 11, 2022, hal. 1161

[10] Penjelasan Pasal 27 ayat (1) Undang-Undang Nomor 1 Tahun 2024 tentang Perubahan Kedua atas Undang-Undang Nomor 11 Tahun 2008 tentang Informasi dan Transaksi Elektronik (“UU 1/2024”)

[11] Pasal 45 ayat (2) UU 1/2024

[12] Pasal 4 ayat (2) huruf b Undang-Undang Nomor 27 Tahun 2022 tentang Perlindungan Data Pribadi (“UU PDP”) dan penjelasannya

[13] Pasal 68 UU PDP

[14] Pasal 624 Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (“UU 1/2023”)

[15] Pasal 79 ayat (1) huruf d UU 1/2023

[16] Pasal 79 ayat (1) huruf f UU 1/2023

[17] Pasal 622 ayat (1) huruf r UU 1/2023