Keamanan dan Moderasi Deepfake AI: Batas Aman Konten Sintetis

Keamanan dan moderasi deepfake AI dimulai dari satu prinsip: wajah, suara, dan identitas orang nyata tidak boleh dibuat ulang atau dipalsukan tanpa persetujuan yang bisa dibuktikan. Di atas prinsip itu ada tiga lapisan perlindungan, yaitu aturan hukum yang berlaku di Indonesia, kebijakan label AI di platform tempat konten diunggah, dan proses review di alat yang kamu pakai untuk membuat visual.

Panduan ini ditulis untuk seller, affiliate, kreator, dan agensi yang memakai AI untuk konten pemasaran. Isinya merangkum pasal-pasal yang relevan dari UU PDP, UU ITE, dan UU Perlindungan Konsumen, standar global dari UNESCO dan NIST, aturan label di TikTok dan YouTube, serta checklist persetujuan yang bisa langsung kamu pakai. Artikel ini bukan nasihat hukum. Untuk kasus spesifik, konsultasikan dengan advokat.

Apa itu deepfake dan kapan menjadi masalah

Deepfake adalah gambar, video, atau audio buatan AI yang membuat seseorang tampak mengatakan atau melakukan sesuatu yang tidak pernah terjadi. Teknologinya sama dengan yang dipakai untuk konten sintetis biasa. Yang membedakan adalah tujuannya dan siapa yang ditiru.

Supaya keputusan sehari-hari lebih mudah, kami memakai tiga kategori:

Banyak orang mengira tokoh publik adalah pengecualian karena fotonya sudah tersebar di mana-mana. Menurut kami itu salah kaprah yang paling berbahaya. Foto yang tersedia publik tidak sama dengan izin untuk membuat orang itu tampak mengiklankan produk kamu.

Risiko nyata dari konten sintetis

Risiko deepfake bukan sekadar soal etika abstrak. Laporan NIST AI 100-4 tentang risiko konten sintetis membahas pencegahan AI generatif agar tidak menghasilkan materi eksploitasi seksual anak maupun citra intim nonkonsensual dari individu nyata. Laporan yang sama juga membahas autentikasi konten, pelacakan asal-usul, pelabelan seperti watermark, dan deteksi konten sintetis.

Untuk konteks pemasaran, risiko yang paling sering kami lihat dalam brief adalah:

• Endorsement palsu: wajah atau suara orang terkenal dipakai seolah merekomendasikan produk.
• Testimoni sintetis: "pelanggan" buatan AI yang bercerita tentang hasil produk yang tidak pernah dialami siapa pun.
• Penyamaran asal visual: foto AI dipresentasikan sebagai foto asli toko, pabrik, atau acara.
• Manipulasi foto orang biasa: foto pelanggan atau karyawan diedit menjadi konten yang tidak mereka setujui.

Endorsement palsu dan testimoni sintetis sering datang dari niat yang tidak jahat, misalnya "hanya untuk contoh" atau "biar terlihat ramai". Masalahnya, penonton tidak bisa membedakan contoh dan kenyataan. Begitu diunggah, dampaknya sama dengan kebohongan.

Kerangka hukum Indonesia yang relevan

Indonesia belum punya undang-undang khusus deepfake. Tapi beberapa undang-undang yang sudah berlaku menyentuh langsung hal-hal yang biasa terjadi dalam pembuatan deepfake.

UU Pelindungan Data Pribadi

UU Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi memasukkan data biometrik sebagai data pribadi yang bersifat spesifik (Pasal 4 ayat (2)). Penjelasan pasal tersebut menyebut gambar wajah sebagai contoh data biometrik. Artinya, wajah seseorang yang dipakai untuk melatih atau menghasilkan deepfake bukan sekadar "gambar", tapi data pribadi dengan perlindungan lebih tinggi.

Pasal 20 mewajibkan pengendali data pribadi memiliki dasar pemrosesan, salah satunya persetujuan yang sah secara eksplisit untuk tujuan tertentu. Pasal 65 ayat (3) melarang penggunaan data pribadi yang bukan milik sendiri secara melawan hukum. Pasal 66 melarang membuat data pribadi palsu atau memalsukan data pribadi untuk menguntungkan diri sendiri atau orang lain yang dapat mengakibatkan kerugian bagi orang lain. Naskah Pasal 68 mengancam pelanggaran Pasal 66 dengan pidana penjara paling lama 6 tahun dan/atau denda paling banyak Rp6 miliar.

UU Informasi dan Transaksi Elektronik

Pasal 35 UU Nomor 11 Tahun 2008 tentang ITE melarang manipulasi, penciptaan, atau perubahan informasi elektronik dengan tujuan agar informasi itu dianggap seolah-olah data yang otentik. Deskripsi ini sangat dekat dengan deepfake yang dipakai untuk menipu. Ancaman pidananya diatur di Pasal 51 ayat (1) undang-undang yang sama.

Untuk konteks jualan, UU Nomor 1 Tahun 2024 Pasal 28 ayat (1) melarang penyebaran informasi menyesatkan yang mengakibatkan kerugian materiel bagi konsumen dalam transaksi elektronik. Testimoni palsu buatan AI yang membuat orang membeli produk masuk wilayah risiko ini.

UU Perlindungan Konsumen

UU Nomor 8 Tahun 1999 Pasal 9 ayat (1) huruf c melarang promosi yang membuat barang atau jasa seolah-olah telah mendapatkan sponsor atau persetujuan tertentu. Wajah tokoh yang dipalsukan untuk "mendukung" produk adalah contoh paling jelas.

Pedoman etika dari Kominfo

Kementerian Komunikasi dan Informatika (kini Komdigi) menerbitkan Surat Edaran Menteri Nomor 9 Tahun 2023 tentang Etika Kecerdasan Artifisial. Menurut ANTARA, surat edaran ini dirilis 19 Desember 2023 dan ditujukan kepada pelaku usaha serta penyelenggara sistem elektronik lingkup publik dan privat sebagai pedoman etika. Nilai yang disebut antara lain inklusivitas, kemanusiaan, keamanan, kredibilitas, dan akuntabilitas.

Standar global keamanan dan moderasi deepfake AI

Di luar hukum nasional, ada tiga rujukan yang berguna untuk menyusun kebijakan deepfake internal: UNESCO untuk prinsip etika, NIST untuk pengelolaan risiko teknis, dan C2PA untuk pencatatan asal-usul konten.

UNESCO. Menurut UNESCO, 193 negara anggotanya mengadopsi Recommendation on the Ethics of Artificial Intelligence pada November 2021. Prinsip yang relevan untuk deepfake antara lain proporsionalitas dan tidak merugikan, transparansi, pengawasan manusia, serta hak atas privasi dan perlindungan data.

NIST. NIST AI Risk Management Framework memberi kerangka mengelola risiko AI. Laporan NIST AI 100-4 punya satu temuan yang sangat praktis: metadata sering terhapus saat konten disebarkan, sedangkan watermark tersembunyi dirancang lebih persisten. NIST juga mencatat kedua teknik bisa dipakai bersamaan untuk saling melengkapi.

C2PA. Coalition for Content Provenance and Authenticity mengembangkan standar Content Credentials untuk mencatat asal-usul konten. TikTok memakai standar ini untuk melabeli otomatis konten AI dari platform lain.

Pelajaran dari NIST ini penting: jangan mengandalkan satu lapisan. Label di caption bisa terlewat, metadata bisa hilang saat file dikirim lewat chat. Lebih aman menggabungkan label yang terlihat, pencatatan asal di workspace, dan review manusia.

Kebijakan label AI di platform

Platform besar sudah punya aturan sendiri, dan detailnya tidak seragam. Cek aturan terbaru setiap kali kamu menyiapkan kampanye di kanal baru.

TikTok. Kebijakan TikTok mewajibkan pengguna memberi label pada konten AI yang memuat gambar, audio, atau video realistis, seperti dijelaskan dalam pengumuman label konten AI TikTok. TikTok juga mulai melabeli otomatis konten AI yang diunggah dari platform lain dengan Content Credentials.

YouTube. Panduan pengungkapan konten sintetis YouTube mewajibkan kreator mengungkapkan konten realistis yang dibuat atau diubah AI, termasuk yang membuat orang nyata tampak mengatakan atau melakukan sesuatu yang tidak pernah dilakukannya. Konten yang jelas tidak realistis dan perubahan kecil seperti filter kecantikan, koreksi warna, atau bantuan produksi seperti menyusun skrip dengan AI tidak perlu diungkapkan. YouTube juga menegaskan daftar contohnya tidak lengkap, jadi saat ragu, pilih mengungkapkan.

Kebijakan deepfake di Ruang Visual

Ruang Visual adalah workspace AI untuk seller, affiliate, kreator, dan agensi yang masih berstatus beta tertutup. Kebijakan deepfake kami sengaja dibuat sederhana supaya mudah dipatuhi, dan versi lengkapnya ada di halaman kebijakan moderasi.

• Diizinkan: konsep produk fiktif, ilustrasi orisinal, materi promosi yang haknya kamu miliki, dan karakter sintetis yang tidak meniru orang nyata.
• Ditolak: penipuan, klaim palsu, eksploitasi seksual, instruksi berbahaya, atau konten yang menyamarkan identitas dan asal visual.
• Deepfake: wajah, suara, atau gaya khas orang nyata membutuhkan persetujuan. Tanpa bukti persetujuan, permintaan ditolak dan dapat ditinjau ulang.
• Lapor dan banding: tersedia dari workspace dengan menyimpan ID proyek.

Kami juga terbuka soal statusnya. Beberapa lapisan, seperti klasifikasi otomatis dan review manusia penuh, masih disiapkan sebelum pengguna publik berbayar diterima. Karena itu render berbayar belum aktif. Pertanyaan lain tentang beta tertutup ada di halaman FAQ.

Checklist persetujuan sebelum memakai likeness orang

Kalau proyekmu memang butuh wajah atau suara orang nyata, misalnya pemilik brand atau ambassador, siapkan persetujuan tertulis sebelum brief dibuat. Persetujuan lisan di chat sering tidak cukup jelas ketika terjadi sengketa.

Elemen "tujuan spesifik" sejalan dengan Pasal 20 UU PDP yang menyebut persetujuan eksplisit untuk tujuan tertentu. Jangan minta izin "untuk semua keperluan pemasaran". Izin seluas itu sulit dipertahankan dan membuat pemberi izin tidak tahu apa yang dia setujui.

Agensi yang menangani banyak klien sebaiknya menyimpan bukti persetujuan bersama brief proyek. Pola kerjanya kami bahas di workflow agensi untuk konten AI.

Kalau kamu atau klienmu menjadi korban

Deepfake bisa menimpa siapa saja, termasuk pemilik UMKM yang wajahnya dipakai untuk penipuan "giveaway". Langkah pertama adalah mengamankan bukti sebelum konten dihapus.

1. Simpan bukti: tangkapan layar, URL, nama akun, dan waktu kamu menemukannya.
2. Laporkan ke platform: pakai fitur lapor di TikTok, YouTube, atau platform lain, dengan kategori peniruan identitas atau konten menyesatkan.
3. Laporkan konten negatif: situs aduankonten.id menyediakan fasilitas pengaduan untuk situs, URL, dan akun media sosial bermuatan negatif.
4. Jika dibuat dengan Ruang Visual: kirim laporan dari workspace atau hubungi tim lewat WhatsApp dengan ID proyek.
5. Konsultasi hukum: jika ada kerugian, bicarakan dengan advokat apakah pasal UU PDP atau UU ITE yang dibahas di atas relevan.

Keamanan dan moderasi deepfake AI pada akhirnya bergantung pada laporan yang bisa ditindaklanjuti. Satu catatan dari pengalaman menyusun alur laporan: laporan yang menyebut URL, waktu, dan alasan spesifik jauh lebih cepat diproses daripada laporan "tolong hapus akun ini". Tulis seolah petugas yang membacanya tidak tahu apa pun tentang kasusmu.