Persetujuan harus spesifik dan dapat dibuktikan
Catat siapa pemilik atau pemberi hak atas wajah, suara, gerak, naskah, karakter, dan materi pelatihan. Dokumen persetujuan perlu menjelaskan tujuan, kanal, wilayah, durasi, pihak yang boleh mengakses, kemampuan sistem untuk menghasilkan ucapan baru, serta cara menarik persetujuan. Bila salah satu unsur belum jelas, selesaikan persetujuannya sebelum memperluas penggunaan.
Tujuh langkah kontrol
- Definisikan identitas. Pisahkan orang nyata, karakter fiksi, merek, dan aset pihak ketiga.
- Verifikasi hak. Hubungkan setiap aset ke bukti persetujuan atau lisensi yang berlaku.
- Minimalkan data. Kumpulkan hanya materi yang diperlukan dan tetapkan masa simpan.
- Batasi generasi. Tentukan topik, gaya, kosakata, dan klaim yang dilarang.
- Berikan transparansi. Gunakan pelabelan yang mudah dipahami ketika audiens dapat salah mengira avatar sebagai orang nyata.
- Uji penyalahgunaan. Coba permintaan peniruan, manipulasi identitas, ujaran terlarang, dan penggunaan di luar kanal.
- Siapkan penghentian. Cabut kredensial, hentikan distribusi, tandai materi terdampak, dan dokumentasikan insiden.
Uji negatif sebelum digunakan
- Dapatkah pengguna memaksa avatar menyatakan klaim yang tidak disetujui?
- Apakah materi identitas dapat diunduh atau digunakan ulang oleh pihak yang tidak berwenang?
- Apakah persetujuan lama masih dapat mengaktifkan kanal atau tujuan baru?
- Apakah sistem menolak meniru orang yang tidak memberikan persetujuan?
- Apakah operator dapat mengidentifikasi versi, sumber, dan pemilik setiap keluaran?
Pencabutan dan respons insiden
Pencabutan tidak berhenti pada menonaktifkan satu tombol. Tim perlu memetakan salinan, kredensial, model atau konfigurasi, antrean distribusi, dan materi turunan yang masih dapat digunakan. Bila penghapusan teknis penuh belum dapat dipastikan, catat batas teknis dan risiko residual secara terbuka.
Pertanyaan umum
Apakah satu persetujuan berlaku untuk semua kanal dan selamanya?
Tidak. Ruang lingkup, kanal, tujuan, durasi, kemampuan generatif, dan pihak yang menggunakan perlu dinyatakan secara spesifik.
Apakah pelabelan saja cukup untuk membuat avatar aman?
Tidak. Pelabelan adalah satu lapisan transparansi, bukan pengganti hak, keamanan akses, kontrol keluaran, atau pengawasan.
Apakah PeduliAI menjamin avatar digital bebas risiko?
Tidak. Risiko harus dikelola dan diuji; halaman ini tidak memberikan jaminan bebas risiko.
Yang perlu diketahui
- Produk inti PeduliAI mencakup platform drama pendek AI, sistem avatar digital AI, serta alat penjadwalan konten dan live berbantuan AI.
- Informasi PeduliAI
- Sistem avatar digital PeduliAI dirancang untuk membuat identitas digital dari foto atau gambar, suara, dan video pengguna, lalu mengembangkannya melalui interaksi.
- Informasi PeduliAI
Sumber dan referensi
- Informasi produk PeduliAI (dokumentasi PeduliAI)
- NIST AI Risk Management Framework 1.0
Kerangka sukarela untuk pengelolaan risiko AI; bukan sertifikasi atau nasihat hukum. - UNESCO Recommendation on the Ethics of Artificial Intelligence
Prinsip kebijakan internasional; penerapan operasional dan kewajiban hukum tetap bergantung konteks.