JAKARTA, getnews.co.id — Anggota Komisi I DPR RI, Amelia Anggraini, mengecam keras penyalahgunaan teknologi kecerdasan buatan Grok AI yang digunakan untuk memproduksi konten pornografi berbasis foto orang nyata tanpa izin (deepfake). Amelia menegaskan bahwa tindakan ini merupakan bentuk kekerasan berbasis teknologi yang melanggar hak privasi dan martabat manusia secara serius.
Politisi Fraksi NasDem ini meminta Kementerian Komunikasi dan Digital (Kemkomdigi) bersikap proaktif terhadap platform X dan penyedia layanan AI. “Ketika identitas visual seseorang dimanipulasi tanpa izin untuk konten asusila, itu merupakan bentuk perampasan hak individu atas citra dirinya,” tegas Amelia, Jumat (9/1/2026).
Matriks Regulasi: Jerat Hukum Penyalahgunaan AI 2026
Kasus Grok AI menjadi momentum penegakan dua instrumen hukum utama yang kini telah berlaku penuh di Indonesia.
| Instrumen Hukum | Ketentuan Pelanggaran AI |
|---|---|
| UU Pelindungan Data Pribadi (PDP) | Data visual (wajah/video) adalah data sensitif; pemrosesan tanpa izin merupakan pelanggaran administratif & pidana. |
| KUHP Nasional (Berlaku 2 Jan 2026) | Pasal 172 & 407 (Delik Pornografi & Distribusi Konten Asusila Digital). |
| Prinsip PSE (Kemkomdigi) | Wajib menerapkan “Prevention by Design” terhadap konten ilegal berbasis identitas nyata. |
| Mekanisme Korban | Kanal pelaporan efektif, takedown cepat, dan pencegahan re-upload. |
Fokus pada “Prevention by Design”
Amelia mencatat bahwa hasil penelusuran Direktorat Jenderal Pengawasan Ruang Digital menunjukkan Grok AI belum memiliki pagar pengaman (safety rails) yang memadai. Ia mendorong agar platform digital tidak hanya bertindak setelah konten viral, tetapi harus mengintegrasikan sistem moderasi sejak tahap desain. “Jika platform AI lain bisa memasang pembatasan yang jelas, tidak ada alasan bagi Grok AI untuk mengabaikan standar kepatuhan PSE di Indonesia,” ujarnya.
Ruang Digital Bukan Ruang Tanpa Hukum
Legislator asal Dapil Jateng VII ini mengingatkan bahwa per 2 Januari 2026, penegakan hukum digital kini semakin tajam dengan berlakunya KUHP Nasional. Hal ini menegaskan bahwa setiap manipulasi citra diri untuk tujuan asusila dapat diproses secara pidana. Komisi I DPR RI berkomitmen untuk mengawal kasus ini guna memastikan adanya tanggung jawab hukum dari platform digital, sekaligus memberikan jaminan perlindungan bagi warga negara dari ancaman kekerasan seksual digital berbasis AI.
