Obrolan.ID – Perkembangan teknologi kecerdasan buatan atau artificial intelligence (AI) terus melaju pesat dan membawa berbagai inovasi digital yang mengubah pola interaksi masyarakat di media sosial.
Di balik manfaatnya, teknologi ini juga memunculkan tantangan serius, terutama dalam aspek etika dan perlindungan privasi.
Salah satu inovasi yang kini ramai dibicarakan publik adalah Grok AI, sebuah asisten berbasis chatbot besutan xAI, perusahaan rintisan milik Elon Musk, yang terintegrasi langsung dengan platform media sosial X (sebelumnya Twitter).
Dalam beberapa waktu terakhir, Grok AI menjadi perbincangan hangat warganet setelah muncul dugaan penyalahgunaan fitur kecerdasan buatan tersebut.
Sejumlah akun di platform X diduga memanfaatkan teknologi AI ini untuk memanipulasi foto seseorang menjadi konten yang tidak pantas dan bermuatan asusila.
Ironisnya, sebagian besar korban dari praktik manipulasi digital tersebut merupakan perempuan.
Foto pribadi yang sebelumnya bersifat personal diduga diubah menjadi konten melanggar norma kesusilaan tanpa seizin pemilik foto. Praktik ini dinilai sebagai pelanggaran serius terhadap hak privasi dan martabat individu.
Karakter media sosial X yang terbuka turut memperparah situasi. Konten hasil manipulasi dapat dengan mudah diunggah, diakses, dan disebarluaskan secara masif dalam waktu singkat. Kondisi ini membuat dampak pelanggaran privasi menjadi semakin luas dan sulit dikendalikan.
Menanggapi fenomena tersebut, Kementerian Komunikasi dan Digital (Kemkomdigi) menyatakan keseriusannya dalam menindaklanjuti dugaan penyalahgunaan Grok AI.
Pemerintah menilai isu ini tidak dapat dianggap remeh karena menyangkut keselamatan ruang digital dan perlindungan hak warga negara.
Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, mengungkapkan bahwa hasil penelusuran awal menunjukkan belum adanya pengaturan yang jelas dan memadai dalam Grok AI untuk mencegah pembuatan serta penyebaran konten pornografi berbasis foto asli warga Indonesia.
“Hasil penelusuran awal menunjukkan Grok AI belum memiliki pengaturan yang eksplisit dan memadai untuk mencegah produksi serta distribusi konten pornografi berbasis foto nyata warga Indonesia. Kondisi ini berpotensi menimbulkan pelanggaran serius terhadap privasi dan hak citra diri masyarakat,” ujar Alexander di Jakarta, Kamis, 8 Januari 2026.
Kemkomdigi menegaskan bahwa manipulasi digital terhadap foto pribadi bukan hanya persoalan kesusilaan semata. Praktik tersebut dinilai sebagai bentuk perampasan kendali individu atas identitas visualnya, yang dapat berdampak pada kondisi psikologis, hubungan sosial, hingga reputasi korban di ruang publik.
Alexander juga menekankan bahwa baik penyedia layanan kecerdasan buatan maupun pengguna yang terbukti memproduksi dan/atau menyebarkan konten pornografi atau manipulasi citra pribadi tanpa hak dapat dikenai sanksi tegas. Sanksi tersebut dapat berupa tindakan administratif maupun pidana sesuai peraturan perundang-undangan yang berlaku.
“Apabila ditemukan adanya ketidakpatuhan atau sikap tidak kooperatif, Kemkomdigi memiliki kewenangan untuk menjatuhkan sanksi administratif hingga pemutusan akses terhadap layanan Grok AI maupun platform X,” tegasnya.
Sebagai informasi, sejak berlakunya Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP) pada 2 Januari 2026, ketentuan terkait pornografi telah diatur secara lebih tegas. Salah satunya tercantum dalam Pasal 172 yang mendefinisikan pornografi sebagai media yang memuat kecabulan atau eksploitasi seksual yang melanggar norma kesusilaan.
Sementara itu, Pasal 407 mengatur ancaman pidana bagi pelanggar dengan hukuman penjara paling singkat enam bulan dan paling lama sepuluh tahun, atau pidana denda sesuai ketentuan hukum yang berlaku.
Alexander menambahkan, masyarakat yang menjadi korban manipulasi foto, deepfake asusila, atau pelanggaran hak citra diri diimbau untuk tidak diam. Korban dapat menempuh jalur hukum melalui mekanisme yang tersedia, baik dengan melaporkan kepada aparat penegak hukum maupun menyampaikan pengaduan resmi kepada Kemkomdigi.
Konten ini disempurnakan menggunakan Kecerdasan Buatan (AI).
