Obrolan.ID – Penyalahgunaan teknologi kecerdasan buatan kembali menuai sorotan publik. Kali ini, sejumlah anggota JKT48 dilaporkan menjadi korban manipulasi foto tidak senonoh yang dibuat menggunakan teknologi Artificial Intelligence.
Kasus ini memicu kecaman luas, terutama karena konten tersebut dinilai melanggar etika, privasi, serta martabat individu. Manajemen JKT48 pun menyatakan tidak akan tinggal diam dan siap membawa persoalan ini ke ranah hukum.
Teknologi yang disorot dalam kasus ini adalah Grok AI, sebuah fitur kecerdasan buatan yang terintegrasi langsung dengan platform X (sebelumnya Twitter). Dalam beberapa waktu terakhir, Grok kerap disalahgunakan oleh oknum tidak bertanggung jawab untuk mengedit foto figur publik menjadi gambar bernuansa seksual. Anggota JKT48 termasuk di antara pihak yang terdampak.
Kapten JKT48, Freya Jayawardana, secara terbuka menyampaikan kegelisahannya terhadap maraknya konten hasil rekayasa AI tersebut. Ia menilai manipulasi visual yang mengubah penampilan anggota menjadi vulgar bahkan berunsur pornografi merupakan bentuk pelecehan serius sekaligus pelanggaran hak privasi.
Menanggapi situasi yang semakin meluas, JKT48 Operation Team akhirnya mengeluarkan pernyataan resmi. Manajemen menegaskan komitmennya untuk melindungi seluruh member dari dampak negatif penyalahgunaan teknologi digital, sekaligus memberikan peringatan keras kepada pembuat maupun penyebar konten bermasalah tersebut.
“Apabila dalam waktu 2×24 jam sejak pengumuman ini dirilis kami masih menemukan konten tersebut beredar, maka demi melindungi member kami, JKT48 Operation Team mendukung penuh langkah hukum yang akan diambil oleh member terdampak. Kami juga akan memfasilitasi pendampingan penasihat hukum hingga proses hukum selesai,” tulis manajemen JKT48 melalui akun resmi X @officialJKT48, Kamis (8/1/2026).
Manajemen juga mengimbau seluruh pihak yang terlibat agar segera menghentikan aktivitas tersebut dan menghapus seluruh konten terkait secara permanen dari platform mana pun.
“Penyalahgunaan ini telah menimbulkan kerugian nyata bagi member. Setelah melalui komunikasi internal, manajemen memutuskan untuk menyampaikan peringatan terbuka. Kami meminta seluruh pihak yang membuat atau menyebarkan konten tersebut untuk segera berhenti,” lanjut pernyataan tersebut.
Di tengah polemik ini, publik kembali mempertanyakan apa sebenarnya Grok AI dan bagaimana teknologi ini bekerja.
Apa Itu Grok AI?
Berdasarkan informasi dari laman bantuan resmi X, Grok merupakan asisten kecerdasan buatan yang dikembangkan oleh xAI. Teknologi ini dirancang untuk membantu pengguna menjawab pertanyaan, menyelesaikan persoalan kompleks, hingga menghasilkan ide kreatif. Grok tersedia bagi pengguna platform X dan didukung oleh large language model (LLM) generasi terbaru.
Terinspirasi dari karya fiksi ilmiah The Hitchhiker’s Guide to the Galaxy serta karakter JARVIS dalam Iron Man, Grok dikembangkan dengan karakter respons yang cerdas, jenaka, dan memiliki sudut pandang unik terhadap manusia. Sistem ini mampu memproses perintah melalui teks maupun suara, serta melakukan pencarian data secara real-time dari unggahan publik di X maupun internet.
Namun, fleksibilitas inilah yang membuat Grok AI rentan disalahgunakan jika tidak dibarengi pengawasan ketat.
Dikecam di Berbagai Negara
Kontroversi Grok tidak hanya terjadi di Indonesia. Sejumlah negara turut menyuarakan kekhawatiran serupa terkait potensi penyebaran konten seksual ilegal yang dihasilkan oleh AI tersebut.
Pemerintah Malaysia melalui Komisi Komunikasi dan Multimedia mengonfirmasi tengah melakukan investigasi terhadap laporan manipulasi gambar perempuan dan anak di bawah umur yang diubah menjadi konten cabul menggunakan Grok.
Sementara itu, pemerintah India pada 2 Januari 2026 mengirimkan surat resmi kepada pihak X, mendesak evaluasi menyeluruh terhadap sistem Grok agar tidak lagi menghasilkan konten pornografi yang bertentangan dengan hukum nasional.
Di Eropa, pemerintah Prancis bahkan menilai Grok berpotensi melanggar Digital Services Act (DSA) Uni Eropa. Otoritas setempat menuding teknologi tersebut dapat memproduksi konten seksual ilegal tanpa persetujuan subjek yang ditampilkan, sebuah pelanggaran serius dalam regulasi digital kawasan tersebut.
Manfaat Grok AI Jika Digunakan Secara Etis
Terlepas dari kontroversi, Grok AI sejatinya memiliki sejumlah manfaat jika dimanfaatkan secara bertanggung jawab. Mengacu pada laporan Times of India, teknologi ini menawarkan beberapa keunggulan:
Kemampuan Generasi Video
Grok mampu menghasilkan animasi figur 3D menjadi video pendek lengkap dengan efek suara, memberikan nilai tambah bagi kreator konten visual.
Mendukung Storytelling Visual
Teknologi ini memungkinkan pengguna menambahkan elemen naratif dan gerakan, sehingga konten visual terasa lebih hidup dan berlapis.
Akses Gratis untuk Kreasi Gambar AI
Grok sempat menjadi favorit karena memungkinkan pembuatan gambar AI tanpa biaya, membuatnya lebih mudah diakses berbagai kalangan.
Meski demikian, dalam hal realisme dan detail figurin 3D, Grok masih dinilai tertinggal dibandingkan kompetitor seperti Nano Banana, Qwen, maupun GPT-5. Hasil visualnya dianggap kurang halus dan detail jika difokuskan pada akurasi tinggi.
Kasus yang menimpa JKT48 menjadi pengingat bahwa kemajuan teknologi harus diiringi tanggung jawab etis. Tanpa pengawasan dan regulasi yang jelas, kecanggihan AI justru berpotensi menjadi alat pelanggaran hak asasi dan privasi manusia.
Konten ini disempurnakan menggunakan Kecerdasan Buatan (AI).
