MAKASSAR, UNHAS.TV - Penyalahgunaan teknologi Grok AI pada platform X  sempat meresahkan masyarakat Indonesia.

Di balik kemampuannya menyajikan informasi secara cepat, Grok AI kerap disalahgunakan untuk menghasilkan gambar pornografi dari foto yang diunggah pengguna, yang berdampak serius terhadap kondisi mental dan psikologis korban.

Merespons hal tersebut, Kementerian Komunikasi dan Digital (Komdigi) RI memutus akses Grok AI pada Sabtu (10/1/2026). Itu dilakukan demi melindungi masyarakat dari risiko konten pornografi palsu berbasis kecerdasan buatan.

Menteri Komunikasi dan Digital, Meutya Hafid menegaskan bahwa praktik deepfake bermuatan seksual tanpa persetujuan merupakan pelanggaran serius terhadap hak asasi manusia dan martabat warga negara.

“Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial, pemerintah melakukan pemutusan akses sementara terhadap aplikasi Grok,” ujar Meutya dalam siaran pers di Jakarta, Minggu (11/01/2026).

Dilihat dari perspektif hukum pidana Indonesia, Dosen Hukum Fakultas Hukum Universitas Hasanuddin (Unhas), Andi Muhammad Aswin Anas SH MH, menegaskan bahwa penyalahgunaan platform kecerdasan buatan seperti Grok AI pada dasarnya melekat pada manusia sebagai pengguna, bukan pada teknologi itu sendiri.

Aswin menjelaskan, dalam kasus penggunaan Grok AI, terdapat dua subjek yang perlu dilihat, yakni penyelenggara sistem elektronik dan individu yang memanfaatkan platform tersebut.

Namun, dalam konteks pertanggungjawaban pidana, hukum Indonesia menganut asas bahwa tanggung jawab pidana melekat pada pelaku perbuatan.

“Ketika ada orang yang menggunakan Grok AI untuk menyalahgunakan foto atau data pribadi orang lain, maka pertanggungjawaban pidana akan melekat pada orang yang melakukan perbuatan tersebut, sepanjang memenuhi rumusan tindak pidana dalam hukum pidana Indonesia,” kata Aswin saat diwawancara di ruangan kerjanya pada Kamis (22/1/2026).

Dosen Fakultas Hukum Universitas Hasanuddin (Unhas), Andi Muhammad Aswin Anas SH MH. (unhas tv/moh resha)

Ia mencontohkan, penyalahgunaan foto seseorang melalui Grok AI untuk menghasilkan konten yang melanggar kesusilaan dapat menjerat pelaku dengan berbagai instrumen hukum.

Mulai dari Undang-Undang Pelindungan Data Pribadi, Undang-Undang Pornografi, Undang-Undang Tindak Pidana Kekerasan Seksual, hingga Undang-Undang Informasi dan Transaksi Elektronik (ITE) jika konten tersebut disebarluaskan melalui media elektronik.

Butuh Membuat Regulasi Jangka Panjang

Terkait langkah Kementerian Komunikasi dan Digital (Kemkom Digi) yang melakukan pemblokiran terhadap Grok AI, Aswin menilai kebijakan tersebut sebagai langkah jangka pendek yang cukup baik untuk memutus peluang penyalahgunaan.

Namun, menurutnya, pemblokiran semata tidak cukup untuk menjawab persoalan jangka panjang.

“Teknologi itu sifatnya netral. Yang menentukan apakah teknologi disalahgunakan atau tidak adalah manusia yang menggunakannya. Grok AI diblokir, tetapi bagaimana dengan platform AI lain seperti ChatGPT atau Gemini? Pada prinsipnya cara kerjanya hampir sama,” ujarnya.

Aswin menekankan pentingnya regulasi jangka panjang yang lebih tegas dan komprehensif, khususnya terhadap penyelenggara sistem elektronik.

Menurutnya, perlu ada aturan yang mewajibkan platform AI memberikan jaminan agar layanannya tidak mudah disalahgunakan untuk melakukan tindak pidana.

Ia menilai, hingga saat ini Indonesia belum memiliki undang-undang yang secara khusus dan spesifik mengatur penggunaan kecerdasan buatan.

Regulasi yang ada masih bersifat sektoral dan tersebar di beberapa kementerian, seperti dalam bentuk peraturan menteri yang lebih menekankan pada aspek etika.

“Kita perlu duduk bersama untuk mendiskusikan regulasi AI yang lebih general agar memberikan kepastian hukum. Pembatasan akses terhadap pembuatan konten yang dilarang perlu diatur secara tegas,” katanya.

Aswin menegaskan bahwa dirinya tidak menolak perkembangan teknologi kecerdasan buatan. Menurutnya, AI memiliki potensi besar untuk membantu pekerjaan manusia, asalkan diiringi dengan peningkatan literasi digital, kesadaran etis pengguna, serta kolaborasi antara pemerintah, penyedia platform, dan masyarakat.

“Upaya penanggulangan kejahatan tidak bisa hanya dibebankan pada pemerintah. Harus ada kolaborasi semua pihak agar pemanfaatan teknologi tetap membawa manfaat tanpa menimbulkan dampak yang merugikan,” tutupnya.

(Achmad Ghiffary M / Moh Resha Maharam / Unhas TV)