Dalam beberapa hari terakhir netizen diresahkan dengan tren penggunaan AI dari X, yaitu Grok, untuk mengedit foto yang beredar menjadi konten pornografi.

Kemkomdigi pun akhirnya mengambil langkah pendalaman terkait dengan fenomena ini. Dalam temuan awal, Grok AI dinilai belum memiliki pengaturan eksplisit untuk mencegah produksi konten pornografi.

"Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi. Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga" ujar Dirjen Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar lewat siaran pers

Pemerintah mengancam bisa memblokir Grok AI dan X bila tak melanggar hukum yang berlaku di RI.