Jakarta (beritajatim.id) – Kementerian Komunikasi dan Digital (Kemkomdigi) menegaskan bahwa penyalahgunaan teknologi kecerdasan buatan Grok AI di platform media sosial X untuk membuat maupun menyebarkan konten asusila dapat berujung pada sanksi pidana.
Tidak hanya pengguna, penyedia layanan AI dan pengelola platform juga berpotensi dikenai sanksi administratif hingga pemutusan akses jika terbukti melanggar aturan di Indonesia.
Peringatan tersebut muncul setelah adanya dugaan pemanfaatan Grok AI untuk memproduksi konten pornografi, termasuk praktik manipulasi foto pribadi tanpa persetujuan pemiliknya.
Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, menegaskan bahwa platform X sebagai Penyelenggara Sistem Elektronik (PSE) memiliki kewajiban untuk mematuhi seluruh regulasi yang berlaku di Indonesia.
Menurut Alexander, tanggung jawab hukum tidak hanya melekat pada pengguna, tetapi juga pada penyedia teknologi kecerdasan buatan apabila sistem yang mereka kelola terbukti membuka celah penyalahgunaan.
Baik pembuatan maupun distribusi konten pornografi, termasuk manipulasi citra pribadi tanpa hak, dapat dijerat sanksi administratif maupun pidana sesuai peraturan perundang-undangan.
“Kami mengimbau seluruh pihak untuk menggunakan teknologi akal imitasi secara bertanggung jawab. Ruang digital bukan ruang tanpa hukum, ada privasi dan hak atas citra diri setiap warga yang harus dihormati dan dilindungi,” ujar Alexander Sabar, dikutip dari CNN Indonesia.
Saat ini, Kemkomdigi masih melakukan pendalaman terkait dugaan penyalahgunaan Grok AI di platform X. Berdasarkan hasil penelusuran awal, sistem Grok AI dinilai belum memiliki pengaturan yang jelas dan memadai untuk mencegah pembuatan serta penyebaran konten pornografi yang berbasis foto asli warga Indonesia.
Kemkomdigi pun mendorong seluruh penyedia platform digital dan layanan kecerdasan buatan untuk segera memperkuat sistem pengamanan, moderasi konten, serta kerja sama dengan pemerintah guna menciptakan ruang digital yang aman dan bertanggung jawab. (aga)
as a preferred source on Google
