Jakarta//trans24.id – Malaysia turut memblokir akses platform kecerdasan buatan (AI) Grok milik Elon Musk pada Minggu (11/1), menyusul Indonesia yang mengambil langkah serupa sehari sebelumnya.
Dalam pernyataan pada Minggu (11/1), Komisi Komunikasi dan Multimedia Malaysia (MCMC) mengatakan akan membatasi akses ke Grok setelah penggunaan berulang kali alat tersebut untuk “menghasilkan gambar-gambar yang cabul, eksplisit secara seksual, tidak pantas, sangat menyinggung, dan gambar yang dimanipulasi tanpa persetujuan, termasuk konten yang melibatkan perempuan dan anak-anak.”
MCMC mengatakan telah menerbitkan pemberitahuan kepada X dan xAI untuk menuntut penerapan langkah-langkah teknis dan moderasi yang efektif, namun tanggapan yang diterima sebagian besar bergantung pada mekanisme pelaporan yang diinisiasi pengguna dan gagal mengatasi risiko yang ditimbulkan oleh desain dan operasional alat kecerdasan buatan (AI) tersebut.
“MCMC menganggap hal ini tidak cukup untuk mencegah kerugian atau memastikan kepatuhan hukum,” katanya, dikutip dari Reuters, Minggu (11/1).
XAI menanggapi email Reuters yang meminta komentar dengan respons otomatis: “Legacy Media Lies.” Sementara X tidak segera menanggapi permintaan komentar.
Pada Kamis (8/1), perusahaan di balik Grok, xAI, mengumumkan bahwa mereka akan membatasi fitur pembuatan dan pengeditan gambar hanya untuk langganan berbayar, sebagai tanggapan atas kelalaian yang memungkinkan pengguna di X untuk menghasilkan konten bermuatan seksual tentang orang lain, yang seringkali tanpa persetujuan.
Pada Sabtu (10/1), pemerintah Indonesia melalui Kementerian Komunikasi dan Digital (Komdigi) menjadi negara pertama yang melakukan pemblokiran sementara ke Grok.
Langkah ini diambil menyusul kekhawatiran masifnya konten pornografi palsu atau deepfake yang dihasilkan oleh teknologi tersebut.
Menkomdigi Meutya Hafid menegaskan bahwa pemblokiran ini merupakan upaya preventif pemerintah dalam melindungi kelompok rentan, terutama perempuan dan anak-anak, dari eksploitasi di ruang digital.
“Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial, Pemerintah melalui Kementerian Komunikasi dan Digital melakukan pemutusan akses sementara terhadap aplikasi Grok.”
“Pemerintah memandang praktik deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital,” ujar Meutya dalam keterangan resmi, Sabtu (10/1).
Tak hanya memutus akses, Komdigi juga telah melayangkan permintaan resmi kepada Platform X (dahulu Twitter) untuk segera menghadap dan memberikan klarifikasi. Pemerintah menuntut penjelasan mengenai mitigasi dampak negatif dan lubang keamanan pada Grok yang memungkinkan terciptanya konten terlarang.
“Kementerian Komunikasi dan Digital juga juga telah meminta Platform X untuk segera hadir guna memberikan klarifikasi terkait dampak negatif penggunaan Grok,” ucap Muetya.
