JAKARTA//trans24.id – Kementerian Komunikasi dan Digital (Komdigi) mengklaim telah memutus akses aplikasi Grok untuk sementara, menyusul sejumlah insiden penyalahgunaan AI (kecerdasan buatan) dalam konten pornografi palsu.
Menurut korban, langkah itu disebut sebagai ‘solusi instan’ untuk menciptakan ruang digital yang aman bagi perempuan.
Kementerian Komunikasi dan Digital telah memutus sementara akses Grok, pada 10 Januari lalu.
Menurut pemerintah, aturan itu dibuat untuk melindungi perempuan, anak dan seluruh rakyat Indonesia dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan buatan.
Setelah itu, Malaysia mengumumkan pemutusan akses Grok pada Minggu (11/01).
Baik Indonesia dan Malaysia meminta media sosial X untuk segera memberikan klarifikasi terkait dampak negatif penggunaan Grok.
Grok dan perusahaan induknya X, juga menghadapi tekanan di UK setelah Menteri Teknologi, Liz Kendall, mendukung seruan pemblokiran akses ke X karena gagal mematuhi undang-undang keamanan daring.
Terbaru, Ofcom—badan pengawas keamanan daring di UK—telah meluncurkan penyelidikan terhadap platform X milik Elon Musk untuk menentukan apakah platform tersebut telah gagal mematuhi undang-undang keamanan daring.
Dalam sebuah pernyataan, Ofcom mengatakan terdapat “laporan yang sangat mengkhawatirkan” mengenai chatbot AI Grok milik platform tersebut yang digunakan untuk membuat dan menyebarkan foto orang tanpa busana, serta “gambar seksual anak-anak”.
Kembali ke Indonesia, perdebatan muncul tentang langkah pencegahan penyalahgunaan AI itu, hingga membuat seorang korban, Kirana Ayuningtyas, meradang.
“Daripada mengatur korban harus seperti apa di medsos, kenapa bukan pelakunya saja yang diatur? Yang salah kan orang yang menyalahgunakan [AI] bukan keberadaan foto bahkan perempuan,”cetusnya.
SAFEnet (Southeast Asia Freedom of Expression Network) menyebut, kasus yang dialami Kirana merupakan kekerasan berbasis gender online.
Meski demikian, solusi yang diputuskan pemerintah Indonesia disebut Kirana sebatas “solusi instan”.
