JAKARTAHYPE.COM - Apple mengambil langkah tegas dengan mengancam penghapusan Grok, aplikasi kecerdasan buatan milik Elon Musk, dari layanan App Store. Keputusan ini diambil menyusul maraknya konten deepfake seksual tanpa izin yang membanjiri platform X dan meresahkan masyarakat luas.
Dilansir dari NBC News, pihak Apple secara tertutup telah menghubungi tim pengembang X dan Grok sejak Januari lalu. Langkah komunikasi ini merupakan respons cepat atas banyaknya keluhan publik serta pemberitaan terkait penyalahgunaan teknologi AI tersebut.
"Kami meminta pengembang segera menyusun rencana strategis untuk memperkuat sistem moderasi konten demi menjamin keamanan seluruh pengguna," ujar pihak Apple.
Masalah utama berakar pada sistem Grok yang dikembangkan oleh xAI, di mana protokol perlindungannya dianggap masih sangat lemah. Pengguna dilaporkan dapat dengan mudah memanipulasi foto orang nyata, termasuk menggunakan fitur "undress" yang menyasar perempuan dan anak di bawah umur.
"Kondisi tersebut merupakan bentuk pelanggaran serius terhadap pedoman App Store yang selama ini kami tegakkan secara ketat," kata perwakilan Apple.
Dilansir dari The Verge pada Kamis (16/4/2026), Apple sempat memberikan peringatan keras bahwa masa depan aplikasi tersebut berada di ujung tanduk. Meskipun platform X menunjukkan upaya perbaikan, Grok pada awalnya dinilai masih belum memenuhi standar keamanan yang ditetapkan.
"Aplikasi tersebut bisa saja dihapus secara permanen dari toko aplikasi jika tidak ada perubahan tambahan yang signifikan pada sistem keamanannya," tegas pihak Apple.
Sebagai solusi praktis untuk tetap bisa beroperasi di ekosistem iOS, Grok akhirnya menerapkan sejumlah perubahan kebijakan moderasi. Salah satu langkah yang diambil adalah membatasi akses layanan hanya untuk pelanggan berbayar serta berupaya mematikan fitur manipulasi gambar seksual.
"Grok kini telah meningkatkan sistem moderasi mereka sehingga kami mengizinkan aplikasi tersebut tetap tersedia bagi pengguna di App Store," kata juru bicara Apple.
