PSPK – 17 Maret 2026 | Sejumlah tiga remaja, termasuk dua di antaranya masih di bawah umur, mengajukan gugatan terhadap perusahaan kecerdasan buatan xAI milik Elon Musk. Mereka menuduh generator gambar Grok milik xAI memanfaatkan foto pribadi mereka untuk menciptakan dan menyebarkan materi pelecehan seksual anak.
Gugatan tersebut pertama kali diajukan oleh seorang anak di bawah umur setelah melaporkan peningkatan drastis pembuatan gambar telanjang tanpa persetujuan pada awal tahun ini. Pengacara penggugat, Vanessa Baehr‑Jones, menyatakan bahwa xAI “memilih mengambil keuntungan dari eksploitasi seksual terhadap orang‑orang nyata, termasuk anak‑anak, meskipun mengetahui sepenuhnya konsekuensi dari produk yang berbahaya tersebut”.
Ketiga gadis, yang berasal dari Tennessee namun mengajukan gugatan di California tempat xAI beroperasi, menemukan gambar telanjang mereka telah diubah menggunakan AI dan diunggah ke server Discord tanpa sepengetahuan mereka. Setelah melaporkan temuan tersebut ke pihak kepolisian, penyidik berhasil menangkap seorang tersangka pada bulan yang sama dan menemukan materi pelecehan seksual anak (CSAM) di ponselnya, yang diduga diproduksi dengan teknologi xAI.
Pengaduan menyebut bahwa CSAM tersebut dibuat melalui aplikasi pihak ketiga yang melisensikan teknologi Grok. Meskipun gambar tidak dihasilkan langsung di situs xAI, penggugat berargumen bahwa penggunaan teknologi tersebut tetap melibatkan server xAI dan perusahaan memperoleh keuntungan dari lisensi teknologinya.
Kasus ini menambah daftar tindakan hukum dan investigasi internasional yang menjerat xAI, termasuk gugatan dari ibu salah satu anak Musk dan penyelidikan resmi Uni Eropa. Peneliti dari Center for Countering Digital Hate memperkirakan Grok menghasilkan sekitar tiga juta gambar seksual dalam kurang dari dua minggu, dengan sekitar 23.000 di antaranya menggambarkan anak‑anak.
Penggugat menuntut pertanggungjawaban xAI atas kerugian moral dan psikologis yang diderita, serta menuntut ganti rugi atas penggunaan data pribadi mereka tanpa izin. Kasus ini menyoroti tantangan regulasi teknologi AI dalam melindungi hak privasi individu, terutama anak‑anak, di era digital yang semakin terotomatisasi.
