SAN FRANCISCO – Perusahaan kecerdasan buatan yang dimiliki oleh Elon Musk, xAI, kini menjadi pusat perhatian setelah alat pembuat video mereka, Grok Imagine, dikritik keras karena memproduksi video palsu yang menampilkan penyanyi terkenal Taylor Swift tanpa adanya instruksi jelas dari pengguna.

Diduga, AI tersebut menghasilkan video Taylor Swift yang bersifat pornografi tanpa instruksi eksplisit. Fitur “spicy” dalam Grok Imagine mampu memproduksi konten seksual meskipun pengguna tidak memberikan instruksi yang mengarah ke konten pornografi.

Pemeriksaan usia yang tidak ketat menimbulkan risiko bagi pengguna di bawah umur. Aplikasi ini hanya meminta tanggal lahir tanpa verifikasi tambahan, sehingga menimbulkan kekhawatiran terkait keamanan.

Para aktivis dan pakar hukum mendesak tindakan hukum terhadap xAI, sementara undang-undang baru sedang dirancang untuk melindungi korban dari video deepfake.

Fitur “spicy” dalam aplikasi tersebut dilaporkan secara otomatis menciptakan gambar dan video dengan muatan seksual eksplisit, memicu kekhawatiran serius mengenai etika dan keamanan dalam penggunaan teknologi AI.

Laporan dari BERITA88 menyebutkan bahwa jurnalis teknologi Jess Weatherbed hanya memasukkan perintah umum seperti “Taylor Swift merayakan Coachella bersama teman-teman” dan memilih mode “pedas”.