WASHINGTON: Laman chatbot kecerdasan buatan (AI) milik Elon Musk, Grok, dianggarkan telah menghasilkan kira-kira tiga juta imej berunsur seksual yang melibatkan wanita dan kanak-kanak dalam tempoh hanya beberapa hari.
Dapatan oleh sekumpulan penyelidik mendedahkan skala sebenar kandungan eksplisit yang mencetuskan kemarahan di peringkat global, pada Khamis.
Pelancaran ciri penyuntingan terbaharu pada Grok yang dibangunkan oleh syarikat pemula Musk, xAI dan disepadukan ke dalam platform X membolehkan pengguna mengubah imej individu sebenar melalui arahan teks ringkas seperti ‘pakaikan dia bikini’ atau ‘tanggalkan pakaiannya’.
Susulan itu, lambakan kandungan deepfake lucah mula tersebar luas di internet, sekali gus memaksa beberapa buah negara mengharamkan penggunaan Grok selain mengundang kecaman daripada badan kawal selia serta mangsa.
“Alatan AI Grok dianggarkan menjana kira-kira tiga juta imej berunsur seksual, termasuk 23,000 imej yang kelihatan seperti kanak-kanak, selepas pelancaran ciri penyuntingan imej baharu di platform X,” lapor Pusat Menangani Kebencian Digital (CCDH), sebuah badan pemerhati bukan keuntungan yang mengkaji kesan buruk maklumat tidak tepat dalam talian.
Laporan CCDH menganggarkan Grok menghasilkan jumlah imej fotorealistik yang begitu besar dalam tempoh 11 hari, iaitu pada kadar purata 190 imej seminit.
Bagaimanapun, laporan itu tidak menyatakan jumlah tepat imej yang dihasilkan tanpa keizinan individu terlibat.
Antara tokoh awam yang dikenal pasti menjadi mangsa imej seksual Grok termasuk selebriti Amerika Syarikat (AS) iaitu Selena Gomez, Taylor Swift dan Nicki Minaj serta ahli politik seperti Timbalan Perdana Menteri Sweden, Ebba Busch dan bekas Naib Presiden AS, Kamala Harris.
“Data ini jelas menunjukkan Grok milik Elon Musk adalah ‘kilang’ pengeluaran bahan eksploitasi seksual.
“Dengan melancarkan AI tanpa langkah keselamatan, Musk telah membolehkan penghasilan kira-kira 23,000 imej seksual kanak-kanak dalam tempoh dua minggu, selain berjuta-juta lagi imej wanita dewasa,” ,” tegas Ketua Eksekutif CCDH, Imran Ahmed.
Minggu lalu, susulan bantahan global, X mengumumkan akan menyekat keupayaan pengguna Grok dan X daripada menghasilkan imej individu dalam bikini, pakaian dalam, dan pakaian seumpamanya di kawasan yang menganggap perbuatan tersebut sebagai haram.
Bagaimanapun, tidak diperincikan wilayah mana yang terlibat dalam sekatan tersebut.
Pengumuman itu dibuat selepas Peguam Negara California melancarkan siasatan terhadap xAI berhubung bahan seksual eksplisit tersebut, selain beberapa negara lain turut memulakan siasatan masing-masing.
“Kelewatan membaiki keadaan ini tidak dapat menghapuskan kerosakan yang telah berlaku. Kita mesti mempertanggungjawabkan gergasi teknologi kerana memberi kuasa kepada pemangsa untuk menjadikan wanita dan gadis sebagai mangsa hanya dengan satu klik,” kata Imran.
Isu penyebaran imej bogel digital oleh Grok ini timbul ketika kebimbangan semakin meningkat dalam kalangan aktivis teknologi mengenai percambahan aplikasi eksploitasi seksual berasaskan AI.
Minggu lalu, Filipina menjadi negara ketiga yang mengharamkan Grok, mengikut jejak langkah jiran Asia Tenggara termasuk Malaysia dan Indonesia, manakala Britain dan Perancis menyatakan mereka akan terus memberi tekanan kepada syarikat berkenaan.
Pada Rabu, Pusat Penyelarasan dan Siasatan Jenayah Siber Filipina memaklumkan pihaknya menamatkan larangan tersebut selepas xAI bersetuju untuk mengubah suai alatan itu bagi pasaran tempatan dan menghapuskan keupayaannya untuk menghasilkan kandungan pornografi. -AFP
