Kecerdasan buatan (AI) kini ibarat pedang dua mata. Satu sisi membantu dunia bergerak lebih pantas, sisi lain pula membuka ruang luas untuk penipuan digital yang semakin licik.
Fenomena wajah tiruan individu terkenal atau artis yang dicipta menggunakan teknologi AI kini menular di platform media sosial dan menimbulkan kebimbangan besar dalam kalangan pengguna serta industri hiburan tempatan.
Antara mangsanya ialah penyanyi tersohor negara, Datuk Seri Siti Nurhaliza apabila satu laman web penipuan menggunakan nama dan wajah beliau untuk mempromosikan skim pelaburan scam.
Lebih mengelirukan, laman itu menyerupai reka bentuk portal berita arus perdana, lengkap dengan ‘laporan palsu’ bagi menambah keyakinan mangsa.
Ramai hampir terpedaya. Video yang dipaparkan kelihatan sangat meyakinkan dengan ekspresi, suara dan gerak bibir seolah-olah benar-benar Siti. Hakikatnya, semuanya dihasilkan sepenuhnya oleh algoritma AI.
Situasi sama turut menimpa Tan Sri Tony Fernandes. Syarikat beliau, Capital A, terpaksa mengeluarkan kenyataan rasmi menafikan penglibatan mana-mana pihak pengurusan AirAsia dalam video yang memaparkan Tony kononnya sedang mengajak orang ramai menyertai skim pelaburan baharu.
Semua itu hanyalah video palsu berasaskan AI yang dimanipulasi oleh scammer.
Presiden Persatuan Seniman Malaysia (SENIMAN), Zed Zaidi sebelum ini turut memberi amaran bahawa wajah artis tempatan kini menjadi sasaran utama scammer.
“Kalau dulu mereka guna akaun palsu, sekarang mereka guna wajah sebenar hasil teknologi AI,” katanya.
Menurutnya, situasi ini bukan lagi sekadar isu keselamatan digital, tetapi juga soal integriti dan maruah insan seni.
“Bila wajah kita dijadikan umpan, ia bukan sahaja menipu masyarakat, tapi mencemarkan nama baik artis itu sendiri,” jelas Zed.
Kini, sindiket penipuan ini bukan lagi operasi kecil. Dengan bantuan teknologi AI, mereka mampu menghasilkan video deepfake yang hampir sempurna lengkap dengan mimik muka, suara dan nada yang menyerupai individu asal.
Hanya dengan beberapa klip video dan gambar, wajah manusia boleh dihidupkan semula secara maya.
Lebih membimbangkan, modus operandi baharu mereka kini menggunakan iklan berbayar (Facebook dan Instagram Ads). Melalui cara ini, video palsu disasarkan terus kepada pengguna yang berpotensi.
Contohnya peminat artis, pelabur, atau individu yang sering menonton kandungan sejenis. Dengan kata lain, scammer kini membeli ruang iklan untuk menipu.
Persoalannya di mana META dalam semua ini? Adakah mereka tidak mampu mengesan kandungan AI yang jelas meniru wajah manusia sebenar atau sekadar menunggu laporan pengguna sebelum bertindak?
Sehinggakan Menteri Komunikasi, Datuk Fahmi Fadzil baru-baru ini memberi amaran keras terhadap META kerana masih gagal memberi kerjasama penuh dalam membanteras jenayah siber di platform-platform milik mereka.
Jika tahap kerjasama META tidak dipertingkatkan, Fahmi menegaskan pihaknya akan mempertimbangkan tindakan lanjut kerana perkara itu menjejaskan usaha pihak berkuasa melindungi rakyat daripada ancaman jenayah dalam talian.
“META dan semua penyedia platform media sosial wajib mengambil tanggungjawab yang lebih besar bagi memastikan kandungan yang melanggar undang-undang negara dapat diturunkan.
“Kementerian Komunikasi bersama agensi-agensi penguatkuasaan akan memperkukuh langkah-langkah pemantauan, serta mempertimbangkan tindakan lanjut sekiranya tahap kerjasama tidak dipertingkatkan oleh META,” tegasnya.
Fenomena ini turut menimbulkan persoalan tentang hak digital artis dan individu awam. Jika wajah seseorang boleh diguna tanpa kebenaran bagi tujuan penipuan, sejauh mana undang-undang sedia ada mampu melindungi mereka?
Bagi industri hiburan, ancaman ini bukan sekadar soal imej. Ia menyentuh soal kredibiliti dan kepercayaan yang menjadi asas hubungan antara artis dan peminat.
Satu video deepfake boleh memusnahkan reputasi yang dibina bertahun-tahun.
Lebih membimbangkan, deepfake sebegini mencipta generasi penonton yang semakin skeptikal. Pengguna mula sukar membezakan antara realiti dan ilusi. Dalam jangka panjang, ia boleh menjejaskan integriti maklumat di ruang digital.
Dalam konteks global, fenomena ini menjadi cerminan cabaran etika dan moral AI. Kecerdasan buatan yang dicipta untuk membantu manusia kini berbalik menggugat kepercayaan manusia sendiri.
Tanpa kawalan dan tanggungjawab sosial, ia boleh menjadi bentuk jenayah paling berbahaya dalam dekad ini.
META dan syarikat-syarikat teknologi besar perlu berhenti bersembunyi di sebalik alasan ‘kebebasan ekspresi’ dan mula mengambil tanggungjawab moral serta sosial!
