Masih ada platform media sosial engkar turun kandungan penipuan AI
BEBERAPA penyedia platform media sosial didapati gagal mematuhi sepenuhnya arahan penurunan kandungan bersifat manipulasi dan penipuan yang dijana menggunakan kecerdasan buatan (AI), kata Datuk Fahmi Fadzil.
Menteri Komunikasi itu berkata, bagi tempoh 1 Jan 2024 hingga 31 Ogos lepas, sebanyak 1,602 permohonan untuk menurunkan kandungan penipuan berasaskan AI dikemukakan Suruhanjaya Komunikasi dan Multimedia Malaysia (SKMM), namun hanya 1,346 kandungan diturunkan, iaitu kadar pematuhan sekitar 84%.
“Daripada pengamatan SKMM dan saya sendiri, platform-platform media sosial tidak mengambil serius isu keselamatan dalam talian melibatkan kandungan AI.
“Hal ini terbukti apabila Seri Paduka Baginda Yang di-Pertuan Agong dan perdana menteri sendiri menjadi mangsa penipuan deepfake yang kononnya mempromosikan skim pelaburan,” katanya pada sesi soal jawab lisan di Dewan Negara.
Beliau menjawab pertanyaan Senator Rita Sarimah Patrick Insol mengenai jumlah kes penipuan yang dikesan menggunakan AI dalam tempoh dua tahun kebelakangan ini serta langkah meningkatkan kesedaran masyarakat berkaitan jenayah digital itu.
Fahmi berkata, memandangkan keperluan mendesak penguatkuasaan undang-undang itu, kerajaan akan melaksanakan Akta Keselamatan Dalam Talian 2025 pada hujung tahun ini atau awal 2026, yang antara lain mewajibkan semua platform media sosial dan aplikasi pemesejan dalam talian menggunakan label pada kandungan berasaskan AI.
“Platform diwajibkan menggunakan label seperti ‘AI Generated’ atau ‘AI Enhanced’ pada gambar atau kandungan AI. Kita akui AI boleh menambah baik sesuatu visual, namun ia tidak boleh disalahgunakan untuk tujuan penipuan yang akhirnya merugikan orang ramai,” katanya.
Selain itu, akta itu turut mewajibkan penyedia perkhidmatan menyediakan pelan keselamatan dalam talian sebagai bukti pematuhan terhadap peraturan, manakala SKMM kini meneliti kemungkinan mengenakan syarat pelesenan kepada aplikasi yang menggunakan AI.
Sebagai usaha membanteras jenayah digital secara menyeluruh, Fahmi berkata kerajaan menubuhkan Pusat Respons Scam Kebangsaan (NSRC) yang diterajui polis dengan kerjasama Kementerian Komunikasi, Kementerian Dalam Negeri (KDN), Bank Negara dan SKMM.
Menurutnya, NSRC berperanan sebagai pusat tindakan segera terhadap kes penipuan digital, di samping melaksanakan program kesedaran awam dan kempen nasional berkaitan jenayah digital.
Fahmi turut memaklumkan bahawa Kempen Internet Selamat SKMM yang dilancarkan pada Januari lalu dilaksanakan di 1,958 institusi pendidikan melibatkan lebih 145,000 peserta, manakala 236 program masyarakat umum dengan penyertaan lebih 141,000 peserta dijalankan sehingga 31 Ogos.
