bernasnews.com – Pemerintah Daerah (Pemda) Daerah Istimewa Yogyakarta (DIY) memastikan video yang menampilkan Gubernur DIY Sri Sultan Hamengku Buwono X dan beredar melalui WhatsApp merupakan konten palsu hasil rekayasa kecerdasan buatan atau Artificial Intelligence (AI).
Klarifikasi disampaikan pada Rabu (22/7) setelah dilakukan penelusuran terhadap asal-usul video yang diduga digunakan sebagai bagian dari modus penipuan.
Video tersebut memanfaatkan kemiripan wajah dan suara Sri Sultan HB X sehingga tampak meyakinkan. Pemda DIY mengingatkan masyarakat agar tidak langsung mempercayai maupun menyebarkan konten serupa sebelum memastikan sumber resminya.
Maraknya teknologi AI generatif membuat video palsu atau deepfake semakin mudah diproduksi. Dalam beberapa kasus, konten semacam ini digunakan untuk membangun kepercayaan calon korban sebelum mengarahkan mereka melakukan transaksi atau memberikan informasi tertentu.
Pemda DIY Telusuri Asal Video
Pranata Humas Ahli Madya Dinas Komunikasi dan Informatika (Diskominfo) DIY, Ditya Nanaryo Aji, mengatakan penelusuran dilakukan setelah pihaknya menerima tindak lanjut dari GKR Condrokirono terkait video yang beredar di aplikasi WhatsApp.
Tim Humas kemudian mengecek apakah rekaman tersebut pernah diproduksi atau didokumentasikan oleh Pemerintah Daerah DIY.
“Hasil pengecekan kami menunjukkan bahwa video tersebut bukan berasal dari dokumentasi Humas Pemerintah Daerah DIY. Dari isi maupun cara penyampaiannya, kami memastikan itu merupakan video hasil rekayasa menggunakan AI,” ujar Ditya di Kantor Humas Pemda DIY, Gedhong Baleworo, Kompleks Kepatihan, Yogyakarta.
Hasil pemeriksaan juga menunjukkan gaya penyampaian dalam video tidak sesuai dengan karakter komunikasi Sri Sultan selama menjalankan tugas sebagai kepala daerah.
Narasi Dinilai Tidak Sesuai Gaya Komunikasi Sri Sultan
Menurut Ditya, isi video membawa pembicaraan ke ranah pribadi seseorang. Selama mendampingi berbagai kegiatan kehumasan Gubernur DIY, pihaknya mengaku tidak pernah menemukan pernyataan dengan pola komunikasi seperti yang muncul dalam video tersebut.
“Selama kami mendampingi kegiatan kehumasan, Ngarsa Dalem tidak pernah menyampaikan pernyataan yang masuk ke ranah pribadi seseorang seperti yang tergambar dalam video tersebut. Karena itu kami dapat memastikan bahwa konten tersebut bukan pernyataan beliau,” katanya.
Penegasan tersebut menjadi salah satu dasar Pemda DIY memastikan video itu bukan berasal dari kanal komunikasi resmi pemerintah.
Diduga Digunakan untuk Modus Penipuan
Dari hasil penelusuran, video AI tersebut diduga sengaja dibuat untuk menggiring calon korban melakukan pembayaran sebelum barang dikirim.
Narasi dalam video bahkan menyebut nama seseorang agar percakapan terlihat lebih nyata dan meyakinkan.
“Isi videonya seolah-olah mengarahkan seseorang agar melakukan pembayaran suatu barang sebelum barang tersebut dikirim. Bahkan di dalam video itu juga disebut nama seseorang. Hal seperti ini tentu tidak mungkin disampaikan oleh Ngarsa Dalem,” jelas Ditya.
Pola seperti ini menjadi salah satu modus yang mulai banyak ditemukan dalam penyalahgunaan teknologi AI. Pelaku memanfaatkan figur publik yang dikenal luas agar korban lebih mudah percaya terhadap isi video.
Masyarakat Diminta Verifikasi sebelum Percaya
Peredaran video melalui aplikasi percakapan membuat penyebarannya berlangsung sangat cepat. Dalam praktiknya, konten seperti ini kerap diteruskan dari satu grup ke grup lain tanpa proses verifikasi sehingga berpotensi menjangkau lebih banyak orang dalam waktu singkat.
Karena itu, Pemda DIY memilih mengedepankan edukasi literasi digital kepada masyarakat.
Warga diminta tidak mudah terpancing apabila menerima video yang mengatasnamakan pejabat pemerintah, terutama jika memuat ajakan tertentu, permintaan pembayaran, penawaran barang, atau informasi yang belum pernah diumumkan melalui kanal resmi.
Penyalahgunaan AI Semakin Sulit Dikenali
Kemajuan teknologi AI membuat konten hasil rekayasa kini tampil semakin realistis. Ekspresi wajah, gerakan bibir, hingga intonasi suara dapat dibuat menyerupai tokoh asli sehingga masyarakat semakin sulit membedakan mana video autentik dan mana yang merupakan hasil manipulasi digital.
Kondisi tersebut menjadi tantangan baru dalam menjaga keamanan informasi di ruang digital. Penyalahgunaan AI tidak hanya berpotensi memicu penyebaran hoaks, tetapi juga membuka peluang munculnya berbagai bentuk penipuan yang mengatasnamakan tokoh publik maupun lembaga resmi.
Ditya mengimbau masyarakat menjadikan proses verifikasi sebagai kebiasaan sebelum mempercayai atau membagikan informasi.
“Kami ingin masyarakat semakin memahami bahwa teknologi AI dapat disalahgunakan untuk membuat konten yang tampak meyakinkan. Karena itu, setiap menerima video atau informasi yang mengatasnamakan Pemda DIY maupun Bapak Gubernur, pastikan terlebih dahulu sumbernya sebelum mempercayai atau menyebarkannya,” ujarnya.
Belum Ada Pembahasan Langkah Hukum
Terkini, Pemda DIY belum membahas langkah hukum terkait beredarnya video AI yang mencatut nama Sri Sultan HB X.
Fokus pemerintah saat ini masih diarahkan pada peningkatan literasi digital agar masyarakat lebih waspada terhadap konten deepfake, mampu mengenali ciri-ciri rekayasa AI, dan tidak menjadi korban modus penipuan yang memanfaatkan kemajuan teknologi. (ef linangkung)
