bakabar.com, JAKARTA - Pengguna media sosial atau aplikasi berbagi video di internet perlu waspada dengan konten deepfake dengan teknologi AI.
Deepfake merupakan konten berupa audio maupun video yang sudah disunting sedemikian rupa menggunakan teknologi AI (Artificial Intelligence) berbasis Voice Generator.
Konten deepfake biasanya mengandung suatu narasi yang tidak sesuai atau disinformasi. Kontennya dibuat untuk tujuan tertentu semisal propaganda.
Mengutip Eleven Labs pada Rabu (24/1), AI Voice Generator mampu memproses sebuah perintah teks untuk menghasilkan suara.
Baca Juga: Nike Air Jordan Rilis Kolaborasi Bersama Howard, Pamerkan Sneakers Rendah Terbaru
Karakter suara yang diproses dapat diubah sedemikian rupa menggunakan mekanisme Voice Changer.
AI Voice Generator juga disertai teknik Natural Languange Processing (NLP) yang mampu memahami suasana hingga ekspresi dari perintah teks, ataupun suara yang diberikan.
Selain itu, ada lagi teknologi AI bernama Voice Cloning yang mampu meniru suara seseorang secara lebih detail.
Voice Cloning mampu menghasilkan suara yang mirip seperti manusia dengan penyesuaian karakter tertentu. Voice Cloning disertai detail lainnya semisal aksen, pola sampai nada bicara.
Baca Juga: OnePlus Bakal Rilis Ponsel Edisi Genshin Impact, Speknya Ditingkatkan
Maka dari itu, deepfake hasil rekayasa AI ini perlu diwaspadai, terutama di suasana pemilu seperti sekarang ini.
Contohnya, baru-baru ini beredar percakapan dengan suara yang mirip Surya Paloh selaku Ketua Partai NasDem, dan Capres nomor urut 1 Anies Baswedan.
Konten deepfake tersebut berisi suara mirip Surya Paloh sedang memarahi Anies Baswedan.
Namun saat ini sudah dikonfirmasi sebagai hoaks oleh akun resmi @NasDem di X.
"Waspada Hoax ya kakak-kakak semua. Beredar video suara rekaman palsu Ketua Umum Partai NasDem Surya Paloh dan Capres 01 Anies Baswedan.
Sekali lagi, Partai NasDem tegaskan itu tidak benar dan merupakan fitnah yang amat keji," cuit NasDem, Selasa (23/1).
Waspada Hoax ya kakak-kakak semua.
— Partai NasDem (@NasDem) January 22, 2024
Beredar video suara rekaman palsu Ketua Umum Partai NasDem Surya Paloh dan Capres 01 Anies Baswedan.
Sekali lagi, Partai NasDem tegaskan itu tidak benar dan merupakan fitnah yang amat kejiâŒ#WaspadaHoax#Hoax#SebarHoax#VideoHoax#Fitnah… pic.twitter.com/kZqrnj3Z77
Sebelumnya pada Oktober 2023, konten deepfake berupa video yang menampilkan Presiden Joko Widodo berpidato dengan bahasa Cina juga beredar di dunia maya.
Video tersebut memuat narasi hoaks soal pemerintahan Presiden Joko Widodo telah dikendalikan oleh negara Cina.
Baca Juga: Apple Siap Merilis iPad Air, iPad Pro dan MacBook Air, Intip Speknya
Beberapa contoh produk deepfake hasil kejahatan teknologi AI ini, tentu bisa menyesatkan publik dengan penyebaran yang begitu luas di internet.
Apahabar.com sempat meminta tanggapan beberapa masyarakat, misalnya Yudha P., warga Jakarta Selatan yang menyebut konten deepfake adalah tindak kejahatan yang serius di era digital.
"Zaman makin canggih jadi makin mengerikan, apalagi semenjak ada AI. Sekarang gampang banget menebar kebohongan, intinya harus ada edukasi perihal penggunaan AI dan bagaimana cara masyarakat mengetahui itu," ucap pria tersebut, Rabu (24/1).
Menurut Yudha, konten deepfake buatan AI harus cepat-cepat ditangani para pakar atau ahli di bidangnya secara serius.
"Tujuannya untuk mencegah kebohongan tidak tersebar luas dan mencegah orang-orang termakan hoaks. Sebab beberapa orang mungkin malas mencari kebenaran dari suatu konten palsu semacam ini," paparnya.
Baca Juga: Sharp Rilis Ponsel Kelas Menengah AQUOS Sense8, Harga Rp5 Jutaan
Senada dengan Yudha, Isal warga Depok, Jawa Barat juga menyebut konten deepfake bisa meresahkan masyarakat, terutama di situasi politik yang sedang memanas saat pemilu.
"Ini bahaya karena bisa merugikan suatu pihak. Kemungkinan konten semacam ini dibuat lawan politik untuk saling menjatuhkan. Kini teknologi makin canggih, tapi jangan sampai buat hal yang negatif," ungkap pria 45 tahun tersebut kepada bakabar.com.
Isal menuturkan, kini pengguna media sosial (medsos) atau internet perlu lebih waspada dalam menilai suatu konten.
"Perlu teliti lagi dalam main medsos, karena mungkin deepfake ini ada saja yang percaya dan tidak," tutupnya.
