Video yang dihasilkan oleh aplikasi kecerdasan buatan atau AI semakin sulit dibedakan – dan mulai membanjiri media sosial dengan konten yang berisi hasutan dan propaganda. Bagaimana cara mengidentifikasi informasi dan berita palsu yang dibuat oleh AI?

Di sebuah video TikTok, seorang jurnalis memegang mikrofon berdiri di jalan di London dengan bendera Inggris berkibar di latar belakang. Ia bertanya kepada seorang perempuan yang sedang berjalan, siapa yang akan dipilihnya dalam pemilu berikutnya. “Reformasi,” jawab perempuan itu. “Saya hanya ingin merasa kembali sebagai orang Inggris.”

Seorang pengguna memberikan komentar di bawah video tersebut: “Saya penasaran seberapa besar bayarannya untuk mengatakan hal itu.” Namun, adegan ini tidak pernah terjadi dalam dunia nyata. Wawancara tersebut sepenuhnya dibuat-buat. Jurnalisnya diciptakan oleh kecerdasan buatan. Dan jika Anda memperhatikan dengan lebih teliti, terdapat petunjuk yang halus: tanda air samar di sudut yang berisi kata “Veo”, yaitu aplikasi baru pembuat video canggih dari Google DeepMind.

Video berdurasi 8 detik ini bukanlah kejadian yang terpisah. Mulai dari TikTok hingga Telegram, berita sintetis — video hasil AI yang meniru tampilan dan suasana berita — mengalir deras di media sosial. Mereka menggunakan bahasa visual jurnalisme: liputan lapangan, grafik pada layar, dan reporter yang tampak percaya diri. Namun, sering kali semuanya sepenuhnya palsu dengan tujuan memicu kemarahan, memengaruhi pandangan, atau hanya untuk menjadi viral.

Jika Anda cepat bergerak di media sosial, itu akan terlihat seperti berita, terdengar seperti berita,” kata Hany Farid, seorang profesor di University of California, Berkeley, yang spesialisasinya adalah forensik digital, kepada DW. “Dan itulah risikonya.

Tim verifikasi fakta DW sering kali mengamati bagaimana video-video semacam itu muncul kembali selama masa krisis — seperti kerusuhan atau peristiwa penting — yang digunakan kembali untuk menimbulkan kebingungan atau secara salah memperlihatkan peningkatan dramatis.

Akibatnya jauh melebihi lingkup media sosial

Selama peningkatan ketegangan terbaru antara Israel dan Iran, TikTok serta situs lainnya dipenuhi dengan konten yang dibuat oleh AI, termasuk berita palsu yang menyatakan klaim-klaim yang tidak benar — seperti Rusia yang diduga ikut serta dalam perang, Iran menyerang Amerika Serikat, atau Iran menembak jatuh pesawat tempur B-2 AS.

Pada tahun 2024, para peneliti dari Taiwan mencatat adanya berita yang dibuat oleh kecerdasan buatan di platform lokal yang salah menyebutkan bahwa seorang politisi pendukung otonomi melakukan tindakan korupsi. Video-video tersebut tidak hanya menyebarkan informasi palsu — tetapi juga menciptakan ketidakpercayaan, merusak kredibilitas seluruh media berita menjelang pemilihan umum di negara tersebut.

Namun, beberapa pengguna juga beralih ke berita yang dibuat oleh AI untuk tujuan parodi atau lucu. Salah satu video TikTok yang viral menampilkan seorang presenter sintetis melaporkan peristiwa di depan lubang yang sangat dalam hingga sepeda motor bisa masuk ke dalamnya. Yang lain menciptakan avatar yang berkata, “Saya saat ini di perbatasan, tapi tidak ada perang. Ibu, Ayah, ini terlihat nyata — tapi semuanya adalah AI.”

Bagaimana cara mengenali yang palsu?

Aplikasi seperti Veo, Synthesia, dan yang lainnya menyediakan tanda yang disebutwatermarkdalam video mereka, meskipun labelnya terkadang samar, dipotong, atau diabaikan. Namun, bahkan klip yang jelas ditandai sering kali dihiasi dengan komentar pengguna yang bertanya: “Apakah ini benar-benar nyata?”

Berita palsu adalah salah satu bentuk konten yang dihasilkan oleh AI yang paling canggih dan sulit untuk dibedakan. Namun, tetap ada tanda-tanda yang bisa dikenali. Perhatikan gerakan mata dan mulut. Avatar buatan sering kali mengalami kedipan yang tidak wajar atau kesulitan dalam menyesuaikan gerakan bibir secara realistis. Gigi mungkin terlihat terlalu halus atau berkilau dengan cara yang tidak alami. Bentuk wajah bahkan bisa berubah selama seseorang sedang berbicara. Gerakan dan ekspresi wajah cenderung terlalu kaku dan kurang variasi seperti yang terlihat pada manusia asli.

Teks juga dapat berfungsi sebagai petunjuk. Teks atau spanduk di layar sering kali memuat frasa yang tidak memiliki makna atau terdapat kesalahan ketik. Hany Farid menjelaskan, tantangan dalam mengidentifikasi konten sintetis adalah target yang selalu berubah. “Apa pun yang saya sampaikan kepada Anda hari ini tentang cara mengenali AI palsu mungkin sudah tidak relevan lagi dalam enam bulan,” katanya.

AI semakin murah dan semakin cepat menghasilkan keuntungan

Perkembangan teknologi AI telah berlangsung secara signifikan. Aplikasi seperti Veo kini memungkinkan siapa saja — tanpa pengalaman dalam bidang media — untuk membuat video berkualitas tinggi yang mirip dengan tayangan televisi hanya dengan biaya beberapa ratus euro per bulan. Avatar dapat berbicara dengan lancar, bergerak secara realistis, dan bisa dimasukkan ke hampir semua adegan hanya dengan beberapa perintah yang ditulis. “Anda tidak perlu studio. Bahkan Anda tidak memerlukan fakta,” ujar Hany Farid.

Sebagian besar video ini dibuat dengan tujuan memperoleh interaksi sebanyak mungkin. Mereka menyentuh isu-isu yang sangat polarisasi, seperti migrasi, konflik di Gaza, Ukraina, dan Donald Trump, untuk memicu respons emosional kuat dan mendorong pengguna untuk berbagi.

Sistem monetisasi semakin memberikan insentif kepada para kreator: semakin banyak tayangan video, semakin besar pula penghasilannya. Lingkungan ini telah melahirkan jenis baru pembuat konten “AI slop”: pengguna yang menciptakan materi sintetis berkualitas rendah yang berhubungan dengan topik yang sedang populer hanya untuk meningkatkan jumlah tayangan.

Akun dengan sekitar 44.000 pengikut ini sering kali langsung menyampaikan informasi terbaru sebelum jurnalis memiliki kesempatan untuk memverifikasi kebenarannya. Banyak video TikTok menampilkan avatar AI yang berpakaian mirip dengan reporter CNN atau BBC, menyajikan berita palsu atau “laporan saksi mata” yang diubah sesuai keinginan.

Pada saat terjadi situasi breaking news— ketika pengguna secara aktif mencari informasi — konten yang terlihat nyata dari kecerdasan buatan menjadi metode yang sangat efisien untuk menarik perhatian dan mendapatkan klik publik. “Platform telah menjauh dari pengawasan konten,” kata Hany Farid kepada DW. “Saya bisa membuat konten, saya bisa menyebarkannya, dan ada audiens yang bersedia percaya padanya.”

Artikel ini pertama kali diterbitkan dalam bahasa Inggris. Diadaptasi oleh: Hendra Pasuhuk. Editor: Rizki Nugraha.

ind:penulis_konten: Monir Ghaedi, Adnan Sidibe