Riset: GenAI Berpotensi Perluas Penyebaran Misinformasi hingga Ancaman Privasi

Liputan6.com, Jakarta - Teknologi Generative Artificial Intelligence (GenAI) membuka babak baru bagi peradaban manusia. Namun, seiring dengan kemudahan akses dan beragam peluang yang ditawarkan, demokratisasi teknologi ini juga membawa risiko serius.

Risiko tersebut mulai dari disinformasi hingga manipulasi informasi asing yang mengancam ketahanan digital.

Riset dari Safer Internet Lab (SAIL) dan Center for Digital Society (CfDS) menunjukkan bahwa teknologi AI berpotensi memperbesar penyebaran misinformasi.

Selain itu, AI juga mengancam integritas demokrasi, mendorong penipuan daring, dan memengaruhi geopolitik melalui praktik Foreign Information Manipulation and Intervention (FIMI), khususnya di kawasan Asia-Pasifik.

Bahkan, CfDS secara spesifik menyoroti risiko serupa yang dapat dapat 'dibentuk' AI dalam konteks Pemilu 2024.

Sebagai respons nyata, Centre for Strategic and International Studies (CSIS) melalui SAIL bekerja sama dengan Center for Digital Society (CfDS) menggelar Information Resilience and Integrity Symposium (IRIS) di Universitas Gadjah Mada (UGM), Yogyakarta, baru-baru ini.

Direktur Eksekutif CSIS, Yose Rizal Damuri, menekankan bahwa tantangan GenAI yang ada meliputi penipuan finansial, manipulasi informasi, hingga ancaman terhadap privasi dan integritas demokrasi.

"Untuk itu, IRIS diharapkan menjadi platform lintas sektor yang menjembatani kajian akademis dengan kebijakan berbasis data," ujar Yose dalam keterangannya, Jumat (22/8/2025).

Simposium ini dirancang sebagai platform untuk membahas strategi kolektif kawasan Asia-Pasifik dalam menghadapi gelombang inovasi teknologi sambil tetap menjaga integritas dan ketahanan ruang digital.

Berbeda dengan misinformasi yang dibuat secara manual oleh manusia yang memerlukan waktu dan upaya, AI mampu menghasilkan konten menyesatkan dalam hitungan detik.

Konten itu kemudian dapat disebarkan secara masif melalui berbagai platform media sosial, mencapai audiens yang luas dalam waktu singkat.

Model GenAI memiliki kemampuan untuk menciptakan konten yang sangat mirip dengan buatan manusia, termasuk artikel berita palsu atau ujaran kebencian. Konten semacam ini sangat sulit dibedakan dari konten asli atau bahkan sulit dikenali sebagai hasil buatan bot AI.

Tingkat realisme yang tinggi ini mempersulit masyarakat umum untuk membedakan antara fakta dan fiksi, sehingga meningkatkan kerentanan terhadap manipulasi informasi.

Teknologi ini mempercepat upaya manipulasi informasi dengan memungkinkan produksi media sintetis berkualitas tinggi yang lebih murah dan mudah. Ini termasuk pembuatan gambar tokoh publik dan peristiwa yang meyakinkan namun palsu, yang dapat memengaruhi opini publik secara signifikan.

Salah satu bentuk ancaman paling mengkhawatirkan adalah kemampuan GenAI untuk menciptakan video dan rekaman audio deepfake yang sangat meyakinkan.

Ya, deepfake mampu meniru orang sungguhan, seringkali tokoh politik, untuk menyebarkan informasi palsu atau pernyataan yang tidak pernah mereka buat.

Deepfake semacam itu dapat menjadi viral di platform media sosial dalam hitungan jam sebelum fakta dapat diverifikasi, seperti kasus gambar fiktif kebakaran dekat Pentagon atau foto Paus yang dimanipulasi.

Masalah ini diperparah oleh fakta bahwa model GenAI dilatih pada sejumlah besar data yang tidak terfilter, yang seringkali bias atau tidak akurat.

Akibatnya, mereka dapat menghasilkan konten yang berbahaya atau menyesatkan, melanggengkan bias dan stereotip yang ada dalam bahasa yang mereka hasilkan. Hal ini menimbulkan tantangan serius dalam memastikan integritas informasi di era digital.