Ada masa dahulu ketika melihat sebuah foto saya percaya bahwa itu memang benar, yang ditampilkan oleh foto tersebut memang benar terjadi. Percaya bahwa apa yang terekam di sana adalah kenyataan. Percaya bahwa kamera, betapapun terbatasnya, masih menyisakan kejujuran.

Hari ini, perasaan itu perlahan menghilang, bahkan mungkin sudah ambruk. Saya menatap layar dengan curiga. Setiap foto dan video yang lewa saya tanyai dalam hati, apakah ini nyata atau hanya hasil rekayasa?

Perubahan itu tidak datang tiba-tiba. Ia tumbuh seiring hadirnya teknologi bernama deepfake, sebuah kemampuan kecerdasan buatan atau AI untuk memalsukan wajah, suara, gestur, bahkan emosi manusia secara nyaris sempurna. Disrupsi atau guncangan bukan hanya teknologi visual, tetapi fondasi kepercayaan sosial yang selama ini kita bangun diam-diam yang bernama peradaban.

Deepfake dan Lahirnya Keraguan Kolektif

Secara teknis, deepfake adalah produk kemajuan deep learning, khususnya Generative Adversarial Networks (GANs), yang bekerja dengan cara meniru pola. Mesin belajar dari ribuan bahkan jutaan data wajah, suara, dan ekspresi manusia. Ia tidak memahami makna, apalagi niat. Ia hanya mengejar kemiripan.

Masalahnya, dalam kehidupan sosial, kemiripan sering kita anggap sebagai kebenaran. Ini persoalannya utamanya!

Di titik ini, deepfake bukan lagi sekadar persoalan manipulasi visual atau audio. Ia menjadi mesin produksi keraguan. Ketika segala sesuatu bisa dipalsukan, maka segala sesuatu pun layak diragukan. Termasuk kebenaran itu sendiri. Jadi perkembangan teknologi tidak hanya memberikan kepastian dalam analisis, melainkan juga memproduksi keraguan pada peradaban.

Post-Truth Society: Ketika Fakta Kehilangan Daya Tarik

Fenomena deepfake menemukan lahan suburnya dalam apa yang disebut sebagai post-truth society. Istilah ini menjadi populer sejak 2016, ketika Oxford Dictionaries menetapkannya sebagai Word of the Year. Post-truth merujuk pada kondisi ketika fakta objektif kalah pengaruh dibanding emosi dan keyakinan personal dalam membentuk opini publik. Ringkasnya faka kalah dari opini, atau opini bisa menolak fakta!

Dalam post-truth sociey, kebenaran tidak lagi ditolak secara frontal. Ia hanya diabaikan. Fakta dianggap terlalu rumit, terlalu lambat, dan terlalu tidak memuaskan emosi. Yang dicari bukan lagi “apa yang benar”, melainkan “apa yang terasa benar”.

Deepfake bekerja sangat baik dalam logika ini. Ia tidak memerlukan pembuktian. Ia cukup menyentuh perasaan, menguatkan prasangka, dan tampil meyakinkan. Dalam dunia post-truth, meyakinkan sering kali lebih penting daripada benar.

Teknologi Tanpa Etika: Mesin yang Tidak Mengenal Dosa

Kate Crawford dalam buku Atlas of AI (2021) mengingatkan bahwa AI bukanlah entitas netral. AI adalah sistem yang dibangun dari data, kepentingan, dan struktur kekuasaan. Ia tidak memiliki kesadaran moral. Ia tidak tahu mana yang adil atau kejam. AI tidak bertanya apakah ini kebohongan? AI hanya bertanya apakah ini efektif?

Deepfake adalah contoh paling telanjang dari teknologi yang kehilangan pagar etis. Ia memperlihatkan bahwa masalah utama kita bukan pada kecanggihan mesin, tetapi pada ketiadaan nilai yang mengawalnya.

Kebohongan Algoritmik dan Ekonomi Atensi

Masalah ini menjadi jauh lebih serius ketika deepfake bertemu dengan algoritma media sosial. Shoshana Zuboff dalam The Age of Surveillance Capitalism (2019) menjelaskan bahwa platform digital hidup dari ekonomi atensi. Yang paling bernilai bukan kebenaran, melainkan perhatian pengguna.

Algoritma tidak dirancang untuk membedakan fakta dan kebohongan. Ia hanya mengukur mana yang paling banyak diklik, mana yang paling lama ditonton, serta mana yang paling memicu reaksi

Inilah yang dapat kita sebut sebagai kebohongan algoritmi yaitu kebohongan yang tidak selalu dirancang oleh satu aktor jahat, tetapi diperkuat oleh sistem. Deepfake yang mengejutkan akan lebih cepat viral daripada klarifikasi yang sunyi. Narasi palsu yang emosional akan lebih disukai dibanding fakta yang tenang. Dalam sistem seperti ini, kebenaran tidak kalah karena salah, tetapi karena tidak menarik.

Dampak Sosial: Ketika Semua Menjadi Tidak Pasti

Satu hal yang paling terasa dari era deepfake adalah erosi kepercayaan. Kita mulai ragu pada korban, ragu pada saksi, bahkan ragu pada diri sendiri. Hannah Arendt pernah menulis bahwa kebohongan massal bukan hanya menipu, tetapi menghancurkan kemampuan manusia untuk memahami realitas (The Origins of Totalitarianism).

Hari ini, kita menyaksikan dampaknya, di mana terjadi polarisasi sosial yang makin tajam, delegitimasi media dan institusi, era unculnya sikap sinis: “Semua juga bohong.”

Ironisnya, ketika semua hal diragukan, yang bertahan bukan kebenaran, melainkan kekuasaan atas narasi. Siapa yang paling keras, paling viral, dan paling konsisten mengulang kebohongan, dialah yang sering dipercaya.

Sebagai individu, saya merasakan kelelahan yang aneh. Kelelahan untuk terus waspada. Kelelahan untuk memeriksa ulang. Kelelahan untuk menjelaskan bahwa tidak semua yang terlihat itu nyata.

Namun yang paling menyedihkan adalah melihat bagaimana sebagian orang tidak lagi ingin tahu. Mereka tidak mencari kebenaran, melainkan pembenaran. Deepfake, dalam konteks ini, hanyalah alat. Masalah sesungguhnya adalah hasrat manusia untuk percaya pada kebohongan yang menguntungkan dirinya.

Deepfake dan Kerentanan Sosial Kita

Indonesia adalah masyarakat yang sangat visual dan naratif. Kita percaya pada cerita, pada figur, pada wajah. Budaya lisan dan budaya komunal membuat kita terbiasa mempercayai apa yang disampaikan oleh orang yang tampak “berwibawa” atau “dikenal”. Dalam konteks ini, deepfake menjadi sangat berbahaya.

Deepfake bukan sekadar memalsukan wajah atau suara. Ia meminjam kepercayaan sosial yang telah lama kita bangun. Ketika wajah pejabat, tokoh agama, atau figur publik direkayasa untuk mengatakan sesuatu yang tidak pernah ia ucapkan, yang diserang bukan hanya individu itu, tetapi jaringan kepercayaan masyarakat.

Dari Hoaks ke Tiruan yang Nyaris Sempurna

Jika dulu kita masih bisa berkata, “Ah, itu hoaks murahan,” kini batas itu menjadi kabur. Deepfake bekerja dengan presisi. Gerak bibir sinkron. Ekspresi wajah masuk akal. Intonasi suara meyakinkan. Kita tidak lagi berhadapan dengan kebohongan kasar, tetapi dengan kepalsuan yang elegan!

Di Indonesia, deepfake mulai muncul dalam berbagai bentuk penipuan yang mengatasnamakan pejabat atau tokoh terkenal, video palsu yang memancing donasi, investasi, atau transfer uang, serta potongan visual yang memicu kemarahan politik dan polarisasi sosial

Smua itu menjad sangat efektif adalah satu hal yaiu emosi. Deepfake jarang bermain di wilayah rasional. Ia langsung menyentuh rasa takut, harapan, kemarahan, atau rasa hormat.

Post-Truth ala Indonesia

Di Indonesia, post-truth tidak selalu tampil dalam bentuk ideologis yang kaku, tetapi sering hadir sebagai percakapan sehari-hari di media sosial.

Pertanyaan yang muncul bukan lagi, “Apakah ini benar?”, melainkan, “Siapa yang ngomong?”, “Dari grup mana ini?”, seera “Sesuai nggak dengan keyakinan saya?”

Ketika deepfake masuk ke ruang ini, ia menemukan rumah yang hangat. Ia tidak perlu benar. Ia hanya perlu selaras dengan emosi kolektif.

Algoritma dan Penyebaran Tanpa Nurani

Masalahnya tidak berhenti pada teknologi deepfake itu sendiri. Media sosial mempercepat segalanya. Algoritma bekerja tanpa empati, tanpa etika, tanpa kepedulian pada dampak sosial. Konten yang memicu reaksi akan dipromosikan, tak peduli apakah itu hasil rekayasa atau fakta.

Di sinilah kebohongan menjadi sistemik. Bukan lagi soal siapa yang berbohong, tetapi bagaimana sistem memberi panggung pada kebohongan. Dalam konteks Indonesia sebagai negara pengguna media sosial yang sangat besar, efeknya berlipat ganda.

Dampak yang Sunyi tapi Dalam

Sesuau yang paling terasa dari kehadiran deepfake adalah erosi kepercayaan. Kita mulai ragu pada video. Ragu pada suara. Bahkan ragu pada klarifikasi. Ketika seseorang berkata, “Itu bukan saya,” publik bisa dengan mudah menjawab, “Ah, alasan.”

Hannah Arendt pernah mengingatkan bahwa kebohongan massal tidak hanya menipu, tetapi menghancurkan kemampuan manusia untuk membedakan realitas. Di Indonesia hari ini, kita mulai melihat gejalanya:

Diskusi yang cepat berubah menjadi tuduhan, kepercayaan sosial yang terkikis pelan-pelan, lalu yang tersisa sering kali bukan kebenaran, tetapi siapa yang paling keras dan paling viral.

Merawat Kebenaran di Dunia Tiruan

Diperkirakan Indonesia akan mengalami perang deepfake atau deepfake war antar sesama kita yang semakin canggih pada tahun 2029 atau menjelangnya, ketika Pemilu dilaksanakan. Mari kita cerdas menyikapi ini dari sekarang, tidak mudah terpancing, tidak mudah terprovokasi, tidak mudah emosi, apalagi sampai ribut dan terpecah-belah ketika menghadapi badai deepfake ini

Deepfake tidak bisa dihadapi hanya dengan teknologi pendeteksi atau regulasi hukum, meskipun keduanya penting. Namun jauh lebih penting adalah sikap kultural, kesediaan untuk bersabar pada fakta, meragukan emosi sendiri, dan menunda penghakiman.

Di dunia yang semakin lihai meniru realitas, mungkin tindakan paling radikal hari ini adalah memilih jujur, meski tidak populer; memilih pelan, meski tertinggal; dan memilih peduli pada kebenaran, meski melelahkan.

Karena ketika kebenaran benar-benar ditinggalkan, yang runtuh bukan hanya fakta, melainkan makna menjadi manusia itu sendiri.

- RS - Des 2025