AI Risks: Indonesian Panel Warns of Data Theft, Copyright Violations

12 Mar 2025 | Dilihat: 224 kali

Jakarta. Indonesian artists, academics, and legal experts are warning about the risks of artificial intelligence (AI), including copyright violations, data exploitation, bias, and growing social inequality as major corporations dominate AI development.

"The AI roadmap discusses how Indonesia can compete globally in this field, but it does not address the risks," said Saras Dewi, a writer and philosophy lecturer at the University of Indonesia.

Saras spoke at a panel discussion titled "Copyright and the Philosophy of AI," held recently at Taman Ismail Marzuki.

"There are aspects that have not been considered. No matter how much I, as a researcher, admire artificial intelligence, we must remain skeptical and critical. We should not simply be in awe of these machines, believing they can do anything we imagine, when in fact, they are still full of biases," she added.

AI development worldwide has been dominated by major corporations such as Microsoft (an investor in OpenAI), Google, Meta, and Amazon. According to UNESCO research, popular generative AI products like ChatGPT, Midjourney, and DALL-E continue to perpetuate harmful gender and racial biases. Women were described as working in domestic roles far more often than men—four times as often by one model—and were frequently associated with words like "home," "family,” and "children," while male names were linked to "business," "executive," "salary," and "career.”.

Various reports have also revealed that these AI products are built on data theft and labor exploitation in developing countries. According to TIME, OpenAI used outsourced Kenyan laborers earning less than $2 per hour. Additionally, some of these companies have supplied their technologies to the US military, potentially for use in global military campaigns.

Riri Satria, a lecturer at the University of Indonesia’s Faculty of Computer Science, said AI-generated results should not be used for critical and strategic human-related decisions.

"Matters concerning human well-being must be decided by humans, not AI," Riri said.

He called for legislation to regulate AI usage and suggested the establishment of a National AI Agency to protect citizens from unethical AI practices.

Indonesia's National AI Strategy 2020-2045, developed by the Agency for the Assessment and Application of Technology (BPPT), already includes plans for an AI Ethics Commission.

Generative AI also raises copyright concerns among artists. Many AI companies have been known to use artists' works without permission to train their models and generate new creations.

According to copyright lawyer Dimaz Prayudha, copyright violations frequently occur when AI is used to generate content such as articles, songs, and paintings. Users often have no control over which works AI uses to produce new outputs.

If an AI system is found to have used an artist’s work without permission, the artist has the right to sue both the AI user and the AI company.

"The first party that can be sued is the AI user (the person providing the prompt), and the second is the AI company itself for creating a system that enables unauthorized use of copyrighted works," Dimaz explained.

Sumber : JAKARTA GLOBE

Bagikan ke

Riri Satria

Riri Satria lahir di Padang, Sumatera Barat 14 Mei 1970, aktif bergiat di dunia kesusatraan Indonesia, pendiri serta Ketua Jagat Sastra Milenia (JSM) di Jakarta, serta menulis puisi. Namanya tercantum dalam buku “Apa dan Siapa Penyair Indonesia’ yang diterbitkan Yayasan Hari Puisi Indonesia (2018). Puisinya sudah diterbitkan dalam buku puisi tunggal: “Jendela” (2016), “Winter in Paris” (2017), “Siluet, Senja, dan Jingga” (2019), serta “Metaverse” (2022), di samping lebih dari 60 buku kumpulan puisi bersama penyair lainnya, termasuk buku kumpulan puisi duet bersama penyair Emi Suy berjudul “Algoritma Kesunyian” (2023). Riri juga menulis esai dengan beragam topik: sains dan matematika, teknologi dan transformasi digital, ekonomi dan bisnis, pendidikan dan penelitian, yang dibukukan dalam beberapa buku: “Untuk Eksekutif Muda: Paradigma Baru dalam Perubahan Lingkungan Bisnis” (2003), trilogi “Proposisi Teman Ngopi” (2021) yang terdiri tiga buku “Ekonomi, Bisnis, dan Era Digital”, “Pendidikan dan Pengembangan Diri”, dan “Sastra dan Masa Depan Puisi” (2021), serta “Jelajah” (2022). Dalam beberapa tahun terakhir ini sejak tahun 2018, Riri Satria aktif menekuni dampak teknologi kecerdasan buatan (artificial intelligence atau AI) terhadap dunia kesusastraan, terutama puisi. Riri diundang menjadi narasumber untuk membahas topik ini di berbagai acara sastra, antara lain: Seminar Internasional Sastra di Universitas Pakuan, Bogor (2018), Seminar Perayaan Hari Puisi Indonesia, Jakarta (2019), Banjarbaru’s Rainy Day Literary Festival, Banjarbaru Kalimantan Selatan (2019), Seminar Perayaan Hari Puisi Indonesia, Jakarta (2021), Malay Writers and Cultural Festival (MWCF) 2024 di Jambi (2024), Seminar Jambore Sastra Asia Tenggara (JSAT) di Banyuwangi (2024), serta Seminar Etika Kreasi di Era Digital, Diskusi Hak Cipta dan Filosofi AI yang diselenggarakan oleh Dewan Kesenian Jakarta (2025). Sebagai Staf Khusus Menteri Koordinator Politik dan Keamanan Republik Indonesia (Meko Polkam RI) bidang Digital, Siber, dan Ekonomi sejak Oktober 2024 s/d September 2025, sebagai Komisaris Utama PT. ILCS Pelindo Solusi Digital PSD sejak April 2024, sebuah perusahaan teknologi dalam grup Pelabuhan Indonesia atau Pelindo. Sebelumnya selama 5 tahun Riri menjabat sebagai Komisaris Independen pada PT. Jakarta International Container Terminal (JICT) 2019-2024, sebuah pelabuhan petikemas terbesar di Indonesia yag merupakan joint venture antara Pelabuhan Indonesia dengan Hutchison Port Holdings Hongkong melalui Hutchison Ports Indonesia. Riri juga anggota Dewan Juri untuk Indonesia Digital Culture Excellence Award serta Indonesia Human Capital Excellence Award sejak tahun 2021. Riri juga dosen Fakultas Ilmu Komputer Universitas Indonesia, dan mengajar topik Sistem Korporat, Bisnis Digital, Manajemen Strategis Sistem Informasi, serta Metodologi Penelitian untuk program Magister Teknologi Informasi (MTI). Selain itu Riri adalah Anggota Dewan Pertimbangan Ikatan Alumni Universitas Indonesia dan sebelumnya Ketua Ikatan Alumni Fakultas Ilmu Komputer Universitas Indonesia.

Berita Terkait

Konten Populer

Terkini Teknologi & Transformasi Digital Ekonomi dan Bisnis

EKONOMI DIGITAL INDONESIA 2025 🇮🇩

Pada tahun 2025, transaksi ekonomi digital diperkirakan se besar Rp 1.775 T. Ekonomi digital Indonesia diperkirakan akan terus berkembang dengan nilai transaksi diprediksi akan mencapai US$124 miliar atau sekitar Rp1.775 triliun pada tahun 2025. Dengan proyeksi tersebut, Indonesia akan berada pada peringkat pertama di ASEAN sebagai negara dengan nilai transaksi ekonomi digital terbesar dengan kontribusi […]

Jul 02, 2025
Teknologi & Transformasi Digital Sastra (Puisi dan Esai) Apa Kata Media?

Riri Satria, Kecerdasan Buatan (AI), ChatGPT, Prompting, Dan Puisi

Mengawali tulisan ini, saya ingin mengucapkan alhamdulillah puji syukur kepada Allah Jalla wa Alaa atas segala karunia di setiap detik dan hela napas pada hamba-hamba-Nya. Saya mengucapkan selamat serta ikut bangga dan bahagia atas amanah baru yang diembankan negara kepada Ketua Komunitas Jagat Sastra Milenia (JSM), abang, sahabat, penyair, sang inspirator Riri Satria sebagai Komisaris Utama […]

Apr 13, 2024
Apa Kata Media?

The Art of Perception Engineering

Era digital ini dengan segala kemajuannya seperti kecerdasan buatan, metaverse, bahkan media sosial sederhana pun seperti Facebook ini memiliki potensi dahsyat untuk melakukan rekayasa terhadap persepsi atau perception engineering. Ya, sekarang eranya post truth society dan dunia penuh dengan yang namanya perseption engineering. Saat ini, perception is the reality, walaupun mereka yang sanggup berpikir […]

May 27, 2024
Teknologi & Transformasi Digital

Peresmian Digital Maritime Development Center (DMDC) PT. Integrasi Logistik Cipta Solusi (ILCS) / Pe...

oleh: Riri Satria Hari ini adalah Hari Kebangkitan Nasional, 20 Mei 2024. Kita memperingatinya saat ini dengan meresmikan Digital Maritime Development Center (DMDC) PT. Integrasi Logistik Cipta Solusi (ILCS) / Pelindo Solusi Digital (PSD), yang sama-sama kita banggakan. Ini adalah pusat penelitian, pengembangan, dan inovasi solusi digital terintegrasi untuk ekosistem logistik maritim di Indonesia. […]

May 20, 2024
Apa Kata Media?

TENTANG RIRI SATRIA

Riri Satria adalah seorang pengamat ekonomi digital dan kreatif, sekaligus pencinta puisi yang lahir di Padang, Sumatera Barat, 14 Mei 1970. Sarjana Ilmu Komputer (S. Kom) dari Fakultas Ilmu Komputer Universitas Indonesia yang mengambil Magister Manajemen (MM) dari Sekolah Tinggi Manajemen PPM ini tengah menempuh program S3 Doctor of Business Administration (DBA) di Paris School […]

Nov 14, 2021
Dokumen Terkini

9 Langkah Riri Satria

DOWNLOAD DOKUMEN

May 17, 2025
Apa Kata Sahabat?

Riri Satria, Sang Polymath

Mungkinkah seseorang mengeluti 3 profesi sekaligus secara serius dan sepenuh hati?. Bisa. Inilah yang dilakukan oleh Riri Satria, Sang Polymath Di suatu siang, Riri memasuki pelataran Taman Ismail Marzuki (TIM) dengan santai. Berkaos oblong, bercelana jeans serta beralas sandal. Di perjalanan memasuki sebuah ruang sastra, ia bertegur sapa dengan sejumlah seniman yang sedang berkumpul. Tanpa […]

Jun 06, 2021
Teknologi & Transformasi Digital Apa Kata Media?

Hadapi Arus Deras Disrupsi Digital, Riri Satria: Orang Minang Banyak Tempat Untuk Belajar

Menarik memahami makna pendidikan dalam budaya Minangkabau. Orang Minang memiliki banyak tempat belajar untuk hidupnya. “Sejatinya kita belajar dari berbagai tempat, yaitu sakola (sekolah), surau (masjid), galanggang (gelanggang), dan pasa (pasar). Di atas semua itu, kita harus mampu belajar dari semua yang ada di dalam, karena pepatah Minang mengatakan bahwa alam takambang jadi guru,” kata Pakar Teknologi Digital, Riri Satria, saat dihubungi majalahelipsis.com terkait […]

May 03, 2024