AI Risks: Indonesian Panel Warns of Data Theft, Copyright Violations

12 Mar 2025 | Dilihat: 26 kali

Jakarta. Indonesian artists, academics, and legal experts are warning about the risks of artificial intelligence (AI), including copyright violations, data exploitation, bias, and growing social inequality as major corporations dominate AI development.

"The AI roadmap discusses how Indonesia can compete globally in this field, but it does not address the risks," said Saras Dewi, a writer and philosophy lecturer at the University of Indonesia.

Saras spoke at a panel discussion titled "Copyright and the Philosophy of AI," held recently at Taman Ismail Marzuki.

"There are aspects that have not been considered. No matter how much I, as a researcher, admire artificial intelligence, we must remain skeptical and critical. We should not simply be in awe of these machines, believing they can do anything we imagine, when in fact, they are still full of biases," she added.

AI development worldwide has been dominated by major corporations such as Microsoft (an investor in OpenAI), Google, Meta, and Amazon. According to UNESCO research, popular generative AI products like ChatGPT, Midjourney, and DALL-E continue to perpetuate harmful gender and racial biases. Women were described as working in domestic roles far more often than men—four times as often by one model—and were frequently associated with words like "home," "family,” and "children," while male names were linked to "business," "executive," "salary," and "career.”.

Various reports have also revealed that these AI products are built on data theft and labor exploitation in developing countries. According to TIME, OpenAI used outsourced Kenyan laborers earning less than $2 per hour. Additionally, some of these companies have supplied their technologies to the US military, potentially for use in global military campaigns.

Riri Satria, a lecturer at the University of Indonesia’s Faculty of Computer Science, said AI-generated results should not be used for critical and strategic human-related decisions.

"Matters concerning human well-being must be decided by humans, not AI," Riri said.

He called for legislation to regulate AI usage and suggested the establishment of a National AI Agency to protect citizens from unethical AI practices.

Indonesia's National AI Strategy 2020-2045, developed by the Agency for the Assessment and Application of Technology (BPPT), already includes plans for an AI Ethics Commission.

Generative AI also raises copyright concerns among artists. Many AI companies have been known to use artists' works without permission to train their models and generate new creations.

According to copyright lawyer Dimaz Prayudha, copyright violations frequently occur when AI is used to generate content such as articles, songs, and paintings. Users often have no control over which works AI uses to produce new outputs.

If an AI system is found to have used an artist’s work without permission, the artist has the right to sue both the AI user and the AI company.

"The first party that can be sued is the AI user (the person providing the prompt), and the second is the AI company itself for creating a system that enables unauthorized use of copyrighted works," Dimaz explained.

Sumber : JAKARTA GLOBE

Bagikan ke

Riri Satria

Staf Khusus Menteri Koordinator Politik dan Keamanan RI bidang Digital, Siber dan Ekonomi | Pakar Teknologi Digital | Pengamat Ekonomi Digital | Komisaris Utama Integrasi Logistik Cipta Solusi (ILCS)/Pelindo Solusi Digital (PSD) | Founder dan CEO Value Alignment Advisory (VA2) | Dosen Fakultas Ilmu Komputer Universitas Indonesia | Pendiri Jagat Sastra Milenia & SastraMedia.com | Penyair & Penulis | Pencinta Kopi

Berita Terkait

Konten Populer

Apa Kata Media?

The Art of Perception Engineering

Era digital ini dengan segala kemajuannya seperti kecerdasan buatan, metaverse, bahkan media sosial sederhana pun seperti Facebook ini memiliki potensi dahsyat untuk melakukan rekayasa terhadap persepsi atau perception engineering. Ya, sekarang eranya post truth society dan dunia penuh dengan yang namanya perseption engineering. Saat ini, perception is the reality, walaupun mereka yang sanggup berpikir […]

May 27, 2024
Teknologi dan Transformasi Digital Sastra (Puisi dan Esai) Apa Kata Media?

Riri Satria, Kecerdasan Buatan (AI), ChatGPT, Prompting, Dan Puisi

Mengawali tulisan ini, saya ingin mengucapkan alhamdulillah puji syukur kepada Allah Jalla wa Alaa atas segala karunia di setiap detik dan hela napas pada hamba-hamba-Nya. Saya mengucapkan selamat serta ikut bangga dan bahagia atas amanah baru yang diembankan negara kepada Ketua Komunitas Jagat Sastra Milenia (JSM), abang, sahabat, penyair, sang inspirator Riri Satria sebagai Komisaris Utama […]

Apr 13, 2024
Teknologi dan Transformasi Digital

Peresmian Digital Maritime Development Center (DMDC) PT. Integrasi Logistik Cipta Solusi (ILCS) / Pe...

oleh: Riri Satria Hari ini adalah Hari Kebangkitan Nasional, 20 Mei 2024. Kita memperingatinya saat ini dengan meresmikan Digital Maritime Development Center (DMDC) PT. Integrasi Logistik Cipta Solusi (ILCS) / Pelindo Solusi Digital (PSD), yang sama-sama kita banggakan. Ini adalah pusat penelitian, pengembangan, dan inovasi solusi digital terintegrasi untuk ekosistem logistik maritim di Indonesia. […]

May 20, 2024
Apa Kata Media?

TENTANG RIRI SATRIA

Riri Satria adalah seorang pengamat ekonomi digital dan kreatif, sekaligus pencinta puisi yang lahir di Padang, Sumatera Barat, 14 Mei 1970. Sarjana Ilmu Komputer (S. Kom) dari Fakultas Ilmu Komputer Universitas Indonesia yang mengambil Magister Manajemen (MM) dari Sekolah Tinggi Manajemen PPM ini tengah menempuh program S3 Doctor of Business Administration (DBA) di Paris School […]

Nov 14, 2021
Apa Kata Sahabat?

Riri Satria, Sang Polymath

Mungkinkah seseorang mengeluti 3 profesi sekaligus secara serius dan sepenuh hati?. Bisa. Inilah yang dilakukan oleh Riri Satria, Sang Polymath Di suatu siang, Riri memasuki pelataran Taman Ismail Marzuki (TIM) dengan santai. Berkaos oblong, bercelana jeans serta beralas sandal. Di perjalanan memasuki sebuah ruang sastra, ia bertegur sapa dengan sejumlah seniman yang sedang berkumpul. Tanpa […]

Jun 06, 2021
Teknologi dan Transformasi Digital Apa Kata Media?

Hadapi Arus Deras Disrupsi Digital, Riri Satria: Orang Minang Banyak Tempat Untuk Belajar

Menarik memahami makna pendidikan dalam budaya Minangkabau. Orang Minang memiliki banyak tempat belajar untuk hidupnya. “Sejatinya kita belajar dari berbagai tempat, yaitu sakola (sekolah), surau (masjid), galanggang (gelanggang), dan pasa (pasar). Di atas semua itu, kita harus mampu belajar dari semua yang ada di dalam, karena pepatah Minang mengatakan bahwa alam takambang jadi guru,” kata Pakar Teknologi Digital, Riri Satria, saat dihubungi majalahelipsis.com terkait […]

May 03, 2024
Sastra (Puisi dan Esai) Apa Kata Media?

Antologi Puisi Bersama Sambut HUT Ke-4 Komunitas Jagat Sastra Milenia

Komunitas Jagat Sastra Milenia pada tanggal 10 Oktober 2024 mendatang merayakan Hari Ulang Tahun ke-4. Menyambut hari jadinya itu, Komunitas JSM mengundang penyair-penyair Indonesia mengirim puisi dan karya akan dibukukan. Ketua Komunitas JSM Riri Satria kepada majalahelipsis.com mengatakan, topik antologi puisi itu adalah “Dunia dan Tujuan Pembangunan Berkelanjutan (Sustainable Development Goals/SDG) dalam Puisi.” “Tahun 1980, Lembaga Studi Pembangunan […]

May 03, 2024
Ekonomi dan Bisnis Apa Kata Media?

Perubahan adalah sebuah peluang

Beri kuliah umum di hadapan 200 mahasiswa Unand, Riri Satria: Generasi Hari Ini Jangan Sampai Jadi Penonton Di Negara Sendiri. Mahasiswa harus jeli dan melek pada perubahan. Perubahan adalah suatu keniscayaan. Dalam menghadapi perubahan itu, ada yang pro dan ada pula yang kontra. “Semua, tentu, tergantung dari sudut pandang mereka. Yang menolak perubahan menurut mereka […]

May 15, 2024
Teknologi dan Transformasi Digital Apa Kata Media?

Tantangan Terbesar Transformasi Ekonomi Digital Adalah Masalah Mindset

Banyak hal baru bermunculan saat ini yang mungkin sebelumnya tidak terbayangkan oleh masyarakat banyak, misalnya algoritma bahkan yang artificial intelligence sudah menjadi bagian dari hidup sehari-hari. Selain itu, juga ada yang namanya cryptocurrency, dan sebagainya. “Tantangan terbesar untuk sukses memasuki era ekonomi digital dan melakukan tranformasi digital hari ini terletak pada diri kita sendiri, yaitu mengubah mindset. Tanpa growth mindset, kita akan sulit […]

Sep 03, 2022
Sastra (Puisi dan Esai) Apa Kata Media?

Komunitas Jagat Sastra Milenia Luncurkan Buku “Lima Titik Nol: Masyarakat Cerdas Dalam Puisi

Komunitas Jagat Sastra Milenia meluncurkan buku antologi puisi Lima Titik Nol: Masyarakat Cerdas dalam Puisi yang memuat 165 puisi dari 70 penyair dari berbagai kota di Indonesia, Ahad (27/3). Acara peluncuran buku itu dilaksanakan secara daring dengan host berada di BlueSky Hotel Raden Saleh, Jakarta. Ketua Jagat Sastra Milenia, Riri Satria, dalam sambutannya mengatakan, ide membuat buku itu lahir […]

Mar 28, 2022