Apakah Perusahaan Indonesia Wajib Mematuhi EU AI Act? Memahami Dampak Ekstrateritorial Regulasi AI Uni Eropa

Kecerdasan buatan (Artificial Intelligence/AI) telah berkembang menjadi salah satu teknologi yang paling berpengaruh dalam berbagai sektor bisnis. AI tidak lagi hanya dimanfaatkan oleh perusahaan teknologi, tetapi juga telah digunakan pada sektor perbankan, kesehatan, manufaktur, logistik, pendidikan, hingga layanan hukum. Di balik berbagai manfaat tersebut, penggunaan AI juga menimbulkan berbagai risiko, mulai dari penyalahgunaan data pribadi, diskriminasi algoritma, manipulasi informasi, hingga ancaman terhadap hak-hak fundamental masyarakat.

Untuk menjawab tantangan tersebut, Uni Eropa resmi mengesahkan Regulation (EU) 2024/1689, yang lebih dikenal sebagai EU AI Act. Regulasi ini menjadi aturan komprehensif pertama di dunia yang secara khusus mengatur pengembangan, pemasaran, penggunaan, serta pengawasan sistem AI berdasarkan pendekatan berbasis risiko (risk-based approach). Tujuan utamanya adalah memastikan bahwa teknologi AI berkembang secara inovatif tanpa mengorbankan keamanan, transparansi, dan perlindungan hak asasi manusia.

Salah satu karakteristik paling penting dari EU AI Act adalah cakupan ekstrateritorialnya. Sebagaimana General Data Protection Regulation (GDPR), regulasi ini tidak hanya mengikat perusahaan yang berdomisili di negara-negara anggota Uni Eropa. Dalam kondisi tertentu, perusahaan yang berada di luar Uni Eropa juga dapat dikenakan kewajiban sepanjang aktivitas AI yang dilakukan memiliki hubungan dengan pasar atau masyarakat di Uni Eropa.

Secara normatif, EU AI Act berlaku terhadap beberapa kategori pelaku, antara lain provider (pengembang sistem AI), deployer (pengguna sistem AI dalam kegiatan usaha), importer, distributor, serta pihak lain yang menempatkan atau menggunakan sistem AI di pasar Uni Eropa. Regulasi ini juga berlaku apabila output dari sistem AI digunakan di wilayah Uni Eropa, meskipun perusahaan yang mengembangkan sistem tersebut berkedudukan di negara lain.

Artinya, perusahaan Indonesia tidak otomatis tunduk pada EU AI Act hanya karena menggunakan AI. Namun, apabila perusahaan Indonesia mengembangkan aplikasi AI untuk pelanggan di Uni Eropa, menjual perangkat lunak berbasis AI ke perusahaan Eropa, menyediakan layanan AI lintas negara, atau hasil pemrosesan AI digunakan oleh pengguna di Uni Eropa, maka perusahaan tersebut berpotensi masuk ke dalam ruang lingkup pengaturan EU AI Act. Berbeda dengan pendekatan yang melarang seluruh bentuk AI, EU AI Act mengklasifikasikan sistem AI berdasarkan tingkat risiko. Pertama adalah unacceptable risk, yaitu sistem AI yang dianggap mengancam hak-hak fundamental sehingga penggunaannya dilarang, seperti social scoring oleh pemerintah atau manipulasi perilaku yang menimbulkan dampak signifikan terhadap individu. Kedua adalah high risk AI, yaitu sistem AI yang digunakan pada sektor-sektor penting seperti kesehatan, pendidikan, ketenagakerjaan, infrastruktur kritis, layanan keuangan, hingga penegakan hukum. Sistem AI dalam kategori ini tetap diperbolehkan, tetapi harus memenuhi berbagai persyaratan kepatuhan yang ketat.

Selanjutnya terdapat kategori limited risk AI, yang mewajibkan transparansi tertentu, misalnya chatbot yang harus memberi tahu pengguna bahwa mereka sedang berinteraksi dengan sistem AI. Terakhir adalah minimal risk AI, seperti penyaring spam atau sistem rekomendasi sederhana, yang pada umumnya tidak dikenakan kewajiban regulasi tambahan selain ketentuan hukum yang telah berlaku. Bagi perusahaan Indonesia, kategori high risk AI menjadi perhatian utama. EU AI Act mewajibkan penyedia sistem AI kategori ini untuk menerapkan manajemen risiko, memastikan kualitas data pelatihan (training data), menyusun dokumentasi teknis, menjaga pencatatan aktivitas (logging), menyediakan informasi yang memadai kepada pengguna, menerapkan pengawasan manusia (human oversight), serta memastikan keamanan siber dan akurasi sistem AI. Sebelum dipasarkan di Uni Eropa, sistem AI tertentu juga harus melalui conformity assessment untuk memastikan kesesuaiannya dengan persyaratan regulasi.

Selain kewajiban teknis, EU AI Act juga memperkenalkan kewajiban transparansi terhadap model AI untuk tujuan umum (General Purpose AI/GPAI), termasuk model AI generatif. Penyedia model AI tertentu diwajibkan menyusun dokumentasi teknis, memberikan informasi kepada pihak yang menggunakan model tersebut, mematuhi ketentuan hak cipta Uni Eropa, serta menyediakan ringkasan mengenai data yang digunakan dalam proses pelatihan model AI. Ketentuan ini menjadi sangat relevan bagi perusahaan yang mengembangkan layanan AI generatif atau foundation model yang dipasarkan secara internasional. Dari perspektif bisnis, EU AI Act dapat menjadi tantangan sekaligus peluang bagi perusahaan Indonesia. Di satu sisi, penerapan berbagai kewajiban kepatuhan tentu memerlukan investasi tambahan dalam aspek tata kelola AI (AI Governance), audit sistem, keamanan siber, dokumentasi, serta pengelolaan risiko. Hal tersebut dapat meningkatkan biaya operasional, khususnya bagi perusahaan rintisan (startup) yang ingin memasuki pasar Uni Eropa.

Namun di sisi lain, kepatuhan terhadap EU AI Act juga dapat meningkatkan kepercayaan investor, mitra bisnis, dan konsumen internasional. Perusahaan yang sejak awal membangun sistem AI sesuai standar Uni Eropa akan memiliki daya saing yang lebih tinggi ketika melakukan ekspansi global. Bahkan, standar yang diperkenalkan melalui EU AI Act diperkirakan akan menjadi salah satu acuan internasional sebagaimana pengaruh GDPR terhadap regulasi perlindungan data pribadi di berbagai negara.

Bagi Indonesia sendiri, keberadaan EU AI Act menjadi sinyal penting bahwa tata kelola AI akan menjadi bagian dari kepatuhan korporasi di masa depan. Meskipun Indonesia belum memiliki undang-undang khusus mengenai AI, pemerintah telah menerbitkan berbagai pedoman etika AI dan sedang mengembangkan kerangka regulasi nasional. Oleh karena itu, perusahaan Indonesia yang telah menggunakan AI sebaiknya mulai menyusun kebijakan internal mengenai tata kelola AI, melakukan pemetaan risiko, memperkuat dokumentasi, memastikan kepatuhan terhadap perlindungan data pribadi, serta melakukan evaluasi terhadap penggunaan AI dalam kegiatan usahanya.

Terlebih lagi, perusahaan yang memiliki hubungan bisnis dengan mitra di Uni Eropa perlu melakukan AI Compliance Assessment untuk mengidentifikasi apakah sistem AI yang digunakan telah masuk dalam kategori yang diatur oleh EU AI Act. Langkah preventif tersebut akan membantu perusahaan meminimalkan risiko hukum sekaligus meningkatkan kesiapan menghadapi perkembangan regulasi AI global yang semakin ketat.

Pada akhirnya, EU AI Act menunjukkan bahwa regulasi kecerdasan buatan tidak lagi menjadi isu domestik Uni Eropa, melainkan telah berkembang menjadi standar global yang dapat berdampak pada perusahaan di berbagai negara, termasuk Indonesia. Melalui prinsip ekstrateritorial, perusahaan Indonesia yang mengembangkan, menyediakan, atau menggunakan sistem AI untuk pasar Uni Eropa dapat memiliki kewajiban hukum untuk mematuhi ketentuan dalam regulasi tersebut. Oleh karena itu, pelaku usaha tidak hanya perlu memahami aspek teknis pengembangan AI, tetapi juga membangun tata kelola (AI Governance) yang selaras dengan prinsip transparansi, akuntabilitas, keamanan, dan perlindungan hak-hak pengguna. Dengan mempersiapkan kepatuhan sejak dini, perusahaan Indonesia akan lebih siap menghadapi perkembangan regulasi AI global sekaligus meningkatkan daya saingnya di pasar internasional. Jika Anda membutuhkan pendampingan terkait kepatuhan AI, penyusunan kebijakan penggunaan AI, analisis risiko hukum, maupun konsultasi mengenai regulasi digital internasional, kunjungi Dampingin.com. Platform ini menyediakan layanan konsultasi berbasis AI serta akses untuk berdiskusi langsung dengan advokat yang berkompeten sehingga Anda dapat memperoleh solusi hukum yang tepat sesuai kebutuhan bisnis.

REFERENSI

1. Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024 laying down harmonised rules on artificial intelligence (Artificial Intelligence Act).

2. European Commission, Artificial Intelligence Act – Questions & Answers.

3. European Commission, The EU AI Act : First Comprehensive Legal Framework on Artificial Intelligence.

4. OECD, OECD AI Principles 

5. UNESCO, Recommendation on the Ethics of Artificial Intelligence 

6. Council of Europe, Framework Convention on Artificial Intelligence, Human Rights, Democracy and the Rule of Law