Ketika AI Ikut Menyusun Kontrak: Efisiensi Baru dan Risiko Hukum yang Perlu Diwaspadai

Arif Wahyudi, Mahasiswa Universitas Islam Negri Sumatra Utara.

Suara Time, Kolom - Artificial Intelligence atau kecerdasan artifisial perlahan mulai menjadi bagian dari pekerjaan sehari-hari. Jika beberapa tahun lalu AI lebih sering dibicarakan sebagai teknologi masa depan, hari ini penggunaannya sudah masuk ke berbagai bidang, termasuk dunia hukum.

Seorang mahasiswa hukum, praktisi, maupun perusahaan kini dapat meminta aplikasi berbasis AI untuk membuat rancangan perjanjian, memperbaiki sebuah klausul, membandingkan dua dokumen kontrak, atau mencari risiko yang mungkin muncul dari isi suatu perjanjian. Dalam hitungan detik, sebuah draf yang biasanya membutuhkan waktu cukup panjang dapat muncul di layar.

Kemudahan tersebut tentu menarik. Namun, dalam konteks perancangan kontrak, kecepatan bukan satu-satunya ukuran keberhasilan. Ada persoalan yang jauh lebih penting: apakah kontrak yang dihasilkan AI benar-benar sesuai dengan kepentingan para pihak, dan siapa yang bertanggung jawab apabila AI membuat kesalahan?

Pertanyaan ini penting karena kontrak pada dasarnya bukan sekadar dokumen yang dipenuhi istilah hukum. Kontrak merupakan alat untuk mengatur hubungan para pihak, termasuk hak, kewajiban, pembagian risiko, cara menyelesaikan masalah, hingga konsekuensi apabila salah satu pihak tidak melaksanakan kewajibannya.

Tina L. Stark dan Monica L. Llorente dalam Drafting Contracts: How and Why Lawyers Do What They Do menempatkan perancangan kontrak sebagai pekerjaan yang lebih luas daripada sekadar merangkai kalimat hukum. Seorang perancang kontrak harus mampu menerjemahkan sebuah transaksi ke dalam struktur hak dan kewajiban yang jelas serta mengantisipasi risiko yang mungkin muncul di kemudian hari.

Pandangan tersebut menjadi semakin relevan ketika AI ikut digunakan dalam proses penyusunan kontrak. AI memang dapat menghasilkan kalimat dengan cepat dan terlihat meyakinkan, tetapi belum tentu memahami latar belakang transaksi, posisi tawar masing-masing pihak, tujuan bisnis, maupun risiko yang sebenarnya ingin dihindari.

AI Mempermudah Pekerjaan, tetapi Bukan Tanpa Risiko

Perubahan pekerjaan hukum akibat teknologi sebenarnya telah lama diperkirakan. Richard Susskind dalam Tomorrow’s Lawyers: An Introduction to Your Future menjelaskan bahwa perkembangan teknologi akan mengubah cara jasa hukum diberikan. Sebagian pekerjaan yang sebelumnya dilakukan secara manual akan semakin terbantu, bahkan dalam beberapa keadaan dapat diotomatisasi.

Kondisi tersebut sekarang mulai terlihat. Dalam penyusunan kontrak, misalnya, AI dapat dimanfaatkan untuk membuat draf awal atau memberikan alternatif klausul. Bagi seorang perancang kontrak, kemampuan ini tentu dapat menghemat waktu. Persoalannya, hasil AI tetap membutuhkan pemeriksaan manusia.

Alasannya sederhana: AI juga dapat menghasilkan informasi yang salah.

Matthew Dahl, Varun Magesh, Mirac Suzgun, dan Daniel E. Ho dalam penelitian yang diterbitkan di Journal of Legal Analysis pada 2024 menunjukkan adanya fenomena legal hallucination. Dalam kondisi tertentu, model bahasa dapat memberikan jawaban hukum yang terdengar meyakinkan, tetapi ternyata tidak sesuai dengan sumber hukum yang sebenarnya.

Masalah seperti ini pernah benar-benar terjadi dalam praktik hukum. Pada 2023, dua pengacara di New York dikenai sanksi setelah dokumen yang mereka ajukan ke pengadilan memuat beberapa perkara yang ternyata tidak pernah ada. Referensi tersebut sebelumnya dihasilkan oleh ChatGPT.

Kasus tersebut memang berkaitan dengan litigasi, bukan penyusunan kontrak. Namun, pelajarannya tetap relevan. Sebuah kalimat yang terdengar seperti bahasa hukum belum tentu benar secara hukum. Di sinilah kehati-hatian menjadi penting.

Bagaimana dengan Indonesia?

Dalam hukum Indonesia, penggunaan AI tidak serta-merta mengubah prinsip dasar hukum perjanjian.

Pasal 1320 Kitab Undang-Undang Hukum Perdata tetap menjadi dasar mengenai syarat sah suatu perjanjian, yaitu adanya kesepakatan, kecakapan, suatu hal tertentu, serta sebab yang tidak terlarang. Sementara itu, Pasal 1338 KUH Perdata menegaskan kekuatan mengikat perjanjian yang dibuat secara sah.

Artinya, meskipun rancangan kontrak dibuat dengan bantuan AI, hubungan hukum tetap lahir dari kehendak dan tindakan para pihak, bukan dari kehendak mesin.

Penggunaan AI juga harus dilihat bersama perkembangan hukum digital Indonesia. Indonesia telah memiliki Undang-Undang Nomor 11 Tahun 2008 tentang Informasi dan Transaksi Elektronik sebagaimana terakhir diubah melalui Undang-Undang Nomor 1 Tahun 2024. Selain itu, terdapat PP Nomor 71 Tahun 2019 tentang Penyelenggaraan Sistem dan Transaksi Elektronik.

Persoalan menjadi lebih sensitif ketika dokumen yang dimasukkan ke aplikasi AI mengandung data pribadi. Bayangkan seorang konsultan memasukkan kontrak klien secara utuh ke sebuah layanan AI publik. Di dalam dokumen itu mungkin terdapat nama, alamat, nomor identitas, data keuangan, atau informasi bisnis tertentu. Dalam keadaan seperti itu, penggunaan AI juga harus memperhatikan Undang-Undang Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi.

Dengan kata lain, persoalannya bukan hanya apakah AI menghasilkan klausul yang benar, tetapi juga data apa yang diberikan kepada AI, untuk tujuan apa data tersebut digunakan, dan bagaimana data itu diproses.

Indonesia juga telah memiliki Surat Edaran Menteri Komunikasi dan Informatika Nomor 9 Tahun 2023 tentang Etika Kecerdasan Artifisial. Di dalamnya terdapat prinsip antara lain mengenai transparansi, keamanan, akuntabilitas, perlindungan data pribadi, dan kekayaan intelektual.

Meski demikian, posisi Indonesia masih berbeda dengan Uni Eropa karena Indonesia belum memiliki undang-undang khusus mengenai AI yang setara dengan EU AI Act.

Belajar dari Uni Eropa

Uni Eropa mengambil langkah yang lebih terstruktur melalui Regulation (EU) 2024/1689 atau Artificial Intelligence Act.

Salah satu hal yang menarik dari AI Act adalah pendekatan berbasis risiko. Tidak semua penggunaan AI diperlakukan dengan cara yang sama. Semakin besar potensi dampaknya terhadap keselamatan atau hak seseorang, semakin tinggi pula kewajiban hukum yang dikenakan.

Pendekatan seperti ini cukup masuk akal. AI yang hanya digunakan untuk membantu memperbaiki struktur kalimat sebuah kontrak tentu memiliki risiko yang berbeda dengan sistem AI yang digunakan untuk menentukan kelayakan kredit, melakukan seleksi pekerja, atau mengambil keputusan yang dapat memengaruhi hak seseorang.

Uni Eropa juga telah memiliki General Data Protection Regulation atau GDPR yang memberikan perlindungan kuat terhadap data pribadi, termasuk perhatian terhadap pemrosesan otomatis dan profiling.

Jika dibandingkan dengan Indonesia, perbedaannya terlihat pada tingkat kematangan regulasi. Indonesia sedang bergerak menuju pengaturan AI yang lebih spesifik, sedangkan Uni Eropa telah memiliki kerangka yang lebih terstruktur. Namun, bukan berarti Indonesia harus menyalin seluruh model Uni Eropa.

Perancang Kontrak Justru Semakin Dibutuhkan

Menurut penulis, kehadiran AI seharusnya tidak dipandang sebagai ancaman langsung terhadap profesi perancang kontrak. Justru sebaliknya, AI memperlihatkan bahwa pekerjaan perancang kontrak tidak pernah hanya soal kemampuan menulis.

Ketika AI dapat menghasilkan draf dengan cepat, nilai seorang perancang kontrak akan semakin terlihat dari kemampuannya membaca risiko. Ia harus mampu menentukan apakah sebuah klausul sesuai dengan kepentingan para pihak, apakah pembagian tanggung jawabnya seimbang, serta apakah kontrak tersebut cukup siap menghadapi kemungkinan sengketa.

Dalam konteks penggunaan AI, bahkan dapat muncul kebutuhan terhadap klausul-klausul baru. Misalnya, kontrak dengan penyedia layanan AI perlu menjawab beberapa pertanyaan: siapa yang memiliki data yang dimasukkan ke dalam sistem? Apakah data tersebut boleh digunakan untuk pelatihan model? Bagaimana kewajiban penyedia AI menjaga kerahasiaan? Siapa yang bertanggung jawab apabila hasil AI salah? Apakah hasil AI wajib diperiksa manusia sebelum digunakan?

Persoalan-persoalan tersebut menunjukkan bahwa kontrak dapat berfungsi sebagai alat untuk mengendalikan risiko teknologi.

Menurut penulis, dalam situasi seperti ini kontrak dapat dilihat sebagai ‘aturan kecil’ yang dibuat sendiri oleh para pihak. Peraturan negara mungkin memberikan kerangka umumnya, tetapi kontrak menentukan secara lebih rinci siapa yang melakukan apa dan siapa yang menanggung risiko ketika terjadi masalah.

Cristina Frattone dalam kajiannya mengenai algorithmic mistakes in machine-made contracts juga menunjukkan bahwa kesalahan algoritma dalam pembentukan kontrak menimbulkan pertanyaan baru terhadap doktrin kesalahan yang selama ini dikenal dalam hukum kontrak. Hal ini memperlihatkan bahwa perkembangan AI bukan hanya masalah teknologi, melainkan juga masalah hukum perjanjian.

Tanggung Jawab Tetap Harus Ada pada Manusia

Pada akhirnya, menurut penulis, prinsip yang paling penting cukup sederhana: AI dapat membantu pekerjaan, tetapi tanggung jawab hukum tidak boleh menghilang hanya karena sebuah keputusan dibuat dengan bantuan mesin.

Jika sebuah perusahaan memilih menggunakan AI dalam menyusun kontrak, maka perusahaan tersebut tetap harus memiliki mekanisme pemeriksaan. Jika seorang praktisi menggunakan AI untuk membuat klausul, ia tetap harus memastikan klausul itu benar sebelum digunakan.

Tidak tepat apabila kesalahan kemudian hanya dijawab dengan kalimat, ‘itu dibuat oleh AI.’ Teknologi tidak boleh menjadi alasan untuk menghilangkan akuntabilitas.

Dalam hal ini, Indonesia dapat mengambil pelajaran dari pendekatan berbasis risiko yang digunakan Uni Eropa. Regulasi tidak harus membatasi seluruh penggunaan AI secara berlebihan. Pengaturannya dapat disesuaikan dengan tingkat bahaya dan dampak penggunaannya. Pendekatan seperti itu memungkinkan inovasi tetap berjalan tanpa mengabaikan perlindungan terhadap masyarakat.

Kemunculan AI pada akhirnya membawa tantangan baru bagi pembelajaran Perancangan Kontrak.

Mahasiswa hukum tidak lagi cukup memahami bagaimana sebuah klausul dibuat. Mereka juga perlu memahami bagaimana teknologi digunakan, risiko apa yang dibawanya, bagaimana data harus dilindungi, serta bagaimana tanggung jawab dibagi ketika AI ikut terlibat dalam proses penyusunan kontrak.

AI mungkin mampu menghasilkan puluhan alternatif klausul dalam hitungan detik. Namun, menentukan klausul mana yang paling sesuai dengan kepentingan para pihak tetap membutuhkan penilaian manusia.

Karena itu, masa depan perancangan kontrak sebenarnya bukan pertarungan antara manusia dan AI. Yang lebih penting adalah bagaimana manusia menggunakan AI sebagai alat bantu tanpa menyerahkan tanggung jawab hukum kepadanya.

*) Penulis adalah Arif Wahyudi, Mahasiswa Universitas Islam Negri Sumatra Utara.

Referensi Pilihan

Armour, John & Mari Sako. (2020). “AI-enabled Business Models in Legal Services: From Traditional Law Firms to Next-generation Law Companies?” Journal of Professions and Organization, 7(1), 27–46.

Dahl, Matthew, Varun Magesh, Mirac Suzgun & Daniel E. Ho. (2024). “Large Legal Fictions: Profiling Legal Hallucinations in Large Language Models.” Journal of Legal Analysis, 16(1), 64–93.

Frattone, Cristina. “Algorithmic Mistakes in Machine-Made Contracts: The Legal Consequences of Errors in Automated Contract Formation.” Uniform Law Review, Vol. 28, Issue 3–4, 407–425.

Stark, Tina L. & Monica L. Llorente. (2024). Drafting Contracts: How and Why Lawyers Do What They Do. Third Edition. Aspen Publishing.

Susskind, Richard. (2023). Tomorrow’s Lawyers: An Introduction to Your Future. Third Edition. Oxford University Press.

Kitab Undang-Undang Hukum Perdata, khususnya Pasal 1320 dan Pasal 1338.

Undang-Undang Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi.

Undang-Undang Nomor 1 Tahun 2024 tentang Perubahan Kedua atas Undang-Undang Nomor 11 Tahun 2008 tentang Informasi dan Transaksi Elektronik.

Peraturan Pemerintah Nomor 71 Tahun 2019 tentang Penyelenggaraan Sistem dan Transaksi Elektronik.

Surat Edaran Menteri Komunikasi dan Informatika Nomor 9 Tahun 2023 tentang Etika Kecerdasan Artifisial.

Regulation (EU) 2024/1689 tentang Artificial Intelligence Act.

Regulation (EU) 2016/679 tentang General Data Protection Regulation.