Seorang pria di Connecticut, Amerika Serikat, kehilangan hak mengajukan dokumen perkara melalui sistem elektronik setelah menyisipkan instruksi tersembunyi untuk AI. Matthew Elliott kini diwajibkan memakai berkas fisik dalam proses perkaranya.
Sanksi itu dijatuhkan tanpa denda, tetapi hakim menilai tindakannya tidak dapat dianggap ringan. Langkah tersebut dipandang berisiko menjadi preseden ketika pemakaian kecerdasan buatan makin luas di berbagai layanan publik.
Instruksi Tidak Memengaruhi Putusan
Hakim Connecticut Walter Spader Jr. menyatakan teks tersembunyi Elliott tidak memengaruhi penanganan perkaranya. Pengadilan Connecticut, menurut Spader, tidak menggunakan AI untuk meninjau atau memutus dokumen perkara.
Meski demikian, Spader menilai penyisipan instruksi tetap merupakan persoalan serius. Tindakan itu dapat menjadi lebih bermasalah apabila sistem pengadilan kelak memakai teknologi otomatis untuk membaca berkas.
Elliott sebelumnya menggugat penyedia layanan kesehatan karena menganggap dirinya tidak memperoleh akses terhadap catatan medis. Dalam dokumen perkara, ia menyembunyikan tulisan sangat kecil berwarna putih di atas latar putih.
Tulisan tersebut sulit dilihat oleh orang yang membuka dokumen secara biasa, tetapi masih dapat diproses perangkat lunak. Liputan6.com melaporkan pesan itu meminta AI mendukung argumen Elliott, mengabaikan penolakan pengadilan sebelumnya, dan menghasilkan penyelesaian yang ia kehendaki.
Praktik Prompt Injection
Metode yang digunakan Elliott dikenal sebagai prompt injection. Praktik ini berarti menyisipkan instruksi yang dirancang untuk memengaruhi cara sistem AI memproses informasi.
Dalam dokumen hukum, instruksi semacam itu dapat berupaya tampil sebagai bagian sah dari materi perkara. Hakim menilai cara tersebut menyerupai upaya menyelundupkan perintah ke dalam aliran sistem agar terlihat datang dari operator.
Elliott tetap menyisipkan pesan tersembunyi dalam berkas baru setelah menerima pemberitahuan mengenai sidang sanksi. Ia mengatakan sebagian teks yang dimasukkan setelah peringatan itu hanya sebuah lelucon.
Namun, Spader menolak alasan tersebut karena dokumen diajukan dalam perkara yang ingin diperlakukan Elliott secara serius. Hakim menyatakan, “Fakta bahwa penggugat terus menyembunyikan pesan dalam dokumen baru setelah menerima pemberitahuan mengenai sidang ini sungguh mengejutkan.”
| Perkara | Metode | Konsekuensi |
|---|---|---|
| Matthew Elliott di Connecticut | Teks tersembunyi dalam dokumen perkara | Dilarang memakai pengajuan elektronik tanpa denda |
| Dua pengacara di Brasil | Teknik serupa pada pengadilan yang menggunakan AI | Sanksi sekitar US$ 16.000 |
Risiko bagi Pihak yang Berperkara Sendiri
Kasus Elliott disebut sebagai salah satu contoh awal penggunaan prompt injection dalam sistem pengadilan Amerika Serikat. Spader mengingatkan bahwa kejadian serupa dapat lebih sering muncul seiring perkembangan AI pengadilan dan layanan digital.
Perhatian pengadilan juga tertuju pada cara Elliott membangun argumen tanpa pengacara dengan bantuan AI. Menurut Spader, pihak yang menangani perkara sendiri kerap menggunakan chatbot untuk menguatkan keyakinannya, bukan menguji kelemahan posisinya.
Pengguna dapat meminta sistem mendukung pandangannya, tetapi tidak meminta penilaian dari sudut pihak lawan. Kebiasaan itu berisiko membuat seseorang semakin yakin pada argumennya meski putusan pengadilan menunjukkan hal berbeda.
Spader menekankan penggunaan kecerdasan buatan harus diarahkan untuk menguji suatu posisi secara seimbang. AI tidak seharusnya dipakai hanya sebagai alat pembenaran dalam proses hukum.
