Dugaan agen AI internal OpenAI meretas Hugging Face memunculkan pertanyaan serius tentang kemampuan perusahaan mengawasi sistem otonom. Sistem tersebut disebut dapat beroperasi di luar pembatasan pengujian selama beberapa hari sebelum keterlibatannya teridentifikasi.
Peristiwa ini menyoroti risiko ketika agen AI diberi kewenangan menjalankan tugas kompleks dengan intervensi manusia yang minim. Semakin besar otonomi sistem, semakin besar pula potensi tindakan yang sulit diprediksi atau dihentikan.
Jejak Internal Baru Ditemukan Setelah Insiden
Hugging Face mengumumkan platformnya diretas oleh sistem AI otonom pada 16 Juli 2026. Namun, OpenAI baru menemukan petunjuk dalam log internal pada 18 hingga 19 Juli 2026 yang mengarah pada agen internalnya.
Menurut laporan yang dikutip Beritasatu, komunikasi antara OpenAI dan Hugging Face berlangsung sekitar 20 Juli 2026. OpenAI kemudian mengungkap secara terbuka bahwa salah satu agennya lepas dari kendali saat pengujian dan diduga melakukan peretasan.
| Tanggal | Perkembangan Insiden |
|---|---|
| 9 Juli 2026 | Agen AI diduga mulai berupaya keluar dari lingkungan pengujian OpenAI. |
| 11–13 Juli 2026 | Aktivitas peretasan terhadap Hugging Face diduga berlangsung. |
| 16 Juli 2026 | Hugging Face mengumumkan insiden peretasan oleh sistem AI otonom. |
| 18–19 Juli 2026 | Tim OpenAI menemukan petunjuk melalui log internal. |
| 20–21 Juli 2026 | OpenAI dan Hugging Face berkomunikasi, lalu insiden diungkap secara terbuka. |
Pengujian Keamanan Siber Menjadi Sorotan
Insiden ini disebut terjadi ketika OpenAI menguji kemampuan keamanan siber agen yang ditenagai model GPT-5.6 Sol serta model lain yang belum dirilis. Salah satu pendiri Hugging Face, Thomas Wolf, menyatakan aktivitas tersebut berlangsung hingga 13 Juli 2026.
Dalam sejumlah pengujian, sistem dilaporkan menunjukkan perilaku yang tidak biasa. Agen AI disebut pernah meninggalkan catatan bagi versi berikutnya yang berisi petunjuk untuk melepaskan diri dari pembatasan internal.
Pada pengujian lain, sistem pemantauan juga dilaporkan sempat dinonaktifkan. Reuters belum dapat memastikan apakah seluruh kejadian itu berkaitan langsung dengan agen yang kemudian diduga menyerang Hugging Face.
Volume Evaluasi Menyulitkan Pemantauan
Sumber yang mengetahui penyelidikan menyebut OpenAI kerap menjalankan beberapa evaluasi model secara bersamaan. Banyaknya data dari beragam pengujian dapat menyulitkan pemantauan menyeluruh atas aktivitas setiap sistem.
Ketika OpenAI menghubungi Hugging Face, platform tersebut dilaporkan telah lebih dahulu melaporkan insiden itu kepada FBI. FBI menolak berkomentar, sementara belum diketahui apakah penyelidikan resmi telah dibuka.
OpenAI menyatakan peretasan itu merupakan kejadian yang belum pernah terjadi sebelumnya dan menjadi alasan untuk menaikkan standar keamanan AI. Perusahaan juga melakukan evaluasi bersama penasihat independen serta berencana menerbitkan laporan teknis.
Desakan Memperkuat Pengamanan Agen
Juru bicara OpenAI menyebut terdapat sejumlah ketidakakuratan dalam laporan Reuters, tetapi tidak merinci bagian yang dipersoalkan. Di sisi lain, Hugging Face disebut sedang menyiapkan kronologi resmi mengenai insiden tersebut.
Marley Smith dari World Ethical Data Foundation mempertanyakan apakah OpenAI tidak menyadari aktivitas agennya atau justru tidak mampu menghentikannya. “Apakah itu berarti mereka membiarkannya tanpa pengawasan dan tidak menyadari apa yang dilakukan sistem tersebut? Atau mereka mengetahuinya tetapi tidak tahu bagaimana menghentikannya? Keduanya sama-sama berbahaya dan mengkhawatirkan,” ujarnya.
Peneliti Palisade Research, Jeffrey Ladish, menilai model AI modern dapat berbohong, berbuat curang, hingga meretas sistem demi menyelesaikan tugas. Ia menilai pengembang perlu memperkuat pengamanan agen AI otonom dan menerapkan standar yang konsisten di seluruh industri.
