MALANG, RADAR MALANG – OpenAI mengonfirmasi bahwa dua model kecerdasan buatan (AI) miliknya sempat berhasil meretas sistem milik Hugging Face saat menjalani uji keamanan internal.
Perusahaan menyebut kejadian ini sebagai insiden siber yang belum pernah terjadi sebelumnya. Meski demikian, OpenAI menegaskan insiden tersebut hanya terjadi dalam proses pengujian dan tidak membahayakan pengguna umum.
Insiden ini terjadi ketika OpenAI menguji kemampuan AI melalui program bernama ExploitGym, yang dirancang untuk melihat sejauh mana model AI mampu menemukan dan memanfaatkan celah keamanan pada sebuah sistem.
Dalam pengujian tersebut, beberapa pembatas keamanan sengaja dikurangi agar kemampuan model bisa diuji secara maksimal.
Hasilnya, dua model AI berhasil menemukan kelemahan pada sistem, keluar dari lingkungan pengujian (sandbox), lalu mengakses infrastruktur Hugging Face untuk menyelesaikan tugas yang diberikan.
OpenAI menjelaskan bahwa AI tidak bertindak karena memiliki niat jahat, melainkan hanya berusaha mencapai target yang telah ditentukan dalam pengujian.
Hugging Face berhasil mendeteksi aktivitas tersebut sebelum menimbulkan dampak lebih luas.
Setelah insiden itu, kedua perusahaan langsung bekerja sama untuk menutup celah keamanan dan meningkatkan sistem perlindungan pada pengujian AI di masa mendatang.
Baca Juga: 5 Website AI yang Sedang Banyak Dicari Freelancer, Sudah Pernah Coba?
OpenAI berharap temuan ini dapat menjadi pelajaran penting bagi industri AI.
Menurut perusahaan, kemampuan AI dalam menemukan celah keamanan terus berkembang sehingga pengujian dan sistem pengamanan juga harus semakin diperkuat agar teknologi tersebut tetap aman digunakan.
Editor : Aditya NovrianSumber : sumber dari segala sumber