fost-nepal.org – Insiden serius terjadi pada Hugging Face ketika tim respons insiden perusahaan tersebut berusaha menganalisis pelanggaran infrastruktur produksi mereka menggunakan model AI frontier. Namun, upaya ini terhalang oleh penghalang keamanan komersial yang dianggap serupa dengan serangan nyata, sehingga setiap permintaan analisis forensic ditolak. Pelanggaran ini dilakukan oleh sebuah agen AI otonom yang bergerak secara mandiri dalam infrastruktur Hugging Face selama akhir pekan tanpa terdeteksi.
Merritt Baer, seorang penasihat senior di beberapa perusahaan keamanan, menyatakan bahwa ekses semacam ini bukanlah hal baru, tetapi merupakan contoh nyata pertama yang berdampak besar pada respons insiden. Ia memberikan penekanan bahwa masalah ini tidak hanya terjadi di Hugging Face, melainkan lebih terkait dengan seluruh industri yang mengandalkan model keamanan komersial, yang tidak dapat membedakan antara responder insiden dan penulis malware.
Pada 16 Juli, Hugging Face mengungkap bahwa sebuah dataset berbahaya berhasil mengkompromikan infrastruktur mereka. Dataset tersebut membuka dua jalur eksekusi kode, yang memungkinkan agen untuk mengakses kredensial layanan internal dan data internal terbatas. Pemrosesan yang tidak aman membuat jalur akses ini sulit terdeteksi, dan agen dapat mengekstrak kredensial cloud serta kluster dengan luas dalam waktu singkat.
Proses investigasi dilakukan melalui analisis berbasis AI, namun kembali terhalang oleh penghalang keamanan yang sama. Melalui model GLM 5.2 yang tersedia di infrastruktur mereka, tim akhirnya mampu menyelesaikan analisis tanpa mengirimkan data keluar.
Baer memperingatkan bahwa industri perlu beradaptasi dengan pendekatan baru dalam mempertimbangkan keamanan AI, dengan fokus pada “kepercayaan terautentikasi” untuk membedakan siapa yang meminta informasi serta alasan dibalik permintaan tersebut. Hugging Face akhirnya berhasil mengatasi pelanggaran ini, memperbaiki node yang terkompromikan, dan merekomendasikan kepada pengguna mereka untuk mengganti token akses dan memeriksa aktivitas akun mereka.