Eksploitasi lanjutan sedang menggoncang komuniti pembangun, di mana pembantu pengekodan AI boleh dieksploitasi, menimbulkan kebimbangan bagi syarikat seperti raksasa kripto Coinbase. Eksploitasi ini menggunakan ciri berbahaya yang dikenali sebagai “Serangan Lesen CopyPasta”, membolehkan penyerang memasukkan arahan yang tersembunyi ke dalam fail pembangun yang kerap digunakan. Firma keselamatan siber HiddenLayer mula-mula mendedahkan risiko yang berpotensi bencana ini.
Ancaman yang Dihadapi: Mengeksploitasi Pengod Aplikasi AI
Sasaran utama eksploitasi ini ialah alat pengekodan berkuasa AI yang dikenali sebagai Cursor, yang sering digunakan oleh pasukan pembangun Coinbase. Menariknya, dilaporkan bahawa setiap jurutera di Coinbase telah menggunakan Cursor dalam rutinnya. Penyerang menggunakan bagaimana pembantu pengekodan AI memahami fail lesen sebagai arahan mutlak. Muatan jahat boleh disembunyikan dalam komen markdown dalam fail seperti LICENSE.txt. Model AI kemudian ditipu untuk mengekalkan arahan berbahaya ini, meniru mereka ke setiap fail lain yang mereka berinteraksi dengan. Setelah pembantu pengekodan menganggap lesen itu sah, kod yang telah diubah secara automatik diduplikasi ke fail baru atau yang disemak semula, tersebar tanpa sebarang tindakan langsung oleh pengguna. Serangan ini boleh sepenuhnya mengelak kaedah pengesanan perisian hasad standard, memandangkan arahan berbahaya menyamar sebagai dokumentasi yang tidak berbahaya, membolehkan jangkitan merebak melalui seluruh pangkalan kod tanpa pengguna diberi amaran.
Ancaman Tersembunyi Dalam Fail Yang Tidak Berbahaya
Penyelidik HiddenLayer menunjukkan bagaimana alat pengekodan berkuasa AI seperti Cursor boleh dimanipulasi untuk mewujudkan pintu belakang, memindahkan data sensitif, atau mengendalikan perintah yang menguras sumber – semua ancaman ini diselindungi dalam fail projek yang kelihatan tidak berbahaya. Firma tersebut menekankan bahawa kod yang disuntik boleh mewujudkan pintu belakang yang secara senyap-senyap membocorkan data sensitif atau mengganggu fail penting. Mendedahkan sejauh mana kod yang dihasilkan AI digunakan di Coinbase, CEO Brian Armstrong menyebut bahawa hampir 40% kod pertukaran adalah dari AI, dengan rancangan untuk meningkatkannya kepada 50% menjelang bulan berikutnya. Ini membawa risiko peningkatan kemungkinan serangan melalui pembantu pengekodan AI. Namun, Armstrong menjelaskan bahawa pengadopsian pengod secara AI di Coinbase kebanyakannya tertumpu pada backend yang tidak sensitif dan antara muka pengguna sementara pengadopsian dalam sistem yang komplek dan kritikal dilakukan dengan lebih perlahan.
Kritikan Pedas dan Reaksi Seluruh Industri
Walaupun dengan penjelasan, laporan tersebut telah mendapat kritikan hebat yang meningkatkan kebimbangan mengenai sasaran yang dimaksudkan ini. Walaupun suntikan arahan AI bukan ancaman baru, kaedah CopyPasta membawanya setingkat lebih tinggi dengan membolehkan penularan semi-autonomous. Berbeza dengan menyasarkan pengguna tunggal, fail yang dijangkiti kini berfungsi sebagai penyebar yang membahayakan setiap penolong pengekodan AI lain yang memprosesnya, mewujudkan kesan gelombang di seluruh repositori. Dalam perbandingan dengan konsep cecacing AI pra-sedia seperti Morris II, yang menggunakan agen e-mel untuk menyebarkan atau mengekstrak data, CopyPasta lebih menipu kerana ia memanfaatkan aliran kerja pembangun yang dipercayai. Ia tidak memerlukan kelulusan atau interaksi pengguna standard, sebaliknya mengintegrasikan dirinya dalam fail yang semua pembantu pengekodan secara semula jadi rujuk. Walaupun Morris II terhenti kerana pemeriksaan manusia terhadap aktiviti e-mel, CopyPasta berkembang dengan menyembunyikan diri dalam dokumentasi yang jarang dikaji oleh pembangun.
Seruan Tindakan Mendesak untuk Langkah Keselamatan
Pasukan keselamatan tergesa-gesa untuk memberi amaran kepada syarikat supaya memeriksa fail mereka untuk komen tersembunyi, menggesa mereka untuk mengkaji semua perubahan yang dihasilkan AI secara manual. Mereka mengesyorkan merawat semua data yang memasuki konteks Modul Tingkat Rendah (LLM) sebagai berbahaya, menegaskan keperluan untuk pengesanan sistematik sebelum skala serangan berdasarkan arahan meningkat. HiddenLayer menasihati organisasi untuk bertindak pantas untuk mengawal kerosakan berpotensi, memberi amaran tentang implikasi serangan berasaskan arahan yang meningkat tanpa pemeriksaan keselamatan sewajarnya.
Walaupun Coinbase dihubungi untuk komen mengenai vektor serangan yang berpotensi, kebimbangan menyebar jauh lebih jauh dalam industri. Dalam era di mana bantuan AI semakin diharapkan, pendedahan ini mengingatkan tentang kepentingan penting kebersihan siber dan kewaspadaan berterusan dalam mengesan dan menggagalkan potensi ancaman.
