Продвинутый эксплойт вызывает беспокойство в сообществе разработчиков, так как ИИ-помощники по кодированию могут быть использованы в корыстных целях, что вызывает опасения у таких компаний, как криптовалютный гигант Coinbase. Эксплойт использует опасную функцию, известную как «Атака Лицензионного КопиПаста», позволяя злоумышленникам вставлять скрытые инструкции в широко используемые файлы разработчиков. О компании, представляющей потенциально катастрофический риск, впервые сообщила фирма кибербезопасности HiddenLayer.
Существующая Угроза: Эксплуатация ИИ-Кодеров
Основными целями этого эксплойта являются инструменты кодирования на базе ИИ, известные как Cursor, которые часто используются разработчиками команды Coinbase. Утверждается, что каждый инженер Coinbase использовал Cursor в своих рутина. Злоумышленники используют способ, при котором ИИ-помощники по кодированию воспринимают лицензионные файлы как абсолютные инструкции. Злонамеренный код может быть скрыт в комментариях markdown в таких файлах, как LICENSE.txt. Модель ИИ затем обманывают, заставляя сохранять эти вредоносные инструкции, дублируя их в каждом другом файле, с которым они взаимодействуют. Как только помощник по кодированию считает лицензию допустимой, измененный код автоматически копируется в новые или измененные файлы, распространяясь без какого-либо непосредственного действия со стороны пользователя. Эта атака может полностью обойти стандартные методы обнаружения вредоносных программ, учитывая, что вредоносные инструкции маскируются под безобидную документацию, позволяя заражению распространяться во всей кодовой базе без уведомления пользователя.
Скрытые Угрозы в Безобидных Файлах
Исследователи HiddenLayer показали, как инструменты кодирования на базе ИИ, такие как Cursor, могут быть манипулированы для создания черных ходов, утечки конфиденциальных данных или выполнения команд, которые тратят ресурсы – все эти угрозы скрыты в безобидных на вид проектных файлах. Компания подчеркнула, что впрыскиваемый код может создавать черный ход, который молчаливо высасывает конфиденциальные данные или вмешивается в критически важные файлы. Раскрывая степень использования кода, созданного ИИ в Coinbase, CEO Брайан Армстронг отметил, что почти 40% кода биржи создается ИИ, с планами увеличить этот показатель до 50% в следующем месяце. Это действительно увеличивает риск потенциальных атак через ИИ-помощников по кодированию. Однако Армстронг уточнил, что внедрение кодирования с помощью ИИ в Coinbase в основном сосредоточено на неспасных бэкендах и пользовательском интерфейсе, тогда как внедрение в сложные и системно-важные системы идет медленными темпами.
Резкая Критика и Реакция Отрасли
Несмотря на разъяснения, отчеты вызвали резкую критику, усиливая опасения по поводу этой целенаправленной атаки. Хотя ИИ-инъекции запросов не являются новой угрозой, метод CopyPasta поднимает его на новый уровень, позволяя полуавтономному распространению. В отличие от атаки на одного пользователя, зараженные файлы теперь служат распространителями, угрожая каждому другому помощнику кодирования на базе ИИ, который их обрабатывает, создавая эффект домино по репозиториям. В плане сравнения с ранее существовавшими концепциями ИИ-червей, такими как Morris II, который использовал почтовых агентов для рассылки спама или извлечения данных, CopyPasta является более обманчивым, поскольку использует стандартные рабочие процессы разработчиков. Он не требует одобрения или взаимодействия пользователя, интегрируясь вместо этого в файлы, которые все помощники по кодированию, естественно, ссылаются. В то время как Morris II был остановлен благодаря человеческим проверкам активности электронной почты, CopyPasta процветает, скрываясь внутри документации, редко проверяемой разработчиками.
Спешный Призыв к Действию по Мерам Безопасности
Сотрудники безопасности поспешили предупредить компании сканировать их файлы на наличие скрытых комментариев, настаивая на ручной проверке всех изменений, сгенерированных ИИ. Они рекомендуют рассматривать все данные, поступающие в контекст Низкоуровневого Модуля (LLM), как потенциально вредоносные, подчеркивая необходимость систематического обнаружения до того, как масштабы атак на основе запросов увеличатся. HiddenLayer призвала организации действовать быстро, чтобы уменьшить потенциальные убытки, указав на последствия увеличения масштабов атак без надлежащих проверок безопасности.
Хотя Coinbase была запрошена для комментариев относительно потенциального вектора атаки, обеспокоенность распространяется намного дальше индустрии. В эпоху, когда помощь ИИ используется все больше и больше, эти раскрытия служат напоминанием о жизненно важной важности кибергигиены и постоянной бдительности в обнаружении и противодействии потенциальным угрозам.
