Поделиться
Первый троян-шифровальщик на основе ИИ оказался демонстрационным
Программа PromptLock использует ИИ для генерации вредоносных скриптов Lua. Хотя это лишь исследовательский проект, перспективы открываются безрадостные.
Шифрование по промптам
Исследователи компании ESET обнаружили, возможно, первую программу-вымогатель, которая использует LLM-модель, динамические генерирующую вредоносные скрипты. Она получила название PromptLock.
Позднее сторонний исследователь угроз заявил, что это его демонстрационный проект, который «непонятно как» утек в Сеть и попал на VirusTotal. В ESET подтверждают, что информацию о вредоносе они почерпнули именно с VirusTotal, в телеметрии защитных средств на конечных точках клиентов эта программа пока не фигурировала.
По данным исследователей ESET, PromptLock написан на языке Golang. Программа использует API Ollama для доступа к gpt-oss:20b, облегченной языковой модели OpenAI, которая может работать на оконечных устройствах с 16 ГБ памяти. LLM размещается на удаленном сервере, к которому злоумышленник подключается через прокси-туннель.
Вредоносное ПО использует встроенные промпты, которые инструктируют модель динамически генерировать скрипты Lua. Эти скрипты способны индексировать локальную файловую систему, проверять целевые файлы, а также красть данные и шифровать файлы из заданного списка.
«Очередной ящик Пандоры можно считать открытым: применение генеративных ИИ в контексте шифровальщиков данных было вопросом времени, как и в целом - злонамеренное использование этих технологий», - отмечает Дмитрий Пешков, эксперт по информационной безопасности компании SEQ. «То, что это всего лишь концептуальная разработка, а не активно применяемый вредонос, означает лишь, что в самом скором времени другим экспертам придется столкнуться уже с практическим применением аналогичных программ. Ну, и, конечно, возникает много вопросов, почему в принципе LLM-модель допускает такое применение - и как с этим бороться».
Пробный шар
Слишком многое, впрочем, указывает на то, что PromptLock - это лишь довольно сырая разработка: как отмечают исследователи, программа использует слабый 128-битный алгоритм шифрования SPECK, часто применяемый в приложениях RFID; в коде также присутствует адрес Bitcoin-кошелька, связанного с Сатоcи Накамото (Satoshi Nakamoto). Кроме того, в коде есть ссылка на функцию уничтожения данных, но реализована она не была.
После публикации ESET исследователь безопасности IvanKlydz заявил, что это его собственный проект, и он понятия не имеет, как программа оказалась в чьих-то еще руках.
На что ему порекомендовали проверить, какие сторонние пакеты он устанавливал в систему, - что не лишено смысла, учитывая насколько широко распространились в последнее время вредоносные библиотеки в открытых репозиториях кода.
Хотя PromptLock считается первой программой-вымогателем на базе генеративного ИИ, признаки использования этой технологии во вредоносном контексте встречались и раньше. Еще в 2024 г. исследователи из HP Wolf Security предупреждали, что технология генеративного ИИ может позволить низкоквалифицированным преступникам писать вредоносные программы за считанные минуты, адаптируя их для атак на различные платформы, включая Linux, macOS и Windows. Это увеличивает потенциал киберугроз и усложняет задачу ИБ-экспертов по безопасности по отслеживанию эволюции кибератак.
Короткая ссылка
