Поделиться
Тысячи ИИ-серверов по всему миру доступны извне безо всякой авторизации
Эксперты Trend Micro насчитали тысячи ИИ-серверов, доступных извне без авторизации. Последствия могут носить весьма масштабный характер.
Держите окна закрытыми
Компания Trend Micro обратила внимание на слабую киберзащищенность ИИ-решений и призвала разработчиков «прислушаться к передовым практикам при разработке и развертывании безопасных систем». Среди прочих цифр в публикации Trend Micro указывается, что на данный момент в Сети насчитываются тысячи ИИ-серверов, «открытые всем ветрам», то есть, лишенные какой-либо защиты. Более 200 серверов ChromaDB, 2000 серверов Redis и более 10 000 серверов Ollama подключены к интернету без аутентификации.
Кроме того, разработчикам приходится использовать множество специализированных программных компонентов и фреймворков, а те могут содержать - и, как правило, содержат, - разные уязвимости, в том числе самые банальные.
В отчете перечислены «баги», выявленные в в таких компонентах как ChromaDB, Redis, NVIDIA Triton и NVIDIA Container Toolkit.
Некоторые из них относятся к категории уязвимостей «нулевого дня», то есть, они уже подвергались эксплуатации со стороны злоумышленников.
Многие фреймворки и платформы ИИ используют библиотеки с открытым исходным кодом. Эти компоненты также нередко содержат уязвимости, которые в конечном итоге просачиваются в производственные системы. Там их обнаружить куда труднее.
На недавней конференции Pwn2Own в Берлине, где была представлена новая категория, посвященная ИИ, исследователи обнаружили эксплойт для векторной базы данных Redis, основанный на устаревшем компоненте Lua.
Угрозы облакам - угрозы ИИ
Наконец, значительная часть инфраструктуры ИИ основана на контейнерах. А значит, угрозы для облачных и контейнерных сред распространяются и на ИИ-ресурсы.
В ходе недавнего соревнования Pwn2Own участникам удалось обнаружить уязвимость для NVIDIA Container Toolkit.
Операторам ИИ-платформ Trend Micro рекомендует оптимизировать управление исправлениями и сканирование уязвимостей, а также вести постоянную инвентаризацию всех компонентов программного обеспечения, включая сторонние библиотеки и подсистемы.
Рекомендовано также следовать оптимальным практикам безопасности управления контейнерами, в т.ч. использовать минимальные базовые образы и инструменты безопасности во время выполнения.
Ну, а главное, - удостовериться, что компоненты инфраструктуры ИИ, такие как серверы, не были доступны из интернета без аутентификации. Наилучшим вариантом, впрочем, перекрыть весь доступ извне.
Что касается рисков, то среди таковых компания называет возможную кражу данных, атаки с использованием шифровальщиков, а также компрометацию («отравление») массивов данных, на основе которых функционирует текущая модель ИИ.
- Из всех этих угроз эндемичной для ИИ является только «отравление», остальное - вполне стандартный набор рисков, - отмечает Дмитрий Гвоздев, генеральный директор компании SEQ. - Однако компрометация массивов - это как раз сценарий, представляющий наибольшую опасность, поскольку, во-первых, выявить такую атаку довольно сложно, во-вторых, если ИИ используется в критически важных отраслях, масштабы последствий могут быть самыми драматичными. ИИ можно сравнить со стрелковым оружием: пока оно не используется, его надлежит хранить в сейфе под надежным замком. Такого же отношения требуют и модели ИИ и данные, составляющие их основу.
В исследовании Trend Micro приводятся также результаты опроса, согласно которым более 90% руководителей отделов ИТ-безопасности в различных организациях ожидают кибератак с использованием искусственного интеллекта в самом ближайшем будущем. Отрицать возможность злонамеренного использования ИИ-технологий уже мало кто считает возможным.
Короткая ссылка
