Разделы

ПО ИТ в госсекторе Техника

АНБ США создало центр по безопасности искусственного интеллекта и по защите от ИИ

Агентство национальной безопасности США создает специализированный центр, который будет заниматься защитой искусственного интеллекта. И защитой от него.

Искусственно-интеллектуальная безопасность

Агентство Национальной безопасности США объявило о создании специализированного хаба, в котором планируется консолидировать все направления деятельности агентства, связанные с искусственным интеллектом.

Получивший название The Artificial Intelligence Security Center (в зависимости от контекста это можно перевести как «Центр безопасности искусственного интеллекта» или как «Центр обеспечения безопасности с помощью ИИ») станет «фокусной точкой» для таких направлений, как выявление инсайтов в разведывательной деятельности, разработка методических рекомендаций в отношении быстроразвивающихся технологий и создание «инструментов определения рисков в сфере безопасности ИИ».

Об этом на днях заявил генерал Пол Накасоуни (Paul Nakasone), выступает в Национальном Пресс-Клубе в Вашингтоне.

Новое подразделение планируется разместить в Центре кооперации в сфере кибербезопасности АНБ. Одной из заявленных целей будет помочь бизнесу «осознать угрозы их интеллектуальной собственности и... предотвратить и нейтрализовать их».

По словам Накасоуни, ИИ-подразделение АНБ будет сотрудничать со множеством организаций, связанных с Пентагоном, разведывательным управлением, академическими кругами и зарубежными партнерами.

Генерал Накасоуни также возглавляет Киберкомандование США. И АНБ, и Киберкомандование недавно опубликовали исследования об использовании ИИ в ближайшем будущем.

Кое-что ИИ не должен ни знать, ни уметь, ни раскрывать

Эти работы показали «отчетливую необходимоссть» сосредоточиться на безопасности ИИ, и, как отметил генерал Накасоуни, особая ответственность в этом плане лежит именно на АНБ. Ключевое назначение агентства - осуществлять координацию всех систем безопасности страны. Как выразился Накасоуни, у АНБ уже сформировалась разветвленная система связей в оборонно-промышленном комплексе.

Американский бизнес все больше тратит на закупки и разработки генеративных ИИ-технологий, но, по словам Накасоуни, тем же занимаются и стратегические противники США, которые «быстро разрабатывают и реализуют собственные ИИ-решения, так что мы ожидаем, что они вскоре начнут исследовать и пытаться эксплуатировать уязвимости в ИИ-системах США и союзников».

Безопасность ИИ, с точки зрения генерала, заключается в том, чтобы защищать системы искусственного интеллекта от того, чтобы они «узнавали, делали и раскрывали то, что не следует», а также блокировать кибератаки на них и добиваться, чтобы «враждебные стороны за пределами США не имели возможности похитить передовые американские наработки в сфере ИИ».

Андрей Кузнецов, «МегаФон ПроБизнес»: Выросло число зарубежных поездок с пересадками, и мы сделали переключение между сетями бесшовным
Телеком

По словам Накасоуни, сегодня США удерживают лидирующие позиции, но рассматривать их как нечто само собой разумеющееся, категорически не стоит.

«Учитывая, что из себя представляют сегодняшние ИИ-модели, трудно вообразить себе, чтобы революционные технологии какой-либо одной экономики оставались недостижимыми для другой в течение значимого времени. Хороший пример - это те самые генеративные модели, которые с разницей в несколько месяцев появлялись у всех крупных ИТ-компаний», - отмечает Алексей Водясов, технический директор компании SEQ.

«Существует, конечно, чисто теоретическая вероятность, что кто-то (и не обязательно США) вдруг создадут нечто, что изменит все правила игры, но пока такая вероятность невелика и относится скорее к области недоброй фантастики», - подытожил он.

Кто будет руководить новым хабом и насколько масштабным он станет в итоге (то есть, насколько дорогим для налогоплательщиков), генерал не уточнил.

Роман Георгиев