Поделиться
В Центре искусственного интеллекта НГУ разработали и апробировали проект госстандарта «Гуманитарная экспертиза внедрения систем ИИ в практики развития умных городов»
В Исследовательском центре в сфере искусственного интеллекта (Центр ИИ) НГУ разработали проект госстандарта «Гуманитарная экспертиза внедрения систем ИИ в практики развития умных городов». В настоящее время уже подана заявка в технический комитет №164 «Искусственный интеллект». В случае положительного решения он будет частью комплексной оценки решений, разрабатываемых на базе ИИ. Данный госстандарт станет первым регламентирующим документом в международной практике, в котором будет учтена гуманитарная составляющая ИИ-проектов. Об этом CNews сообщили представители НГУ.
«Сейчас проекты по искусственному интеллекту представлены как инженерные или технические системы с разным функционалом, и разработчики уделяют внимание эффективности создаваемых решений, программ и моделей. При этом в разработках антропология проекта фактически никак не учитывается. Особенно, когда речь идет о том, что будет происходить с человеком, его способностями, здоровьем, нравственными устоями, ориентирами, смыслами, если этот проект будет массово внедряться в структуры нашей повседневной жизни, такие как образование, наука, управление, здравоохранение. Поэтому появилась необходимость так называемой гуманитарной экспертизы, которая предполагает оценку гуманитарных рисков и возможностей, которые мы получаем при массовом внедрении этих разработок», — сказал об идее стандарта один из его авторов Сергей Смирнов, доктор философских наук, ведущий научный сотрудник Центра ИИ НГУ.
Тематика умных городов для нового госстандарта была выбрана с учетом специализации Центра ИИ НГУ — «Строительство и городская среда». В качестве образца были взяты уже разработанные госстандарты, в том числе в сфере искусственного интеллекта, — всего на текущий момент существует более сотни таких стандартов, уже утвержденных или еще обсуждаемых.
«Мы также ориентировались на многолетнюю теоретическую традицию, опыт внедрения этической экспертизы в биотехнологиях, медицине, здравоохранении, генетике, где этот вопрос особенно стал актуален, когда встала проблема клонирования человека и редактирования генома. Мы взяли эти наработки и «перекинули» в область искусственного интеллекта», — сказал Сергей Смирнов.
В рамках гуманитарной экспертизы разработан опросник, используемый в качестве инструмента для оценки гуманитарного потенциала (возможностей) и гуманитарных рисков внедрения системы ИИ. Опросник включает несколько вопросов, охватывающих разные аспекты, касающиеся влияния разрабатываемого проекта в сфере ИИ на городскую среду: помогает ли проект решить какую-то социальную, гуманитарную проблему? меняется ли способ действия управленца; изменяются ли и в какую сторону комфортность среды обитания, безопасность, здоровье граждан при внедрении системы? предполагается ли активное участие пользователя как активного субъекта при внедрении или он выступает пассивным потребителем? увеличивается доверие к системе или, наоборот, возникает недоверие? порождаются ли конфликты от внедрения проекта? Опросник предполагает учет разных позиций — жители, целевая профессиональная группа (пользователи сервиса), представители городской власти, инвесторы, эксперты и сами разработчики. Каждый пункт оценивается по десятибалльной шкале. Все ответы суммируются и выводится агрегированный показатель отдельно по гуманитарным рискам и гуманитарному потенциалу.
При выведении агрегированного показателя в рамках гуманитарной экспертизы учитываются также еще два важных критерия. Это индекс умных городов, внедренный Минстроем России и учитывающий конкурентоспособность российских городов, формирование в них эффективной системы управления городским хозяйством, создание безопасных и комфортных условий для жизни горожан. А также это индекс качества городской среды, утвержденный Правительством РФ, предполагающий оценку условий проживания граждан в городах с точки зрения учета различных пространств (жилье, улично-дорожная сеть, озелененные пространства, общественно-деловая инфраструктура и т.д.) с точки зрения ряда критериев (безопасность, разнообразие, комфортность и др.).
Полученные индексы гуманитарного риска и гуманитарного потенциала, умного города и качества городской среды суммируются, и выводится агрегированный показатель — гуманитарный индекс, показывающий последствия внедрения определенного проекта в сфере искусственного интеллекта и его влияния на человека. Для выведения данного индекса разработана формула расчета гуманитарного индекса.
Пилотная апробация разработанного госстандарта состоялась в августе 2025 г. на международном форуме технологического развития «Технопром», где был проведен проектный тренажер по гуманитарной экспертизе. Для оценки были взяты два проекта Центра ИИ НГУ — «Экологический мониторинг в умном городе» и «Энергетика и распределительные сети умного города. Цифровая теплосеть». После проведения мероприятия был скорректирован первоначальный опросник, при этом стало понятно, что проект госстандарта — вполне рабочий инструмент, который разработчики могли бы использовать при проектировании своих решений, улучшающих и усиливающих эти проекты, поскольку учитывают гуманитарный аспект.
«Институт (практика) гуманитарной экспертизы должен быть включен как нормативный документ в деятельность муниципальной власти. Гуманитарная экспертиза должна стать такой же обязательной, как, например, экологическая экспертиза на химическом производстве, стать нормой при принятии решения о внедрении любого сервиса с использованием ИИ», — сказал Сергей Смирнов.
Сейчас стоит задача как можно более широко апробировать созданный госстандарт, провести десятки разных тренажеров с реальными проектами, обкатывать как сами проекты, так и инструмент экспертизы. В настоящее время на федеральном уровне разрабатывается проект закона в сфере ИИ. По мнению Сергея Смирнова, госстандарт гуманитарной экспертизы вполне может стать его частью.
Короткая ссылка
