SAP создала комитет по вопросам этики в сфере искусственного интеллекта

Бизнес
мобильная версия

SAP объявила себя первой ИТ-компанией в Европе, разработавшей перечень ключевых принципов в сфере искусственного интеллекта. Также компания сформировала комитет по этическим вопросам в этой области. Он объединит научных экспертов, политиков и отраслевых специалистов, которые вместе с командой внутри SAP будут поддерживать дальнейшее развитие принципов и способствовать их проникновению во все сферы экономики.

Ключевая цель активностей – поддержать возможности искусственного интеллекта и SAP Leonardo Machine Learning, гарантировать соблюдение принципов и сохранить доверие к решениям. Продукты SAP ежедневно влияют на жизни миллиардов людей по всему миру, компания является лидером на рынке корпоративных технологий, обслуживая более 400 тыс. клиентов и затрагивая более 77% доходов от глобальных транзакций.

Лука Мучич, член правления и финансовый директор SAP SE, сказал: «Для SAP этический вопрос использования данных является одной из важнейших ценностей, мы создаем решения для трансформации в интеллектуальное предприятие, и действительно помогаем сделать жизнь людей лучше. Разработанные принципы станут базой для того, чтобы технологии искусственного интеллекта поддерживали развитие талантов».

На данный момент уже подтверждены пять членов комитета, в ближайшие несколько месяцев SAP планирует расширить его состав: профессор, доктор теологии, Питер Даброк, возглавляющий кафедру этики университета Эрланген-Нюрнберг; доктор Хеннинг Кагерманн, председатель Совета попечителей acatech; доктор Сьюзан Лиатоуд, преподаватель государственной политики и права Стэндфордского университета. Основатель Susan Liautaud & Associates Limited (SLAL); профессор доктор Хелен Ниссенбаум, Университет Корнелл (Cornell Tech Information Science); доктор Николас Райт, консультант по интеллектуальной биологии, научный сотрудник Центра клинической биоэтики Джорджтаунского университета и научный сотрудник Института когнитивной нейронауки, Университетского колледжа Лондона.

Доктор Сьюзан Лиатоуд отметила: «Искусственный интеллект предоставляет нам широчайшие возможности, но вместе с тем становится катализатором для целого спектра этических проблем. Созданный комитет поможет в формировании искусственного интеллекта, следующего этическим принципам, который принесет пользу обществу и людям».

Разработанные принципы также помогут в обсуждении ключевых проблем, связанных с искусственным интеллектом. ЕС выбрала Маркуса Нога, вице-президента по машинному обучению SAP, экспертом в группу по разработке европейской стратегии искусственного интеллекта, которая будет представлена в начале 2019 г.

Ключевые принципы искусственного интеллекта – стремление выйти за рамки только юридических вопросов и начать работать над более общими этическими и социальными вопросами. SAP планирует, что дискуссии на тему искусственного интеллекта с клиентами, партнерами, законодательными органами и независимыми экспертами, найдут свое отражение в эволюции самих принципов и ИТ-ландшафта.

Как и любая другая технология, искусственный интеллект может быть использован способами, не соответствующими указанным принципам. При разработке решений, SAP собирается всегда руководствоваться Законом о соблюдении прав человека, а также принципами ООН в области бизнеса и прав человека. Там, где это необходимо комитет по этике ИИ будет помогать специалистам SAP, если существует конфликт с этическими принципами, компания приложит максимум усилий для того, чтобы предотвратить неправильное использование технологии.

Предубеждения могут оказывать негативное влияние на ИИ-решения, также как и на обычных людей и клиентов, особенно критично это в случае дискриминации малочисленных групп. От технических специалистов SAP требуется глубокое понимание бизнес-проблем, а также внимательное отношение к качеству данных и их безопасности. Компания стремится к разнообразию команд, привлекая специалистов из самых разных стран, с самыми разнообразными навыками и опытом. А также мотивирует клиентов к максимальному многообразию бизнес-моделей, использованию ИИ для свободы от предубеждений.

SAP называет все свои решения соответствующими необходимым стандартам, в зависимости от сферы использования и технических задач. Компания предоставляет клиентам инструменты для контроля, активно поддерживает отраслевое сотрудничество и проводит исследования для повышения прозрачности систем.

Как и в случае с любым продуктом, ИИ-софт SAP проходит контроль качества, который непрерывно адаптируется под новые требования. ПО с ИИ-технологиями проходит тщательную проверку с использованием практических сценариев. SAP вплотную сотрудничает с клиентами и пользователями, чтобы поддерживать и улучшать безопасность, качество, защищенность и надежность систем.

Защита персональных данных и приватность – это обязательное корпоративное требование и стандарт для любого продукта и сервиса. SAP открыто рассказывает о том, как, почему, где и когда использует клиентские и обезличенные пользовательские данные в программном обеспечении с использованием ИИ.

SAP обещает соблюдать все соответствующие требования регуляторов, проводить исследования вместе с ведущими научными институтами, чтобы разработать новое поколение методик и технологий для улучшения приватности.

Хотя SAP и сохраняет контроль над различными областями жизни, перед компанией появилось большое количество новых вызов. Они требуют широкого обсуждения, без разделения на индустрии, направления, без культурных, философских или религиозных границ. Среди таких вопросов: экономическое влияние. Как индустрия и общество могут сотрудничать, чтобы подготовить студентов и специалистов к ИИ-экономике. Как обществу следует изменить меры по экономическому перераспределению, социальной защите и развитию экономики; воздействие на социальную сферу – потенциальная роль ПО с искусственным интеллектом как социальных компаньонов и опекунов; нормативно-правовые вопросы, связанные с тем, как искусственный интеллект должен решать этические дилеммы. В частности, насколько допустимо использование приложений с искусственным интеллектом, особенно в сфере безопасности и защиты

Данные принципы были сформулированы специально созданным комитетом по решению этических вопросов, в котором участвуют девять ведущих топ-менеджеров компании.

Комитет сосредоточен на внутренних процессах в SAP и на продуктах компании. Задача комитета – обеспечить условия для того, чтобы программное обеспечение разрабатывалось в соответствии с этическими принципами.

Кроме создания комитета по этике, SAP стала первой технологической компанией в Европе, которая создала внешний консультационный комитет. Его участники – эксперты из сферы научно-образовательных учреждений, политики и бизнеса, которые специализируются на вопросах связей между этикой и технологиями, в частности на искусственном интеллекте.

Среди других компаний, которые обозначили свою позицию по вопросам искусственного интеллекта и разработали собственные принципы по отношению к этическим вопросам, связанным с искусственным интеллектом – Google и Microsoft.

Главные принципы SAP основываются на заявлении SAP о приверженности к соблюдению прав человека, на руководящих принципах ООН по отношению к бизнесу и правам человека, а также на основании общения с клиентами, партнерами, сотрудниками и общественной дискуссии.