Поделиться
Власти США требуют раскрыть подробности о людях, которые незаметно помогают думать искусственному интеллекту
Представители Демпартии в Сенате направили девяти вендорам ИИ-технологий открытое письмо, где задали, вероятно, крайне неудобные вопросы о том, в каких именно условиях работают Data Workers - специалисты по анализу и классификации данных, работающие по контрактам.
Письмо девяти
Сенаторы от демократической партии потребовали от таких компаний как Amazon, Alphabet (Google), Microsoft, Meta (прежнее название Facebook, признана экстремистской и запрещена в России), OpenAI и ещё нескольких вендоров решений на базе искусственного интеллекта, раскрыть все подробности о том, в каких условиях работают их «невидимые» подрядчики или субподрядчики, в частности, люди, которые занимаются ручной категоризацией данных и оценивают ответы при обучении ИИ.
Эти люди сыграли важнейшую роль в нынешнем буме искусственного интеллекта, но едва ли получили за это что-то сверх контракта.
Сенатор Эд Марки (Ed Markey), представляющий штат Массачусетс, и представительница штата Вашингтон, сенатор Прамила Джайяпал (Pramila Jayapal) и группа их единомышленников подписали и направили в адрес поставщиков ИИ-решений открытое письмо, в котором, в частности, говорится: «Несмотря на то, что характер этой деятельности носит критический характер, миллионы людей, занимающиеся анализом и обработкой данных по всему миру выполняют эти тяжёлые задачи под постоянным надзором, за очень низкое вознаграждение и без каких-либо гарантий и привилегий. Предполагается, что эти работники должны заниматься фильтрацией опасных ответов, сгенерированных чат-ботами, но у них слишком мало времени, чтобы в принципе оценивать, какую угрозу может представлять полученный ответ. Подрядчики зачастуют проходят лишь очень поверхностное обучение и очень примерную оценку их результатов, что может приводить к проявлениям предвзятости [в ответах искусственного интеллекта]».
Письмо адресовано генеральным директорам девяти компаний. Помимо уже упомянутых, адресатами стали IBM, Inflection AI, Scale AI и Anthropic.
Сенаторы настоятельно просят ответить на обширный ряд вопросов об условиях работы людей, занимающихся ручной обработкой данных, в том числе о том, когда и как они могут брать перерывы, подавать апелляции на отстранение их от работы или получать психологическую помощь после столкновения с наиболее травмирующим контентом.
«Технологические компании не должны строить искусственный интеллект «на горбах» эксплуатируемых работников», - заявляют авторы письма.
Сложный вопрос
При разработке ИИ-продуктов американские компании в огромной степени полагаются на субподрядчиков внутри и за пределами США. Их найм осуществляется через фирмы, которые занимаются подбором кадров. Но в отличие от штатных работников вендоров, субподрядчикам не полагается никаких льгот, гарантий и компенсаций.
«Здесь вопрос довольно сложный. Любая коммерческая компания, особенно акционерная, стремится сократить издержки при повышении прибыли. Субподрядчики - это распространённый способ сэкономить. При этом никто не понуждает их работать в таком формате: они знают, чем будут заниматься (как правило), добровольно подписывают договор. На первый взгляд всё юридически безупречно, - говорит Анастасия Мельникова, директор по информационной безпасности компании SEQ. - Data workers знают, на что идут, и соглашаются осуществлять тот объём работ, который им препоручен. К слову, когда речь идёт о субподрядчиках, это означает, что формально они работают на те фирмы, которые нанимают их непосредственно, и именно они выплачивают им компенсацию и устанавливают режим работы. А не вендоры ИИ. Возможно, однако, что трудовое законодательство США требует от вендоров принимать какие-то меры для дополнительной социальной защиты таких работников. Или в скором времени потребует, если Конгресс не удовлетворят ответы адресатов письма и они попытаются вынудить их поменять подход».
Издание Business Standard отмечает, что компании, располагающиеся наверху «пищевой цепочки», часто нанимают субподрядчиков и для выполнения других тяжёлых и рутинных задач, таких как модерация контента или проверка качества продукта.
Короткая ссылка
