Поделиться
Создатели ChatGPT и Claude попросили власти пожестче их регулировать и запрещать опасные модели на государственном уровне
Компании OpenAI и Anthropic направили в Управление по науке и технологической политике Белого дома открытое письмо с просьбой ввести ограничения на использование искусственного интеллекта. Главный исполнительный директор Anthropic Дарио Амодеи заявил, что американское правительство должно иметь право и возможности для запрета ИТ-разработчикам внедрять новые модели, если они представляют определенные риски. Недостаточный контроль и слабая проверка заказчиков могут привести к возникновению серьезных угроз.
Необходимость в регулировании
OpenAI и Anthropic потребовали у властей США ограничить технологии искусственного интеллекта (ИИ) или иметь возможность блокировать новые ИИ-модели из-за больших рисков в безопасности, пишет Bloomberg.
Главный исполнительный директор Anthropic Дарио Амодеи (Dario Amodei) в июне 2026 г. заявил, что правительство США должно иметь право и соответствующие механизмы для запрета ИИ-разработчикам внедрения новых ИИ-моделей в случае, если они представляют серьезные риски для национальной безопасности или общества.
Амодеи заявил, что ИИ-модели должны проходить обязательное тестирование независимыми третьими сторонами для оценки рисков по нескольким ключевым категориям, включая угрозы кибербезопасности и создание биологического оружия. «Если будет установлено, что ИИ представляет неприемлемые риски, правительство должно иметь право блокировать или сдерживать развертывания указанных нейронных сетей», — добавил он.
По информации Bloomberg, данные заявления Дарио Амодеи представляют собой один из самых решительных публичных призывов со стороны крупного ИИ-разработчика к введению более строгого государственного регулирования отрасли на фоне быстрого развития ИИ-технологий.
«Настало время перейти от политики прозрачности к более серьезному и обязательному регулированию ИИ, — резюмировал Дарио Амодеи. — В 2026 г. нам необходимо на глобальном уровне коллективно активизировать медленный и не всегда эффективный политический механизм, чтобы своевременно реагировать на риски и возможности, которые будут нарастать с высокой скоростью».
Биологическая угроза
Особую тревогу у Амодеи и генерального директора OpenAI Сэма Альтмана (Sam Altman) вызывает способность ИИ-агентов не просто пересказывать учебники, но и предлагать неочевидные «обходные пути» синтеза токсинов, помогать в поиске оборудования и устранять неполадки в процессе производства. Компании OpenAI и Anthropic направили в Управление по науке и технологической политике Белого дома открытое письмо с просьбой ввести ограничения на использование искусственного интеллекта. Ведь уже в 2026 г. подобное, очевидно, требует введения обязательного внешнего аудита, а также привлечения специалистов-биологов к предварительному тестированию ИИ-моделей для контролируемого выявления «опасных возможностей» до открытия доступа к ним для широкой публики.
Авторы письма признают, что чрезмерно жесткое регулирование может замедлить проведение законных биотехнологических исследований, в том числе разработку новых лекарственных препаратов и вакцин. В этой связи они предлагают внедрить многоуровневую ИТ-систему контроля доступа: чем выше потенциальные биологические риски использования той или иной ИИ-модели, тем более строгой должна быть процедура проверки пользователей и тем более узкому кругу аккредитованных ученых и организаций она должна быть доступна. Такой подход, по мнению ИИ-разработчиков, позволит сохранить стимулы для инноваций, одновременно создав достаточно высокий цифровой барьер, способный предотвратить использование ИИ-технологий злоумышленниками.
В целом подписанты письма просят правительство классифицировать работу с моделями, имеющими двойное назначение, как вид деятельности, подлежащий лицензированию или обязательной экспертизе. Авторы письма настаивают, что саморегулирование рынка здесь невозможно в силу стратегической важности вопроса: если раньше для создания биологического оружия требовалась инфраструктура государственного уровня, то в 2026 г. ИИ делает соответствующие знания потенциально доступными даже для небольших групп лиц.
Самая мощная модель ИИ
В июне 2026 г. ИИ-разработчик Claude компания Anthropic представила самую мощную версию своей технологии, доступную широкой публике. Модель Fable 5 из нового класса Mythos имеет ограничения, предотвращающие использование в кибератаках или разработке биологического и химического оружия, предупреждал CNews. Компания утверждает, что Fable 5 хороша в написании и отладке программного кода, ответах на сложные исследовательские вопросы и анализе изображений.
Параллельно Anthropic предлагает и неограниченную версию Claude Mythos 5 компаниям и организациям, которые уже имеют доступ к этому семейству ИИ-моделей, включая партнеров по кибербезопасности, участвующих в программе Project Glasswing. Anthropic ограничила доступ к Mythos по соображениям кибербезопасности, учитывая то, что компания называет своей способностью быстро выявлять ИТ-уязвимости в критически важной ИТ-инфраструктуре, включая банковские ИТ-платформы и электросети.
Контроль за ИИ по кибербезопасности
Президент США Дональд Трамп (Donald Trump) подписал указ о проверке новых ИИ-моделей на предмет рисков для национальной безопасности примерно через две недели после того, как отказался одобрить этот документ.
Согласно тексту указа, опубликованному на сайте Белого дома, ИИ-модели ИИ несут новые риски национальной безопасности, поэтому органы власти в течение 30 дней должны оценить эти ИИ-технологии на предмет опасности для государства. Кроме того, документ предусматривает создание специального органа, отвечающего за кибербезопасность в сфере ИИ.
Короткая ссылка
