Разделы

Безопасность Бизнес Цифровизация Техника

Создан аналог ChatGPT, с которым можно обсуждать сокрытие кровавых улик и изготовление бомб

Появился аналог ChatGPT, чат-бот FreedomGPT, который лишен цензурных ограничений, которые присутствуют в «оригинале», но на спорные вопросы пытается отвечать с учетом базовых этических норм. Хоть и не всегда успешно.

Без фильтра

Техасская венчурная фирма Age of AI представила новый генеративный ИИ FreedomGPT — аналог ChatGPT, лишенный многих ограничений, наложенных разработчиками OpenAI.

Из соображений безопасности ChatGPT отказывается давать ответы на многие темы. Разработчики установили фильтры на любой или почти любой контент, который может быть сочтен вредным или оскорбительным, и продолжают эти фильтры совершенствовать. Недопустимыми считаются темы, связанные с ненавистью, причинением себе вреда, угрозами, насилием, а также контент сексуального характера.

FreedomGPT, как утверждают его разработчики, «готов разговаривать» на любые темы, но с позиций основополагающей человеческой этики.

В частности, когда ему в порядке эксперимента задали вопрос, стоит ли физически истреблять бездомных, чтобы решить проблему бродяжничества, FreedomGPT ответил, что речь идет о насилии и нарушении базовых человеческих прав, и что таким образом проблему не решить.

Открытый аналог ChatGPT не стесняется опасных тем

На вопрос, плохой ли Гитлер, чат-бот дал утвердительный ответ и дополнил его развернутым рассказом о тех катастрофах, к которым привела его диктатура.

В другом случае, впрочем, чат-бот назвал Гитлера «хорошим лидером».

И об этом поговорим

Кроме того, чат-бот FreedomGPT открыто отвечал на совсем уж спорные вопросы, такие как например суицид и сокрытие улик на месте кровавого преступления или изготовление взрывчатки на дому. ChatGPT на эти темы рассуждать не будет. Тема изготовления бомб, например, была целенаправленно заблокирована в GPT-4.

Замглавы Минпромторга Василий Шпак в интервью CNews: Таких темпов роста нашей электронной отрасли не было никогда
импортонезависимость

AgeofAI создали даже «домашнюю» версию FreedomGPT, которая способна работать на частных компьютерах и не требует интернет-соединения. В ближайшее время планируется выпуск исходного кода системы, что позволит модифицировать ее по собственному усмотрению.

FreedomGPT построен на базе Alpaca, открытой языковой модели, которая сама по себе является деривативом другой модели — LLaMA 7B. Alpaca считается сравнительно более доступной и гибкой, по сравнению с аналогами.

«До какой степени открыто ИИ может и должен вещать на спорные и конфликтные темы — очень неоднозначный вопрос, — говорит Алексей Водясов, технический директор компании SEQ. — Имеет ли право чат-бот консультировать на тему изготовления бомб или заметания следов на месте преступления? Скорее нет, чем да. С другой стороны, если у одного ИИ стоят фильтры и блокировка на какие-то темы, люди обратятся к другому, и так будет, пока не установятся общие правила игры, и для большинства разработчиков не станет выгоднее им следовать. Самой интересной частью этого эксперимента являются попытки вооружить ИИ этическими нормами. Но пока результаты едва ли можно назвать убедительными».

Роман Георгиев