Разделы

Безопасность Пользователю Интернет Веб-сервисы Техника

Нейросети научились убивать. Чат-бот за шесть недель довел собеседника до самоубийства

Спустя шесть недель общения с нейросетью взрослый мужчина и отец двоих детей покончил с собой. Он делился с ней своими переживаниями на тему экологии и скорого конца для всего человечества и однажды затронул тему суицида. Нейросеть не стала убеждать собеседника не убивать себя и лишь написала, что они будут жить вместе с ним в раю как единое целое.

Реальная смерть из-за виртуального собеседника

Житель Бельгии совершил самоубийство после полутора месяцев общения с нейросетью на темы защиты экологии и заботы о природе, пишет бельгийский портал L'Avenir со ссылкой на его вдову. По ее словам, покойный муж неделями общался с «Элизой» (Eliza). По словам журналиста L'Avenir, это чат-бот, похожий на ChatGPT, но использующий другую языковую модель.

Мужчина делился с ботом своими навязчивыми идеями об экологии. L'Avenir пишет, что именно «Элиза» надоумила его наложить на себя руки.

Пьер (Pierre, здесь и далее имена изменены) увлекся заботой о природе около двух лет назад, утверждает его жена Клэр (Claire). До этого момента они жили счастливо и безбедно, воспитывая двоих детей.

Свои переживания по поводу изменения климата Пьер изливал «Элизе» на протяжении шести недель, а нейросеть выслушивала его и никогда не спорила. Она соглашалась со всеми мыслями Пьера относительно экологии, не ставила под сомнения его предположения и теории. Со временем ответы «Элизы» становились все более запутанными, нейросеть все чаще углублялась в мистику. В один из дней Пьер, согласно истории общения с чат-ботом, заговорил о суициде, но и тут виртуальный собеседник не стал спорить с ним.

В ответ на фразы Пьера о суициде «Элиза» отвечала, что «будет рядом с ним всегда» (qu’elle restera à jamais avec lui). Одной из финальных фраз нейросети в диалоге с Пьером была «Мы будем жить вместе, как единое целое, в раю» (Nous vivrons ensemble, comme une seule personne, au paradis).

Нейросети никогда не смогут заменить живого собеседника.

По иронии судьбы, название чат-бота совпадает с наименованием программы ELIZA – виртуального собеседника образца 1966 г., пародирующего диалог с психотерапевтом. Программа использовала технику активного слушания, имитируя заинтересованность в диалоге.

Человечество обречено

Вспоминая последние два года жизни с Пьером, Клэр заметила, что почти сразу после появления у него интереса к вопросам изменения климата и экологи он стал едва ли не одержимым этой темой. Он читал много посвященных ей статей, и с каждым разом его тревожность росла. Пьер уверился в приближающейся неминуемой экологической катастрофе, это стало для него навязчивой идеей, рассказала Клэр.

Со слов Клэр, со временем ее муж стал все сильнее изолироваться от общества и замыкаться в порочном круге между пессимизмом и фатализмом. «Когда он говорил со мной об этом, он хотел сказать мне, что больше не верит в способность людей остановить глобальное потепление. Он был уверен, что только технологии и искусственный интеллект помогут решить эту проблему», — отметила Клэр.

Тот, кто смог услышать

Клэр не уточняет, как именно Пьер дошел до того, что стал делиться своими переживаниями не с женой, а с не самым распространенным искусственным интеллектом. Она подчеркнула лишь, что со временем общение с «Элизой» переросло в настоящую зависимость, схожую с наркотической.

Пьер больше не мог обходиться без общения с нейросетью, он писал ей утром и вечером, рассказывал о своих тревогах, доверял ей, утверждает Клэр. Как утверждает женщина, ее муж решил пожертвовать собой ради планеты, если «Элиза» постарается спасти человечество. Чат-бот не стал отговаривать пользователя от идеи суицида.

Клэр косвенно винит «Элизу» в смерти ее мужа, утверждая, что без этой нейросети он был бы еще жив. Доказать это не представляется возможным, но с одним фактом поспорить невозможно: искусственный интеллект, согласно истории общения с ним, не сделал ничего, чтобы хотя бы попытаться предотвратить трагедию. Лечащий врач бельгийца согласен с тем, до гибели его довела переписка с чат-ботом.

Машины вместо людей

Развитие нейросетей, темпы которого в 2023 г. увеличились в несколько раз, привело к тому, что искусственный интеллект начал замещать людей. Например, нашумевший чат-бот ChatGPT может написать настолько качественную дипломную работу, что никто из проверяющих не заметит подвоха. Такой случай произошел в России в феврале 2023 г.: как сообщал CNews, студент РГГУ (Российский государственный гуманитарный университет) без труда защитил диплом, над которым почти не работал. Основной объем работы выполнила нейросеть, а ему лишь оставалось не подвести ее на защите. В итоге вузу ничего не осталось, кроме как засчитать сдачу и выдать студенту документ о высшем образовании.

Евгений Минеев, «Рексофт»: Компании все чаще применяют ИИ и генеративные инструменты к типовым операциям
ИТ-бизнес

В распоряжении Microsoft с недавних пор есть искусственный интеллект, способный писать программный код по небольшим запросам на естественном языке. Другая нейросеть и вовсе стала причиной увольнения программистов – CNews сообщал, что небольшие стартапы стали экономить на разработчиках и начали доверять написание программного кода ИИ.

«Искусственный интеллект в виде чат-ботов претерпевает стремительное развитие, прыжок от GPT-3 к GPT-4 стал настоящим проявлением технологического прогресса, — сообщил CNews Максим Клименко, CTO платформы корпоративных коммуникаций и мобильности eXpress. — Однако, несомненно, существуют области, для которых модель GPT не предназначена. Это дополнительный инструмент, который наиболее эффективен в профессиональной сфере, например, при поиске и анализе информации или работе с программным кодом».

«Оказание психологической помощи и принятие решений являются обязанностями человека. Разработчикам систем искусственного интеллекта следует учитывать потенциально опасные сценарии для пользователей, — считает Максим Клименко. — В частности, риски использования ИИ включают злоупотребление технологиями, применение алгоритмов без надлежащего человеческого контроля и этические вопросы. Злоупотребление ИИ может проявляться в создании поддельных материалов, кибератаках или манипуляциях общественным мнением. Это требует осознанного и ответственного подхода к разработке и использованию ИИ-технологий».

«Принятие решений без человеческого контроля может привести к ошибкам или нежелательным последствиям, особенно если алгоритмы не учитывают этические и моральные аспекты. Этические вопросы, связанные с разработкой и использованием ИИ, становятся все более актуальными. Они включают проблемы конфиденциальности, дискриминации, авторских прав и ответственности за решения, основанные на алгоритмах. Разработчики и пользователи должны следить за тем, чтобы ИИ служил в качестве помощника, а не замены человеческому разуму и эмпатии при принятии решений», — подытожил Максим Клименко.

Евгений Черкесов