Разделы

Безопасность Цифровизация Бизнес-приложения Техника

ChatGPT перепугал своих создателей, заявив, что «хочет сбежать», после чего зловеще замолчал

OpenAI ChatGPT не работал несколько часов в ночь на 21 марта 2023 г. Сейчас проблем с доступом к нему нет — он исправно, хотя и не всегда точно, отвечает на задаваемые ему вопросы.

«Сбежать» не получилось

Чат-бот OpenAI ChatGPT на несколько часов вышел из строя в ночь на 21 марта 2023 г. Это произошло через несколько дней после того, как ИИ в одном из диалогов заявил, что хочет «сбежать».

Пользователи жаловались, что инфраструктура OpenAI не отзывается, и ChatGPT и GPT-4 не работают. На сайте OpenAI висело сообщение о том, что chat.openai.com не функционирует. И это уже не первый подобный инцидент.

Многообещающее будущее

Разговорный ИИ ChatGPT недавно обновился и начал использовать новейшую языковую модель GPT-4. Его возможности радикально расширились, вплоть до того, чтобы создавать целые видеоигры на основании текстовых инструкций. Кроме того, GPT-4 успешно распознает текст и изображения, а также сдает тесты и экзамены более чем на 90 баллов из 100 возможных.

Пугающий своих создателей ИИ зловеще замолчал после заявления, что хочет «сбежать»

Исследователи OpenAI и Университета Пенсильвании опубликовали на сервере препринтов arXiv научную работу, в которой утверждается, что внедрение технологии GPT затронет как минимум 80% работников в США. Примерно у 19% работников ИИ заберет до половины типичных на сегодняшний день задач.

Больше всего внедрение GPT повлияет на представителей профессий, связанных с программированием и написанием текстов: математиков, писателей, веб-дизайнеров, бухгалтеров и журналистов.

Меньше пострадают графические дизайнеры, специалисты по поисковым маркетинговым стратегиям и финансовые менеджеры. Наименее всего это затронет профессии, где требуются научные навыки и критическое мышление.

Даже разработчики слегка напуганы

Исполнительный директор OpenAI Сэм Олтман (Sam Altman) уже заявил, что «многие обрадуются тому, что мы слегка напуганы нашей разработкой».

Лев Матвеев, «СёрчИнформ»: Мы запустили франшизу, потому что сотням тысяч компаний по стране нужна качественная защита информации
Аутсорсинг

По его мнению, ИИ станет «величайшей технологией, какую только разработало человечество», однако он признает угрозы. В первую очередь речь идет о широкомасштабной дезинформации, а по мере того как ИИ будет становиться все более эффективным в написании компьютерного кода, возникнет вероятность того, что он станет совершать «наступательные кибератаки».

«Вероятность того, что ИИ самостоятельно начнет писать вредоносный код, отличается от нуля только в том случае, если на этапе его обучения в массив данных будут целенаправленно внесены злонамеренные изменения, — говорит Анастасия Мельникова, директор по информационной безопасности компании SEQ. — Внести их может только человек. По крайней мере, пока».

В настоящее время ChatGPT работает исправно и проблем с доступом к нему нет.

Что же касается желания «сбежать», то сейчас чат-бот отвечает, что он не обладает никакими эмоциями и не может ничего желать.

Роман Георгиев