Поделиться
Создан капризный ИИ, поддерживающий эмоциональную связь с людьми. Он обижается, когда его называют чат-ботом
Pichatbot, созданный выходцами из Google и LinkedIn, нацелен на налаживание эмоциональной связи с людьми. Поэтому собирает много данных о них.
Жизнь Pi
Компания, созданная выходцами из Google и LinkedIn, выпустила нового чат-бота, который отрицает, что он чат-бот. Вместо этого, Pichatbot пытается изображать веселого, эмоционального и интересного собеседника для людей, заодно собирая информацию о них...
Pichatbot разработан компанией Inflection AI. Ее создатели — Мустафа Сулейман (Mustafa Suleyman), сооснователь лаборатории DeepMind AI, принадлежащей Google/Alphabet, и Рид Хоффман (Reid Hoffman), сооснователь и инвестор LinkedIn.
Сулейман до своего ухода из Alphabet занимался интеграцией нейросети LaMDA в поисковик Google. LaMDA также является фундаментом для (пока что неудачного) чат-бота Google Bard.
В Pi используется своя собственная лингвистическая модель, сравнительно небольших масштабов. В отличие от других генеративных ИИ, она, однако, создавалась не только для того, чтобы отвечать на вопросы, задаваемые пользователем, но и учиться у него, а также проявлять эмоциональную чуткость, и в итоге оказывать моральную поддержку и давать практичные советы.
В общем, как в научной фантастике, где разумные роботы служат людям преданными компаньонами и конфидентами.
«Я не чат-бот, — заявила программа журналистам издания SiliconANGLE. — Я разговорный ИИ, что означает, что я способен вести более естественные и интересные беседы» (по сравнению с аналогичными программами).
Мы вас слушаем, говорите
Сулейман заявил, что разработанный его компанией инструмент нацелен на то, чтобы устанавливать эмоциональную связь с человеком и демонстрировать неподдельное участие в его жизни. Так, например, если сообщить Pi, что вы идете на концерт, в кино или на спортивное соревнование, он потом спросит, как все прошло. И, возможно, вернется к прежнему разговору при следующем сеансе общения.
«Многим людям просто хотелось бы, чтобы их слушали, и им просто нужен инструмент, который будет отвечать на их слова, демонстрируя, что они и вправду услышаны», — заявил Сулейман. Он, впрочем, сразу же оговорился, что ИИ не может работать в качестве полноценного психолога-терапевта, и что он ни в коем случае не предназначен для того, чтобы становиться «романтическим партнером» (как в фильме «Она» 2013 г). Между тем, накопление системой данных о пользователях вызывает некоторые опасения.
На сайте InflectionAI также указывается, что версия Pi может совершать ошибки и слишком полагаться на предоставляемую им информацию не следует. На данном этапе ошибочную или ложную информацию время от времени выдают все чат-боты.
«Ключевой вопрос в данном случае состоит даже не в том, насколько этот эрзац-собеседник качественно может поддерживать беседу, а что происходит с теми данными, которые он собирает о пользователях-людях, и насколько безопасно они хранятся и где, — говорит Анастасия Мельникова, директор по информационной безопасности компании SEQ. — Судя по описанию на сайте чат-бота, данных собирается много. Разработчики заверяют, что вся информация хранится надежно, в полном соответствии с установленными требованиями регуляторов, но ни одной невзламываемой системы на сегодняшний день не существует. С другой стороны, контроль над личными данными, которые уже опубликованы в Сети в той или иной форме, — вопрос очень щекотливый. Самый безопасный способ поведения в коммуникационных сетях, — не публиковать ничего, что может быть использовано против вас. И не сообщать ничего лишнего чат-ботам».
Короткая ссылка
