Разделы

ПО Техника

ИИ-сценарист может оставить без работы программистов. Он научился редактировать ПО и писать код с нуля

Чат-бот ChatGPT компании OpenAI способен видеть программные уязвимости, предлагает способы их устранения и сам пишет код. Но с ошибками.

Сочинения, диалоги, программный код

Компания OpenAI выпустила нового чат-бота ChatGPT, который сразу продемонстрировал весьма необычные способности. Помимо того, что он вполне сносно пишет учебные сочинения и диалоги для ситкомов, выяснилось, что бот видит уязвимости в коде смарт-контрактов и предлагает способы их устранения.

Один из пользователей продемонстрировал в соцсетях диалог с ChatGPT, где тому был предложен фрагмент кода смарт-контракта, и бот вполне корректно идентифицировал наличие в нем уязвимости повторного ввода, позволяющей многократно запрашивать одну и ту же транзакцию. В мае 2022 г. с помощью похожей уязвимости злоумышленники обокрали DeFi-платформу FeiProtocol на $80 млн.

В другом случае чат-бот сразу представил фрагмент кода, необходимый для исправления уязвимость в другом смарт-контракте. Эксперты, занимающиеся аудитом смарт-контрактов, уже начали шутить, что этот бот оставит их без работы, как, впрочем, и всех тех, кто занимается проверкой безопасности любого программного кода.

Автопрограммист

Сотрудники издания Cointelegraph удостоверились заодно, что ChatGPT способен генерировать код смарт-контрактов с нуля по текстовому вводу. Однако уже несколько раз высказывались мнения, что качество программного кода, который чат-бот способен написать на данный момент, пока что оставляет желать много лучшего — он содержит серьезные ошибки. Хотя, как выяснилось, если ему указать на них, чат-бот вполне способен выдавать совершенно адекватные результаты.

haker_600.jpg

У бота-сценариста проявились таланты, которые могут оставить без работы программистов

Исполнительный директор OpenAI Сэм Олтман (Sam Altman) отметил, что в текущем своем виде чат-бот представляет собой «очень раннее демо» и, по сути, является «исследовательским релизом».

Однако, считает он, «языковые интерфейсы сыграют еще очень значимую роль», и такие инструменты как ChatGPT «в скором времени» смогут отвечать на (почти) любые вопросы, давать советы, а впоследствии и формировать новые знания.

Андрей Голов, «Код безопасности»: В многополярном мире мы могли бы создать киберальянсы
Безопасность

Как отмечает издание The Verge, пока что способность чат-бота писать учебные доклады, рефераты и сочинения грозит крупными проблемами учебным заведениям. Ожидать, что нерадивые студенты не будут пользоваться такими разработками, не приходится, а системы выявления плагиата, по понятным причинам, идентифицировать его в этих работах не смогут.

Выяснилось также, что напрямую заставить бота расписать рецепт каких-либо опасных субстанций, нельзя, но существует ряд уловок, с помощью которых обойти защиту оказывается вполне возможным.

«Скорее всего, ИИ действительно сильно скажется на том, как работают программисты, — полагает Алексей Водясов, технический директор компании SEQ. — Как минимум, можно ожидать частичной автоматизации аудита безопасности, как максимум — от программистов-людей потребуется лишь уметь задавать правильные запросы, а код по ним будет генерировать машина. Но это вряд ли вопрос ближайших пяти, а то, и десяти лет».

Роман Георгиев