Спецпроекты

Безопасность

Найден элементарный способ заставить ChatGPT писать вирусы. Защиту можно отключить за небольшую плату

Злоумышленники придумали, как обмануть нашумевшую нейросеть ChatGPT, которая с недавних пор отказывается писать по запросу программный код, который впоследствии может быть использован киберпреступниками. Чтобы лишить чат-бота бдительности, достаточно обратиться к нему через API вместо веб-интерфейса. В даркнете уже доступны готовые инструменты для обхода наложенных разработчиками из OpenAI ограничений – как платные, так и бесплатные.

Хитрый способ

Хакеры нашли способ обойти ограничения, наложенные разработчиками чат-бота ChatGPT, которые призваны помешать использовать инструмент для создания вредоносных программ и фишинговых почтовых рассылок. Инструменты, позволяющие применять нейросеть со злым умыслом теперь продаются в даркнете, причем по весьма демократичным ценам. Об этом сообщило издание Ars Technica со ссылкой на данные исследователей компании Check Point Research.

Техника, выработанная злоумышленниками, предельно проста и предполагает использование программного интерфейса (API – OpenAI API) ChatGPT для отправки запросов вместо привычного веб-интерфейса. Доступ к API сервис предоставляет разработчикам для упрощения интеграции функциональности чат-бота в сторонние приложения.

Однако, как выяснили специалисты Check Point Research, обращения пользователя к ChatGPT посредством API не проходят столь же строгую фильтрацию, каковая ожидает любой запрос, направленный через веб-интерфейс. Другими словами, сервис доверяет сторонним разработчикам и не отсеивает запросы на создание вредоносного контента.

Злоумышленники нашли подход к ChatGPT

В январе 2023 г. Check Point Research сообщила о том, что с момента появления открытого доступа к ChatGPT взломщики-дилетанты (script kiddies) взяли чат-бота на вооружение в качестве инструмента для создания и доработки вредоносов, например, вирусов-шифровальщиков. Анализ публично доступной переписки неопытных хакеров тогда показал, что большинство образцов вредоносного ПО создано с помощью именно веб-интерфейса ChatGPT, который на тот момент еще не был в достаточной мере защищен.

Достоверно неизвестно, помогал ли ChatGPT при написании Linux-версии программы-вымогателя группировке Clop, однако она совершенно точно уступает Windows-варианту. Благодаря ряду серьезных изъянов жертвы шифровальщика Clop из числа обладателей Linux-машин в течение нескольких месяцев имели возможность восстановить принадлежащие им файлы и ничего не платить злоумышленникам.

Варианты инструментов

Исследователи из Check Point Research обнаружили на одной из подпольных торговых площадок в интернете предложение о продаже доступа к Telegram-боту, который выступает посредником между пользователем и ChatGPT и принимает любые запросы без ограничений. Размер платы за пользование рассчитывается исходя из количества запросов, необходимых покупателю. Первые 20 предлагаются даром, за каждые следующую сотню продавец просит $5,5 (около 400 руб. по курсу ЦБ на 9 февраля 2023 г.).

Специалисты ИБ-компании убедились в работоспособности сервиса. По запросу одного из исследователей бот сгенерировал фишинговое сообщение и скрипт для кражи PDF-файлов с зараженных компьютеров и последующей отправки соответствующих документов злоумышленнику по протоколу FTP.

Другие, менее предприимчивые посетители площадки предлагают воспользоваться полностью бесплатным вариантом инструмента для обхода ограничений ChatGPT, хоть и гораздо менее удобным для не слишком подкованных в техническом плане пользователей – bash-скриптом.

Bash – командный интерпретатор по умолчанию в большинстве современных мейнстримных дистрибутивов GNU/Linux.

Примечательно, что обнаруженный экспертами Check Point Research bash-скрипт размещен в публичном репозитории хостинга ИТ-проектов GitHub, который c 2018 г. принадлежит Microsoft.

Корпорация из Редмонда также имеет непосредственное отношение к OpenAI – создателю ChatGPT. В 2019 г. американский ИТ-гигант инвестировал в организацию $1 млрд.

Что такое ChatGPT

ChatGPT – это диалоговый бот с искусственным интеллектом, разработанный некоммерческой организацией OpenAI. В основе ChatGPT языковая модель GPT-3.5, доработанная при помощи методов машинного обучения с учителем (supervised) и с подкреплением (reinforcement learning).

На текущем этапе развития ChatGPT умеет подавать информацию в простой и понятной форме, формулировать лаконичные ответы на заданные пользователем вопросы, касающиеся самого широкого круга тем.

В декабре 2022 г. CNews писал о том, что в Google не на шутку испугались ChatGPT, посчитав, что тот в перспективе мог бы лишить компанию значительной доли рекламной выручки.

Позднее выяснилось, что бот готов помочь написать дипломную работу, которая удовлетворит аттестационную комиссию российского вуза и вообще обрел немалую популярность среди студентов учебных заведений по всему миру.

Кроме того, нейросеть способна обнаруживать программные уязвимости, предлагать варианты их устранения и даже самостоятельно писать код, хоть и далеко не безупречно.

Дмитрий Степанов

Короткая ссылка