Искусственный интеллект научился писать трояны, невидимые для антивирусов. Платформа в открытом доступе

Безопасность Стратегия безопасности Новости поставщиков
мобильная версия
, Текст: Роман Георгиев
Платформа стимулированного машинного обучения OpenAI Gym использовали для повышения скрытности вредоносного софта. Доклад об этом был зачитан на хакерской конференции DEF CON.

Авторазработчик вирусов

Выступая на хакерской конференции DEF CON эксперт компании Endgame Хирам Андерсон (Hyrum Anderson) показал, как можно настроить систему машинного обучения так, что она будет разрабатывать вредоносное ПО.

Речь идет не о полноформатной разработке троянов, однако автору доклада удалось использовать систему машинного обучения так, чтобы она превращала легитимный код во вредоносный, но при этом антивирусные решения с высокой долей вероятности продолжали ее игнорировать.

В целом алгоритм выглядит так: система машинного обучения вносит небольшие изменения в двоичный код, прогоняет его через антивирусный движок, анализирует полученные от антивируса данные и, в соответствии с ними, производит новые модификации.

Система, созданная в Endgame, тренировалась таким образом в течение 15 часов, произведя на свет в общей сложности 100 тыс. вредоносных сэмплов. 16% из них оказались невидимыми для антивирусных движков.

Вирусописательство следующего поколения

По словам Хирама Андерсона, такой подход позволяет обманывать в том числе те антивирусные платформы, которые сами базируются на системах машинного обучения и AI (искусственном интеллекте).

Хирам Андерсон, создатель системы машинного обучения, которая пишет вредоносное ПО

С 2016 г. некоторые компании, занимающиеся разработками подобных антивирусов, начали злоупотреблять определениями «искусственный интеллект» в маркетинговых целях, утверждая, что их разработки - это «антивирусы следующего поколения».

Таким образом, теперь «антивирусам следующего поколения» придется бороться с вирусами следующего поколения.

«Как видим, AI вполне возможно использовать во вредоносных целях, и это, на самом деле, весьма безрадостное развитие событий», - считает Ксения Шилак, директор по продажам компании SEC Consult. - «Использование AI для усовершенствования скрытности вредоносных программ может перевести «гонку вооружений» между вирусописателями и антивирусными вендорами на принципиально новый уровень. Особенно если такое автоматическое улучшение будет поставлено на поток».

Система Endgame построена на основе фреймворка OpenAI, разработанного некоммерческой организацией, возглавляемой Элоном Маском (Elon Musk). В апреле 2016 г. эта организация опубликовала публичную бета-версию OpenAI Gym, платформы для разработки и сравнения алгоритмов «стимулированного обучения» искусственного интеллекта.

Именно на базе этой платформы Endgame и разработали свой «вредоносный AI». Ее исходники опубликованы на GitHub и доступны всем желающим для использования.