20 Августа 2024 16:05 | 20 Авг 2024 16:05 | |

Поделиться

Искусственный интеллект и дипфейки. Как нейросети помогают вас обмануть

Под личиной дипфейка

Дипфейки — это видео или аудиофайлы, созданные с помощью ИИ, которые имитируют, например, знаменитостей, политиков и бизнесменов для распространения ложной информации или мошенничества. Компании по всему миру уже ощущают их влияние. По данным экспертов компании Regula, крупнейшего производителя экспертных продуктов для проверки подлинности документов, денежных знаков и ценных бумаг, треть опрошенных компаний уже пострадала от подобного мошенничества. Из них 37% организаций столкнулись с обманом с использованием голосовых дипфейков, а 29% стали жертвами поддельных видео. Например, ранее в этом году сотрудник финансовой компании в Гонконге перевел мошенникам, использовавшим технологию дипфейка при видеозвонке, более 25 миллионов долларов.

А всего несколько недель назад с помощью дипфейка мошенники получили кредит на 50 миллионов рублей под залог загородного дома народной артистки России Ларисы Долиной, а позже продали ее квартиру за 100 миллионов рублей. Учитывая широкую доступность технологий искусственного интеллекта, под ударом могут находиться не только крупные компании и знаменитости, но и частные лица.

«Когда в мессенджер приходит голосовое или даже видеосообщение от друга с просьбой занять ему 15 000 рублей, критическое мышление включается не сразу. Очень скоро мошенники начнут звонить вашим друзьям и родителям по видеосвязи. Они могут это делать уже сейчас, но пока что это слишком дорого и нерентабельно, а вот с более широким распространением ИИ цены на дипфейки будут снижаться. Мы не исключаем, что в массовое использование видео с подстановкой лиц поступит уже этой осенью», — предупреждает Артём Аникеев, директор компании Deepfakedetect.

Как не попасться на уловку?

Компания Deepfakedetect выпустила демо-версию нейросети (deepfakedetect.io), которая показывает признаки генеративного искусственного интеллекта на картинках с точностью 96,5%. В ближайшем будущем они планируют повысить точность распознавания ИИ до 100%, выпустить API и добавить возможность обработки видео и аудио контента. Кроме того, на сайте появятся несколько библиотек, которые клиент сможет использовать у себя на сервере.

Из более долгоиграющих планов — внедрить возможность обнаружения ИИ в реальном времени в браузеры и приложения. Нейросеть можно будет подключить к веб-трансляции, например к сервисам Zoom или Skype, чтобы понимать, насколько реальная картинка у вас перед глазами. Мониторинговые агентства смогут ежедневно отслеживать не появились ли новые дипфейки с лицом заказчика.

Одной из самых сложных задач является повышение точности распознавания контента. Для ее измерения компания использует метрики Accuracy и Precision.

Настройки нейронной сети необходимо адаптировать под каждую отдельную задачу. В зависимости от вида контента ИИ может быть настроен как на более «строгий», так и на более «лояльный» режим. Например, если изображение частично состоит из фотографии, а частично сгенерировано ИИ (скажем, изменено только лицо человека), качество проверки должно быть выше.

«Когда точность нашей нейронной сети превысила 90%, мы поняли, что для достижения каждого нового процента нам приходится делать почти в 3 раза больше работы, чем было сделано до этого. Сейчас вся команда сфокусирована именно на этом. Мы работаем без внешних инвестиций, поэтому вынуждены заниматься чем-то одним», — поясняет Артём Аникеев, директор компании Deepfakedetect.

Однако эта задача должна быть решена в ближайшее время: компания уверена, что без подобных технологий регулирование Сильного искусственного интеллекта (AGI) невозможно.

Поделиться

Короткая ссылка