Чем больше ИИ системы проникают в нашу повседневную жизнь, тем четче видна необходимость их юридического регулирования, включая вопросы мошенничества, авторского права, конфиденциальности и достоверности информации, которую они предоставляют. Но пока юристы и мировое сообщество только думают над способами контроля генеративных систем, число преступлений с использованием дипфейков с каждым днем увеличивается.
Дипфейки — это видео или аудиофайлы, созданные с помощью ИИ, которые имитируют, например, знаменитостей, политиков и бизнесменов для распространения ложной информации или мошенничества. Компании по всему миру уже ощущают их влияние. По данным экспертов компании Regula, треть опрошенных компаний уже пострадала от подобного мошенничества. Из них 37% организаций столкнулись с обманом с использованием голосовых дипфейков, а 29% стали жертвами поддельных видео. Например, сотрудник финансовой компании в Гонконге перевел мошенникам, использовавшим технологию дипфейка при видеозвонке, более 25 миллионов долларов.
Учитывая широкую доступность технологий искусственного интеллекта, под ударом могут находиться не только крупные компании и знаменитости, но и частные лица. Недавно с помощью дипфейка мошенники получили кредит на 50 миллионов рублей якобы для народной артистки России Ларисы Долиной, а позже продали ее квартиру за 100 миллионов рублей. Эксперты не исключают, что масштаб использования данной технологии мошенниками будет расти, а технологии – совершенствоваться. Как не попасться на уловку мошенников?
Компания Deepfakedetect выпустила демо-версию нейросети (deepfakedetect.io), которая показывает признаки генеративного искусственного интеллекта на картинках с точностью 96,5%. В ближайшем будущем разработчики планируют повысить точность распознавания ИИ до 100%, выпустить API и добавить возможность обработки видео и аудио контента. Кроме того, на сайте появятся несколько библиотек, которые клиент сможет использовать у себя на сервере. Из более долгоиграющих планов — внедрить возможность обнаружения ИИ в реальном времени в наиболее распространенные браузеры и приложения. Нейросеть можно будет подключить к веб-трансляции, чтобы понимать, насколько реальная картинка у вас перед глазами.
Одной из самых сложных задач является повышение точности распознавания контента. Настройки нейронной сети необходимо адаптировать под каждую отдельную задачу. В зависимости от вида контента ИИ может быть настроен как на более «строгий», так и на более «лояльный» режим. Например, если изображение частично состоит из фотографии, а частично сгенерировано ИИ (скажем, изменено только лицо человека), качество проверки должно быть выше. Однако эта задача должна быть решена в ближайшее время — эксперты уверены, что без подобных технологий регулирование Сильного искусственного интеллекта (AGI) невозможно.