Проблема неправомерного использования технологий deepfake в последние несколько лет стала особенно актуальной, что стало причиной проведения множества исследований по данной проблематике в целом ряде развитых государств с целью формирования эффективного механизма противодействия использованию таких технологий в противоправных целях. Столь повышенное внимание к технологиям дипфейк вполне обоснованно в силу того, что данные технологии обуславливают достаточно высокие риски, которые возрастают систематически с течением времени и непрерывным развитием научно-технического прогресса. Использование данной технологии в неправомерных целях способно причинить вред как для прав и законных интересов отдельной личности, так и создавать более серьезные угрозы в информационном пространстве, затрагивая, в том числе, интересы государства.

Deepfake представляет собой сфальсифицированный аудио- и видеоконтент, сгенерированный с использованием генеративно-состязательных сетей (generative adversarial network, GAN). Единого технико-правового термина рассматриваемого явления до настоящего времени еще не разработано, однако вполне приемлемая дефиниция содержится, например, в отчете Европейского парламента, в котором дипфейк определен как искусственный звуковой и/или визуальный медиа, который при полной внешней достоверности является созданным искусственно и отражающим те события, которых в действительности никогда не происходило. Как отмечено Центром глобальной ИТ-кооперации: «по своей природе дипфейки — это специальный алгоритм или набор алгоритмов, который анализирует множество параметров разнообразного контента, а затем, используя полученные данные, подменяет его в зависимости от поставленной изготовителем задачи. По сути, это процесс трансформации или синтеза, основанный на технологии искусственного интеллекта». Примечательно, что российская правоприменительная практика материалы, создаваемые с использованием технологий дипфейк, относит к объектам авторских прав.

Необходимость существования эффективного уголовно-правового механизма противодействия преступлениям, совершаемым с использованием дипфейков, обусловлена возможностью использования дипфейков для совершения целого ряда преступных деяний, среди которых можно выделить, например: нарушение прав личности, причинение вреда репутации физического или юридического лица, дискредитацию государственной власти и отдельных ее представителей, мошенничество, шантаж, изготовление и распространение порнографических материалов, разглашение сведений, защищаемых законом, подделку официальных документов, умышленное причинение личности душевных и нравственных страданий, манипулирование электронными доказательствами при расследовании уголовных дел, разжигание социальных волнений и политической поляризации, кражу личной информации, манипулирование выборами и проч.

Как отмечено Научно-исследовательской службой Европейского парламента, распространение дипфейков может быть сопряжено с причинением психологического, финансового и социального ущерба (см. рис. 1).