Дата публикации: 27.02.2025

Некоторые направления и риски использования нейросетей для борьбы с деструктивным контентом: мнение юриста

Аннотация

С развитием новых технологий возрастает угроза национальной безопасности и людям от деструктивного контента, в связи с чем необходимо исследовать некоторые направления и риски использования нейросетей для борьбы с таким контентом с позиции права. Автор анализирует, чем нейросети могут быть полезны при решении задачи борьбы с деструктивным контентом, рассматривает некоторые инициативы по ограничению их работы, заключает, что сейчас уже появляются новые профессии (например, юрист — специалист по борьбе с дезинформацией / факт-чекер) и что сохранение объективности и умение отличать правду от лжи – это важные навыки, которые помогают человеку самому принимать взвешенные решения и избегать манипуляций на основе ряда приводимых в работе принципов, которые каждый человек должен в себе постоянно развивать и поддерживать.




В настоящее время общий контекст, в котором транслируются и кодируются ценностные представления и установки, характеризуется борьбой достоверной и объективной информации и информации, ведущей к дестабилизации обстановки и намеренному искажению реальных фактов; формированию у читателей (подписчиков, в том числе подрастающего поколения, и т.п.) контента искаженных ценностей, обесцениванию традиционных ценностей с целью получения выгоды и манипулирования как способа деструктивного воздействия на конкретное лицо или группу лиц, нацеленных непосредственно на изменение направления активности людей, их намерений, оценок, поведения.

Ситуация усложняется из-за наличия интернет-контента, включая социальные сети, телевидение, блоги и статьи (например, The New York Times, https://www.nytimes.com/, Российская газета, https://rg.ru/ и т.п.; RT на русском, https://russian.rt.com/, BBC News, https://www.bbcglobalnews.com/ и т.п.), которые оказывают значительное влияние через свои дискурсивные практики. Визуальные средства, такие как фотографии и видео, усиливают это воздействие благодаря мгновенному восприятию и влиянию на эмоции и психику зрителей.

Под воздействием деструктивного влияния дезинформации и пропаганды (которую мы рассматриваем как способ доведения дезинформации до населения) путем особой текстологии, в первую очередь сетевого контента, в виде ложных («фейковых») новостей (fake news) меняется, с одной стороны, идентичность личности конкретного лица или группы лиц, с другой стороны, его (их) ценности в той степени, в которой идентичность включает в себя ведущие, определяющие личность компоненты – самосознание, ценностно-смысловую и регулятивную сферы, где самосознание определяет в том числе и уровень деструктивного поведения и будет проявляться на физическом уровне, уровне личности и уровне социума в намерениях лица (лиц), его (их) оценках, поведении, часто также деструктивных.

В этом формате важность приобретает такой вид деструктивного воздействия, как введение в заблуждение конкретного лица или группы лиц и манипулирование как способ воздействия, направленный непосредственно на изменение направления активности людей. Это относительно неприятно психологически и может вызывать нарушения законодательства и санкции за них в обычное время, и гораздо более опасно в иное, например, военное время или периоды экономической или социальной напряженности. Этими обстоятельствами и факторами обусловлена цель настоящей статьи – на основе научного осмысления и анализа текущей ситуации, положений нормативных актов и доктрины рассмотреть вопрос о том, как нейросети могут помочь в борьбе с деструктивным контентом.

Список литературы

1. SBKarr. Fact-checking: кто решает, во что нам верить? / SBKarr // Хабр. 2017. 8 апреля.
2. Беликова К.М. Проблема правовой оценки содержания научных и образовательных текстов с позиции роли и места автора в генеративном контенте нейросетей / К.М. Беликова // Право и политика. 2024. № 1. С. 1–22. DOI: 10.7256/2454-0706.2024.1.69692
3. Бойченко И.С. Модели правового регулирования нейросетей / И.С. Бойченко // Образование и право. 2019. № 1. С. 235–237.
4. Гутыро Е. Карлюкевич о деструктивном влиянии СМИ: Клевете и лжи должны противопоставить правдивую журналистику / Е. Гутыро // БелНовости. 2020. 11 февраля.
5. Любавина А. В Гражданском кодексе напишут, как использовать ИИ в промышленности / А. Любавина // CNEWS.ru. 2023. 28 декабря.
6. Наумов В.Б. Правовые проблемы машинного обучения / В.Б. Наумов, Е.В. Тытюк // Образование и право. 2020. № 6. С. 219–231. DOI: 10.24411/2076-1503-2020-10634
7. Половинкина И. Неповторимый оригинал или жалкая пародия: как распознать дипфейки и защититься от мошенников / И. Половинкина, О. Пашукевич // МТС ЛИНК. 2025. 16 января.
8. Open Innovation: Researching a New Paradigm / eds. by H.W. Chesbrough, ‎W. Vanhaverbeke, ‎J. West. Oxford : Oxford University Press, 2008. 373 p.

Остальные статьи