На современном этапе искусственный интеллект стал мощнейшим инструментом воздействия на все информационное пространство и, соответственно, на человека. Большинство студентов уже не представляет себе подготовку к занятиям без помощи цифровых помощников. Можно с уверенностью утверждать, что использование ИИ в академической среде и вузах растет экспоненциально, и в настоящее время этот процесс опережает развитие этических норм и педагогических стратегий.

Несмотря на множество положительных эффектов от использования ИИ, его нерегулируемое внедрение сопровождается серьезными рисками, поэтому ключевой задачей на современном этапе является безопасное и эффективное использование ИИ в образовательной сфере. Для этого необходимо создать законодательную базу, отвечающую современным реалиям. Фрагментарное, бессистемное правовое регулирование не может устранить те угрозы и риски, которые уже наметились, а некоторые даже проявились. Анализ научной литературы позволяет выделить две группы рисков: во-первых, социально-экономические риски. Внедрение новых технологий ставит под угрозу нормальное функционирование рынка труда. Автоматизация рутинных задач приводит к высвобождению в первую очередь низкоквалифицированных работников, что может привести к массовой безработице в отдельных секторах экономики. Еще одной угрозой в этой группе является энергетический риск и недостаточность инвестиций. Разработка и совершенствование моделей ИИ, их обучение требуют значительных энергозатрат, что может привести к дефициту электроэнергии и повышению тарифов на нее. Кроме того, гонка за технологическое лидерство (а ИИ, по оценкам специалистов, это самая передовая и востребованная технология XXI в.) требует значительных капиталовложений и создания мощных вычислительных систем, центров обработки данных и машинного обучения. Во-вторых, это юридические риски, которые, в свою очередь, можно подразделить на публично-правовые и частноправовые. Наибольшей угрозой в публично-правовой сфере являются риски в сфере информационной безопасности и киберпреступность, угрожающие суверенитету страны. Активное распространение дипфейков не просто создает псевдореальность, размывая грань между правдой и вымыслом, нанося вред репутации людей, но и угрожает политической стабильности государства, его суверенитету, позволяя распространять дезинформацию в глобальных масштабах. Технологии ИИ активно используют преступники. В настоящее время выделяют: почтовый фишинг, смс-фишинг, голосовой фишинг, фишинг в соцсетях, клон-фишинг, криптовалютный фишинг, к фишингу относят подделки доменных имен, создание вредоносных сайтов, перехват паролей и логинов, взлом корпоративной почты и другие виды.