Понятие «искусственный интеллект» (ИИ) прочно вошло в жизнь современного человека. Вместе с тем говорить о разработке и внедрении полноценного «сильного» искусственного интеллекта в настоящее время не приходится. В большинстве случаев сегодня речь идет о так называемом «слабом» искусственном интеллекте, т.е. узкоспециализированных и предназначенных для решения конкретных задач интеллектуальных системах. Количество подобных систем за короткий промежуток времени значительно увеличилось, расширился перечень областей, в которых они применяются. Все это говорит о том, что в ближайшие годы применение возможностей интеллектуальных систем станет обыденным в нашей жизни. При этом технический прогресс происходит быстрее, чем общество и государство могут реагировать на него. И если преимущества, получаемые от использования искусственного интеллекта, не вызывают сомнений, то вопросы, связанные с безопасностью его использования, поднимаются постоянно.

Для того чтобы понять, насколько безопасно применение искусственного интеллекта, необходимо рассмотреть угрозы, которые могут возникнуть при его использовании. Их условно можно разделить на две группы: угрозы, связанные с несовершенством систем ИИ, и угрозы, проистекающие из-за неправомерного его использования.

К первой группе принято относить следующие:

1. Ошибки в обучении модели.

Одним из главных этапов разработки любой системы искусственного интеллекта является ее обучение, и здесь требуются огромные объемы разнообразных наборов данных. Точность работы системы будет напрямую зависеть от качества дата-сетов, на которых происходит обучение.