В идеальном мире компании и пользователи ИИ хотят, чтобы системы ИИ были прозрачными, объяснимыми, этичными, адекватно обученными на соответствующих данных и свободными от предвзятости. В реальном правовом мире использование искусственного интеллекта еще не урегулировано, но намечаются некие контуры будущего правового регулирования, где прозрачности отводится значительное место. Так, в Национальной стратегии развития искусственного интеллекта на период до 2030 года, утвержденной Указом Президента РФ от 10 октября 2019 г. № 490 (ред. от 15.02.2024) «О развитии искусственного интеллекта в Российской Федерации», прозрачность перечисляется в ряду основных принципов развития и использования технологий ИИ. Под прозрачностью понимается объяснимость работы искусственного интеллекта и процесса достижения им результатов, недискриминационный доступ пользователей продуктов, которые созданы с использованием технологий искусственного интеллекта, к информации о применяемых в этих продуктах алгоритмах работы искусственного интеллекта.

Аналогично утверждают о необходимости прозрачности в связи с ИИ и другие государства. Более того, в ряду требований к ИИ именно прозрачность часто ставится на первое место. Нам видятся тому две причины. Первая связана с общим трендом прозрачности в общественной сфере. В особенности запрос на прозрачность силен в государственном управлении. В современных дебатах о его легитимности и эффективности доктрина прозрачности приобрела «квазирелигиозное значение», а само стремление к открытию информации производит «обескураживающий эффект прозрачности».

Вторая причина связана с особенностями ИИ, в частности с эффектом «черного ящика» (часто невозможно понять, почему система пришла к такому результату). Здесь акцент делается не столько на доступности, но и на понятности функционирования алгоритмов ИИ, принимающих то или иное решение. В целом можно сказать, что правовой принцип прозрачности стал реакцией на технически обусловленную недостаточную понятность ИИ.

При формулировании понятия прозрачного ИИ важно учитывать два аспекта, а именно прозрачность результата и прозрачность процесса. Первый сценарий включает в себя возможность знать, как и почему модель работает так, как она работает в конкретном контексте, и, следовательно, понять обоснование ее решения или поведения. По сути, объяснимость ИИ — это способность сделать явным результат алгоритмической модели. Для чего это нужно? Знание того, почему алгоритм принял то или иное решение, позволяет нам принимать, игнорировать, оспаривать или отменять это решение.

Второй сценарий отражен в концепции устойчивого ИИ, которая касается не только реализации ИИ, но должна охватывать весь жизненный цикл ИИ, включая проектирование, обучение, развитие, валидацию, перенастройку, внедрение и использование ИИ. В этом смысле регулирование такого жизненного цикла заключается в установлении набора минимальных требований, которым должен соответствовать ИИ, или системы «красных флажков» в отношении принципов, которые ни при каких обстоятельствах не должны нарушаться.