Наверно, сейчас мало кто удивится, узнав, что в вынесении административного решения в отношении него принимали участие алгоритмы: штрафы по показаниям камер видеонаблюдения, социальная выплата, поступившая без каких-либо заявлений в госорган, — такие явления уже прочно вошли в нашу административную жизнь. Но что скрывается за этими результатами, достаточно ли урегулирован процесс применения этих алгоритмов? К сожалению, этого утверждать нельзя.

Прежде всего, необходимо определиться с понятиями. Пока еще распространены алгоритмы автоматизации, критерии функционирования которых точно установлены разработчиками. Эти «классические» алгоритмы просто исполняют программу, составленную человеком. Способные решать регулярные задачи, запрограммированные, чтобы решать точные проблемы, эти алгоритмы позволяют разгрузить человека; т.е. пока предпочитается использование алгоритма как помощника в принятии решений. Сложные техники искусственного интеллекта (ИИ), основанные на машинном обучении (алгоритмы, которые способны обучаться и улучшаться за счет данных), развиваются.

Почему важно разграничивать системы автоматизированного принятия решений и системы машинного обучения? Дело в том, что специфика их функционирования крайне важна для юридической оценки результата и последующего правового регулирования.

Автоматизированные системы принятия решений, основанные на правилах, не способны учитывать другие факторы, кроме тех, которые они запрограммированы принимать во внимание. Собственно, их недостатком является то, что они не очень «проницательны» и склонны к чрезмерному упрощению, что способно привести к неточным и дискриминационным результатам. В отличие от детерминированных систем, основанных на правилах, системы машинного обучения, управляемые данными, являются вероятностными и пытаются решать проблемы путем выявления информационных закономерностей при анализе больших данных. Подходы машинного обучения используют индуктивный метод, выявляя закономерности в данных, обобщая их в модель и применяя эту модель для составления прогнозов путем распознавания тех же закономерностей в новых данных. Применительно к принятию правовых решений это означает, что на основе обучающих данных по делам, обстоятельства, факты и правовые результаты которых известны, алгоритмы машинного обучения выявляют правила, объясняющие исход предыдущих дел, предоставляя абстрактную процедуру решения проблемы, которая затем может быть применена к новым делам.

Получается, что эффективность автоматизированных систем принятия решений во многом зависит от качества исходных данных, а в случае машинного обучения — от обучающих данных. Предполагаемая объективность автоматизированных систем принятия решений зависит от качества программирования и исходных данных. А логика машинного обучения по своей сути ориентирована на прошлое и зависит от выявления закономерностей в исторических данных, поэтому она не способна находить новые решения для новых проблем, возникающих в результате постоянного реформирования правовой системы. То есть оба варианта не заменяют человека полностью.