Annotation

Несмотря на известные преимущества алгоритмов перед человеком, даже алгоритмы, контролируемые человеком, способны наносить управленческий вред. В отличие от детерминированных систем, основанных на правилах, системы машинного обучения, управляемые данными, являются вероятностными и основываются на статистике. Это значит, что управленческое решение в отношении гражданина становится вероятностным, что увеличивает в том числе дискриминационные риски. В качестве ключевой категории для понимания дискриминационного потенциала алгоритмов в литературе используется косвенная дискриминация, которая фокусируется на последствиях норм, критериев и практик, которые могут не быть непосредственно дискриминационными (они применяются ко всем без исключения), но оказывают дифференцированное воздействие на лиц из «защищенных» групп. При этом привлечение к ответственности за косвенную дискриминацию — довольно сложный процесс, требующий соблюдения многих условий; не только алгоритмическую, но и обычную косвенную дискриминацию бывает трудно установить. Одновременно нужно отметить возможность использования алгоритмов же для обнаружения дискриминации.