Российская судебная система переживает, наверное, самую глубокую технологическую перестройку: электронный документооборот, аудиопротоколирование, обеспечение доступа к текстам судебных актов, автоматическое распределение дел между судьями, видео-конференц-связь — все это и многое другое стало повседневным в судах. И если цифровизация организационных процессов судебной деятельности воспринимается как часть нового технологического уклада, то проникновение технологий искусственного интеллекта (ИИ) туда, где традиционно важны судейское усмотрение, нравственная оценка и индивидуальный подход к каждому конкретному делу, воспринимается далеко не однозначно.

Различают четыре разновидности ИИ: реактивные (не накапливают информацию, обладают простейшим набором функций, состоящих в прогнозировании некоторых действий), идентификационные (системы с ограниченной памятью, заранее запрограммированы на выполнение конкретной задачи идентификации объектов), роботизированные (обладающие разумом, способны читать эмоции, чувства, предполагать варианты развития событий), обладающие самосознанием (могут формировать представление о себе, предчувствовать поведение и эмоции других), из них две вполне применимы в судах. Прежде всего, технологии, действующие на основе жестко заданных правил (rule-based). В них разработчик заранее прописывает логику перехода от входных данных к результату, и каждый шаг системы поддается обратному прослеживанию (например, автоматизированные модули распределения дел между судьями, проверка формальных требований к заявлениям, калькулятор государственной пошлины). Применение таких технологий в судах споров не вызывает.

Вторая разновидность — ИИ машинного обучения, прежде всего глубокие нейронные сети. Они не следуют заранее установленным правилам, а «самостоятельно» выводят статистические корреляции в больших массивах данных: судебных актах, процессуальных документах, биографических сведениях сторон. Именно такие ИИ лежат в основе современных разработок в сфере предиктивной аналитики правосудия, автоматизированной оценки процессуальных рисков, генерации проектов судебных актов. Нейросеть выявляет многомерные зависимости между тысячами признаков, но не может объяснить, почему именно эти признаки привели к данному выводу (проблема «черного ящика»). Ф. Пасквале одним из первых доказал, что даже разработчики системы не всегда способны ретроспективно восстановить логику конкретного решения, сгенерированного обученной нейросетью. Для разрешения судами споров, основанных на требованиях мотивированности и обоснованности, эта проблема, уверены, близка к непреодолимой: как проверить то, что не поддается объяснению?