Криминальные риски применения технологий искусственного интеллекта в здравоохранении
Аннотация
В публикации рассматриваются криминальные риски, возникающие в связи с применением технологий искусственного интеллекта в сфере здравоохранения. Цифровые технологии должны революционизировать медицину, при этом не создавать угрозы и уязвимости, что тем самым способствует доверию у пациентов и медицинских работников. Поэтому имеющиеся криминальные риски должны быть учтены при создании эффективной системы правового регулирования общественных отношений, возникающих в связи с использованием технологий искусственного интеллекта в медицине.
Ключевые слова
Тип | Статья |
Издание | Безопасность бизнеса № 01/2024 |
Страницы | 52-57 |
DOI | 10.18572/2072-3644-2024-52-57 |
Технологии искусственного интеллекта вызывают значительный интерес в медицине и являются одним из ключевых направлений цифровой трансформации здравоохранения. Искусственный интеллект (далее — ИИ) представляет собой способность компьютеров выполнять задачи, обычно связанные с человеческим интеллектом, при этом он может повлиять на множество пациентов, изменив при этом традиционные методы медицинской практики. Изучению понятия и признаков ИИ, формированию его определения посвящено значительное количество исследований.
По мнению ряда экспертов, медицинских работников и разработчиков цифровых технологий, применение медицинских изделий, оснащенных технологиями ИИ, поднимет здравоохранение на высокий уровень, что приведет к улучшению принятия клинических решений, качественному анализу цифровых изображений, прогнозированию и контролю правильности назначаемого лечения. Стоит согласиться с мнением авторов, полагающих, что ИИ может сделать здравоохранение более персонализированным, прогнозирующим, профилактическим и интерактивным. Так, в Московском центре инновационных технологий в здравоохранении нейросети проанализировали уже более 10 млн лучевых исследований, при этом точность работы алгоритма составила 65%. В целом можно констатировать то, что цифровые технологии ускоряют получение результатов для пациентов и экономят время для врачей при описании медицинских изображений.
Технологии ИИ зависят от того, как медицинские работники используют их на практике и как применяют полученные ими результаты. Неправильное использование систем ИИ может привести к неверной оценке и принятию решений, а впоследствии — к потенциальному вреду для пациента.
Потенциальными причинами неправильного использования систем ИИ являются: ограниченное участие клиницистов и граждан в разработке медицинских изделий на основе технологий ИИ; недостаточное обучение медицинских работников применению подобных интеллектуальных систем; распространение доступных онлайн-сервисов и мобильных решений с ИИ без достаточных объяснений и информации.
Предлагаем рассмотреть криминальные риски применения технологий ИИ в здравоохранении, вызывающие опасения у пациентов и медицинских работников, использующих их в своей клинической практике.