ИИ в медицине: помощник или риск?

Применение искусственного интеллекта (ИИ) в медицине открывает широкие перспективы, но одновременно порождает множество вопросов о безопасности, законности и этичности его использования. Цель глубокого погружения в эту тему — разобраться в нюансах внедрения ИИ, чтобы минимизировать риски для пациентов и медицинских организаций.

На первый взгляд, преимущества ИИ очевидны: он способен разгрузить врачей от рутинных административных задач и сократить объемы ручной документации. Однако практика показывает, что использование ИИ в здравоохранении сопряжено с серьезными вызовами. Один из ярких примеров — случаи, когда врачи копируют медицинские заключения из нейросетей, включая в них эмодзи и смайлики. Это демонстрирует не только поверхностное отношение к работе, но и потенциальные риски снижения качества медицинской помощи.

Ключевой барьер на пути внедрения ИИ в здравоохранении — правовая неопределенность. В России пока нет нормативных документов, которые бы напрямую регулировали использование искусственного интеллекта. Тем не менее разрабатывается федеральный закон о применении технологий ИИ. В проекте предусмотрены требования по безопасности, методы которой будут устанавливаться ФСБ и ФСТЭК. Они будут схожи с существующими требованиями к информационным системам персональных данных и субъектам критической информационной инфраструктуры (КИИ).

Особое внимание следует уделить защите медицинских данных, которые регулируются законами ФЗ-152 «О персональных данных» (определяет защиту цифровой информации и баз данных) и ФЗ-323 «Об основах охраны здоровья граждан» (регулирует понятие врачебной тайны и права пациентов). Утечка такой информации имеет необратимые последствия: согласно опросу РБК, 70% пациентов отказываются от услуг компании после утечки персональных данных. В отличие от компрометации банковских данных, раскрытие медицинской информации может привести к буллингу, дискриминации и даже физическому воздействию на человека.

Проблема усугубляется формированием так называемой теневой практики использования ИИ. Врачи нередко прибегают к решениям вне защищенного контура, что приводит к нарушениям требований по защите данных. Отсутствие шифрования и контроля соответствия законодательным нормам влечет за собой серьезные последствия. Например, использование зарубежных серверов для обработки персональных данных нарушает требования о локализации, что может повлечь уголовную ответственность.

Важный аспект — статус медицинских учреждений как субъектов КИИ. Согласно федеральному закону о критической информационной инфраструктуре, все, кто владеет информационными системами в сфере здравоохранения, являются субъектами КИИ. Это накладывает на них дополнительные обязательства:

• использование российского программного обеспечения, внесенного в реестр Министерства цифрового развития;
• применение сертифицированных средств информационной безопасности (ФСТЭК);
• соблюдение строгих мер по защите данных на всех этапах обработки.

Еще одна проблема — регистрация медицинских платформ с ИИ. Более половины решений, требующих регистрации в Минздраве, не имеют таковой. Из 300 платформ, осуществляющих дистанционные консультации, лишь немногие соответствуют нормам информационной безопасности. Многие работают в «серой зоне», что создает дополнительные риски для пациентов.

Обезличивание данных — еще один неоднозначный инструмент защиты. Хотя этот метод считается эффективным, он не гарантирует полной безопасности: массивы обезличенных данных могут быть частично восстановлены и использованы для идентификации личности. Более того, злоумышленник может модифицировать обезличенные данные, что повлияет на лечение пациентов.

Не менее важен вопрос ответственности. В случае судебного разбирательства она всегда лежит на враче, даже если решение было принято с помощью ИИ. Статья 16 ФЗ‑152 запрещает принимать решения исключительно на основе автоматизированной обработки персональных данных. В жизненно важных сферах, включая здравоохранение, окончательное слово должно оставаться за человеком.

Риски неконтролируемого использования ИИ также включают профессиональную деградацию молодых врачей, которые могут чрезмерно полагаться на технологии. Опытные специалисты обычно перепроверяют рекомендации ИИ, но начинающие врачи могут воспринимать их как абсолютную истину. Это создает угрозу снижения качества медицинской помощи в долгосрочной перспективе.

Для минимизации рисков необходимо:

• внедрять регламенты и инструкции по безопасному использованию ИИ;
• проводить регулярное обучение врачей основам работы с ИИ;
• использовать только сертифицированные платформы в защищённом контуре;
• поддерживать цифровую дисциплину среди сотрудников (например, запрещать использование сторонних приложений и иностранных мессенджеров).

С 1 марта 2023 года иностранные мессенджеры запрещены при оказании ряда медицинских услуг. Это требование подчеркивает важность локализации данных и использования отечественных решений. Принят ГОСТ для системы ИИ в здравоохранении и этический кодекс, которые задают стандарты безопасного применения технологий.

ИИ — мощный инструмент, способный улучшить качество медицинской помощи, но его использование требует взвешенного подхода. Грамотное внедрение, соблюдение законодательства и обучение персонала — ключевые условия для безопасного и эффективного применения ИИ в медицине. Только комплексный подход позволит раскрыть потенциал технологий, минимизировав риски для пациентов и медицинских организаций.