Проблема недоверия ИИ в медицине и что с ней делать

Проблема недоверия ИИ в медицине и что с ней делать. В статье автор исследует причины проблемы недоверия ИИ в медицине, формулирует и обосновывает способ решения указанной проблемы, и предлагает конкретное решение.

Основные понятия

Перед тем, как сформулировать проблему недоверия ИИ в медицине, необходимо уточнить важнейшие понятия, необходимые для точной квалификации указанной проблемы.  Это — «доверие», «ИИ», «доверие врача ИИ», «эволюция процесса разработки ИИ».

«Доверие»

Наиболее сложным термином для точного определения и понимания является понятие «доверие». Это понятие лежит в «базовом словаре» каждого и часто складывается ошибочное ощущение, что с этим понятием все тривиально и незачем на него тратить время. Однако для многих читателей это совсем не так.

«До-верие» состоит из приставки «до» и слова «вера», что в совокупности означает результат, который возникает до возникновения веры. Теперь определим, что такое «вера» и почему доверие возникает до неё. Понятие «вера» чаще всего связывают с религией. Отчасти это верно, однако такая интерпретация является редукцией. Имеется более пригодное, для цели этой статьи, определение. Вера — это верность собственным выводам, сделанным на основе понимания какого-либо факта или явления. Пример: вы пользуетесь лифтом потому, что верите, что лифт безопасен. Почему? Потому что вы знаете, что есть какой-то производитель, которого вы лично не знаете, однако этот производитель прошел процедуру государственной сертификации, которая исключает ошибки в конструкции лифта, по этому вы можете доверять лифту, как механизму, прошедшему процедуру контроля качества и государственной сертификации.

Исходя из того, что «доверие» по структуре слова возникает до момента формирования «веры», понимаемой как «верность собственному выводу, сделанному на основе собственного знания», возникает вопрос, по какой причине может возникнуть «доверие»?

Доверие может возникнуть по одной из двух причин:

  • Первая причина — ранее сформированная вера источнику информации, которая проявляется как «знание того, что источник не лжёт»
  • Вторая причина — построение собственного знания о том, что источник надежный (не лжёт), и последующая приверженность этому знанию.

«ИИ»

Осенью 2023 года продолжается повышенное внимание общественности к теме «ИИ в медицине». Повышенное внимание подогревается многочисленными «альтернативными» интерпретациями и откровенными мифами, окружающими эту тему. Такие условия напоминают шумную комнату, в которой люди одновременно пытаются говорить между собой, обсуждая сложные темы. Приведём пригодное для цели этой статьи определение. ИИ — это специализированная база знаний, автоматически построенная на основе множества электронных записей, при этом множество электронных записей и выбранная архитектура специализированной базы знаний в совокупности определяют её функциональные возможности.

Доверие врача ИИ

Доверие врача ИИ непосредственно связано и эволюционирует вслед за процессом разработки ИИ.

Эволюция процесса разработки ИИ

Рассмотрим эволюцию процесса разработки ИИ как последовательность трёх этапов.

Первый этап

Доверие автору ИИ

Первый этап — доверие автору ИИ. Это самый ранний этап эволюции, на котором врач доверяет ИИ потому, что он знает, что автор ИИ его не обманет и предложит что-то действительно надежное. Ответ на вопрос «где взять доверенные данные» автор решает за свой счёт и несёт за ИИ, как результат своей работы, персональную ответственность.

Второй этап

Доверие государственной процедуре

Второй этап — доверие государственной процедуре регистрации ИИ в качестве медицинского изделия, разрешенного к использованию в стационаре и/или амбулатории. Это актуальный этап эволюции. С незначительными отличиями по составу, в настоящее время данный этап проходят все разработчики ИИ, предлагающие свои решения в качестве медицинских изделий. На этом этапе эволюции врач доверяет ИИ потому, что ИИ прошел государственную процедуру регистрации и допущен к применению в процессы лечения, диагностики или реабилитации.

В процессе прохождения данного этапа разработчик ИИ должен ответить на следующие вопросы:

  1. В первую очередь, для проведения анализа и верификации начальной гипотезы, необходимо найти доверенные результаты экспериментов.
  2. Далее необходимо получить доступ и собрать необходимый для дальнейших этапов набор доверенных медицинских данных.
  3. Далее необходимо провести разработку модели ИИ. Для этого необходимо собрать из доверенных данных обучающую и тестовую выборки.
  4. После этого необходимо провести контроль качества ИИ — провести приёмку. Для этого необходимо получить доверенные данные для проведения процедуры приёмки.
  5. После этого необходимо провести клинические испытания и подготовить регистрационное досье к государственной регистрации медицинского изделия. Для этого необходимо получить доверенный тестовый набор данных, включающий в себя репрезентативную выборку для демонстрации надёжности алгоритма.
  6. В заключении необходимо довести до Росздравнадзора необходимые документы и сведения, чтобы успешно завершить процедуру государственной регистрации медицинского изделия. В частности, необходимо документально доказать аутентичность тестовой выборки данных, полученных в результате клинического исследования.
Третий этап

Третий этап — доверие платформе оператора, гарантирующей прохождение государственной процедуры регистрации различных ИИ-компонентов в качестве отдельных медицинский изделий, разрешенных к использованию в стационаре и/или амбулатории в составе платформы оператора. При этом, платформа оператора систематизирует и автоматизирует операции разработки и государственной регистрации ИИ, что существенно ускоряет получение разрешительной документации Росздравнадзора на новые ИИ-компоненты, работающие в составе платформы. Разрешительная документация Росздравнадзора легализует использование новых ИИ-компонентов в стационаре и/или амбулатории для решения задач по диагностике, выявлению рисков и иной поддержке принятия врачебных решений, автоматизации управленческих задач и т.д.

Подробнее о том, каким образом HealthOS помогает авторам с разработкой и выводом на медицинский рынок ИИ-продуктов в статьях Разработка ИИ-продукта в Виртуальной лаборатории и Вывод медицинского ИИ-продукта на рынок.

Почему врачи не доверяют ИИ?

На основе знания о том, что такое «доверие», «ИИ», «доверие врача ИИ» и «эволюция процесса разработки ИИ», полученного чуть ранее, допустимо сделать вывод, что врачи не доверяют ИИ в целом потому что не доверяют ни обучающей выборке, ни архитектуре ИИ. Недоверие обучающей выборке основано на том, что ИИ является специализированной базой знаний, построенной на основе множества электронных записей, которым как в отдельности, так и в совокупности доверять нельзя из-за неконтролируемых искажений информации. Недоверие архитектуре ИИ основано на том, что у врачей нет знаний основ архитектуры ИИ.

Таким образом, путем логических рассуждений, мы выяснили, что

  1. У недоверия врачей ИИ имеются две причины.
  2. Только в случае, когда будут устранены обе причины — во-первых, будет обеспечено доверие обучающей выборке по каждой записи и в совокупности и, во-вторых, будет обеспечено доверие архитектуре ИИ, проблема доверия врачей ИИ будет решена.

Как исправить проблему?

Как исправить проблему недоверия врачей ИИ? Чуть ранее мы квалифицировали причину недоверия и определили два направления решения этой проблемы. Во-первых, нужна технология обеспечения доверия обучающей выборке по каждой записи и совокупности в целом. Во-вторых, необходимы доверенные архитектуры ИИ, которые обеспечит доверенная процедура сертификации ИИ. Следовательно, для доверия врача ИИ также необходимо обеспечить доверие процедуре сертификации ИИ.

Таким образом, чтобы обеспечить доверие врача ИИ, необходимо выполнить следующие три условия:

  1. Обеспечить доверие обучающей выборке по каждой записи и в совокупности.
  2. Обеспечить доверие архитектуре компонента ИИ, представляющего собой медицинское изделие.
  3. Обеспечить доверие архитектуре платформы оператора, которая формирует доверенные обучающие выборки, создает ИИ-компоненты на основе доверенных вариантов архитектур, а также унифицирует и роботизирует операции подготовки и получения регистрационного удостоверения Росздравнадзора для доверенного компонента ИИ.

Что мы предлагаем?

В соответствии с условиями обеспечения доверия врача ИИ, определенными выше, мы предлагаем:

  1. В стационаре и/или амбулатории медицинского учреждения внедряется и функционирует Фабрика данных, что позволяет консолидировать доверенные обучающие выборки (см. модель доверия медицинской информации) в Магазине данных Виртуальной лаборатории в виде отдельных дата-продуктов.
  2. Виртуальная лаборатория предлагает исследователям проверенные временем, де-факто ставшие отраслевыми стандартами, архитектуры ИИ-компонентов без каких-либо нововведений, что при использовании доверенной обучающей выборки из Магазина данных позволяет разрабатывать доверенные ИИ-компоненты.
  3. Медицинская аналитическая платформа HealthOS, в рамках которой будет функционировать ИИ-компонент, в настоящий момент проходит клинические испытания и после прохождения получит регистрационное удостоверение Росздравнадзора, что позволит на легальных основаниях существенно сократить срок подготовки доверенного ИИ.

 

18.09.2023. Александр Прозоров. Директор по технологиям РТЛАБ

Оставьте комментарий