Botkin.AI: прецедент или нет? Росздравнадзор приостановил применение ИИ.
Как пишет Коммерсант
Росздравнадзор впервые приостановил применение медицинского изделия с ИИ — системы анализа изображений Botkin.AI, позволяющей врачам обнаружить на снимках компьютерной томографии патологии. Ведомство посчитало, что разработка, созданная за счет вложений пула венчурных фондов, в том числе «Росатома», Минпромторга, «Р-Фарм», «Ташира», может «причинить вред здоровью» пациентов. Еще три года назад разработчик системы — «Интеллоджик» — заявлял о её интеграции в медучреждения Москвы, но в мэрии города утверждают, что не используют её. Чтобы обучить ИИ выявлять патологии, требуются серьезные технические решения, на что пока клиники не готовы, говорят эксперты.
Давайте внимательно разбираться, что перед нами.
Определим рабочие гипотезы:
- «Недобросовестная конкуренция». Эта гипотеза появляется практически мгновенно, если только вы немного понимаете, как функционирует рынок медицинских изделий, массово используемых в диагностике или лечении.
- «Ошибки в работе системы» угрожающие здоровью пациентов. Эта гипотеза отражает формулировку Росздравнадзора, вместе с тем она может вызывать подозрения в притворности.
- «Превентивные действия регулятора» в условиях проведения следствия из-за ошибок Botkin.AI.
Рассмотрим подробнее гипотезы.
Возможные формы недобросовестной конкуренции на рынке медицинских изделий на базе ИИ.
| № | Форма конкуренции | Результаты наблюдений |
| 1 | Ложная информация о продукте в виде рекламы или маркетинговых материалов, включая научно-популярные и квази-научные статьи, которые могут ввести потребителей в заблуждение относительно качества и эффективности продукта | Рекламные материалы Интеллоджик выполнены на высоком уровне. Отмечено активное участие основателя в маркетинговых активностях: выступления, статьи, продвижение экспертного мнения основателя со ссылками на проект и компанию. Вместе с тем отсутствуют выявленные факты ложной информации. |
| 2 | Нарушение прав потребителей, такие как отказ от гарантийного обслуживания или возврата товара | Не релевантно |
| 3 | Использование патентных манипуляций для ограничения конкуренции на рынке путём регистрации и охраны патентов, запрещающих другим компаниям производить продукты, аналогичные тем, которые производит правообладатель | Интеллоджик зарегистрировал патент №2703679 на способ и систему поддержки принятия врачебных решений с использованием математических моделей представления пациентов. |
| 4 | Применение недобросовестной ценовой политики, такой как использование демпинга при наличии высокой финансовой устойчивости компании, в том числе за счёт привлекаемых средств | Выручка Интеллоджик соответствует малому бизнесу (десятки миллионов рублей в год) при растущем штате сотрудников и растущем долге (сотни миллионов рублей в год). |
| 5 | Манипуляция мнением регулятора для отзыва лицензии может происходить путём подачи жалоб на других производителей, утверждая, что их продукты содержат опасные вещества или не соответствуют стандартам безопасности | В состав акционеров Интеллоджик входит группа «больших» игроков, включая «фарму». Крупные дистрибьютеры медицинского оборудования не представлены. |
Возможные риски ошибок при работе системы ИИ в области анализа КТ-изображений.
| № | Риск возникновения ошибок | Результаты наблюдений |
| 1 | Недостаток качественных обучающих данных. Если набор обучающих данных недостаточно велик или разнообразен, это может привести к ошибкам в распознавании объектов, что приводит к неверному диагнозу или рекомендации. | Интеллоджик не опубликовала отчёт с анализом качества обучающих данных своего ИИ. Описание системы, приложенное к патенту, не позволяет определить качество обучающих данных. |
| 2 | Недостаточная точность при распознавании слабых признаков патологий на изображениях | Интеллоджик не опубликовала отчёт с анализом архитектуры ИИ своей системы. Описание системы, приложенное к патенту, не позволяет выявить механизмы, обеспечивающие высокую точность распознавании слабых признаков патологий на изображениях низкого или переменного качества |
| 4 | Отсутствие контекста изображения. Система может не учитывать контекст изображения, либо данные о нем могут отсутствовать, что может привести к неправильному распознаванию объектов на изображении. | Нет информации от Интеллоджик для оценки влияния данного риска на качество работы системы |
| 5 | Шум и артефакты на изображениях. Проблемы с недостаточным качеством изображений, артефакты и шум, приводят к нестабильности работы системы, что ведет к ошибкам классификации и неверному диагнозу или рекомендации. | Нет информации от Интеллоджик для оценки влияния данного риска на качество работы системы |
| 6 | Нестабильность модели из-за дисперсии качества изображений, поступающих на вход модели. | Нет информации от Интеллоджик для оценки влияния данного риска на качество работы системы |
| 7 | Чрезмерная зависимость модели от предобработки изображений. Чрезмерное внимание к предобработке изображений может привести к потере важных деталей, что снижает точность распознавания. | Нет информации от Интеллоджик для оценки влияния данного риска на качество работы системы |
Превентивные действия регулятора.
Проведение следствия требует тайны следствия, по этому в открытой печати никакой информации об этой версии нет. В диапазоне «декабрь 2023 — апрель 2023» нельзя полностью исключить вероятность проведения следственных мероприятий в отношении ошибок Botkin.AI, на которые ссылается регулятор.
Подводим итоги и делаем вывод.
- Наблюдаем признаки недобросовестной конкуренции.
- Вместе с тем, наблюдаем признаки высокой вероятности ошибок в работе системы, на что ссылается регулятор.
- Вероятно, перед нами прецедент манипуляции регулятором с целью заблаговременного устранения или замедления роста молодого, но опасного конкурента.
- Вместе с тем, нельзя полностью исключить следственных мероприятий, по этому третья гипотеза теоретически тоже не исключается.
- Таким образом, перед нами либо прецедент манипуляции регулятором, либо превентивных действий регулятора.
- Главное в этом прецеденте то, что оба возможные варианта свидетельствует о том, что рынок медицинского ИИ завершил этап песочницы и конкуренция на рынке будет только нарастать.
Подготовлено с использованием большой языковой модели. Для получения доступа к большой языковой модели необходимо подключиться к Виртуальной лаборатории. Для подключения напишите письмо на sales@rtlab.ru с темой «Подключение к Виртуальной лаборатории».