Исполняемое знание — это управляемая клиническая семантика, прошедшая путь от онтологии через авторизацию и компиляцию до выпущенных ограниченных артефактов исполнения и сопровождаемая структурированными доказательствами выполнения. Оно отличается от набора запускаемых правил тремя свойствами: смысл закреплён в источнике авторизованной семантики, а не только в программном коде; в операционный вид оно переводится компиляцией, а не ручным переизложением; … Читать далее
Операционная система деятельности (ОСД) — это среда с закрытым информационным периметром, которая по своему устройству обеспечивает воспроизводимость цепочки добавленной ценности по управлению исполняемым знанием и его практическим использованием для решения различных задач. Архитектура ОСД определяется через семь инвариантов — обязательных свойств системы как целого: периметр системы закрыт: данные деятельности не уходят на обучение сторонних моделей, … Читать далее
Модель работает на входе в жёсткой обвязке (harness), в продуктивном контуре работают только проверяемые правила. Хватит ли этого для доверия ИИ, покажут годы работы. «Модель так решила». После этой фразы разбор инцидента в реанимации заканчивается, не начавшись. Сцена ниже вымышлена, но вопрос в ней настоящий. Утро после ночной смены в отделении реанимации и интенсивной терапии … Читать далее
Проблема недоверия ИИ вышла за рамки профессиональных кругов и начинает волновать широкую общественность. Сегодня разрабатываются соответствующие манифесты, а из лабораторий выходят программные платформы, реализующие положения этих манифестов. Что такое доверенный ИИ и как эта концепция может быть реализована в медицине? Общественность всерьез озабочена проблемой недоверия ИИ, уже особенно остро проявляемой в областях с высокой социальной … Читать далее