Настоящий отчет — рабочий документ для сопоставительного анализа рисков ИТ-систем, построенных на основе ИИ-агентов, а не замена официального текста EU AI Act. Код Риск Описание Контрмеры R1 Имперсонализация / identity spoofing Агент действует с чужими учётными данными, полномочиями или идентичностью — через prompt injection, скомпрометированные инструменты, социнженерию против агента Верифицируемые цифровые идентичности агентов, MFA на … Читать далее
Настоящий отчет — рабочий документ для сопоставительного ИИ-анализа, а не замена официального текста EU AI Act. 1. Общие сведения Параметр Значение Принят 13.06.2024, вступил в силу 01.08.2024 Тип акта Регламент (прямое действие во всех государствах ЕС) Подход Риск-ориентированный (risk-based), горизонтальный Экстерриториальность Да: действует на провайдеров и деплойеров вне ЕС, если выход системы используется в ЕС … Читать далее
Первые ласточки. Канадский форум цифровых регуляторов выпустил доклад «Синтетические медиа в цифровой среде», посвящённый возможностям и рискам контента, созданного с помощью ИИ, и его влиянию на общество. Доклад описывает текущее глобальное регулирование и ключевые аспекты, которые необходимо учитывать политикам по мере развития технологий синтетических медиа. Регуляторы форума представили свое видение: Важность прозрачности при использовании синтетических … Читать далее
В медицинском профессиональном сообществе слабо осмыслена важная проблема медицинской информационной системы — проблема недоверия медицинской информации. Эта проблема отражается в том, что отсутствует доверие производным медицинской информационной системы, таким как медицинские записи. В результате, проблема недоверия наследуется, превращаясь в проблемы производных от медицинских записей, такие как неверные врачебные решения и некачественный искусственный интеллект. Подробнее о … Читать далее