В India AI Governance Guidelines определены девять ключевых ролей участников экосистемы ИИ, каждая из которых отвечает за определённые функции и обязательства в цепочке создания, внедрения и управления ИИ-системами.
Разработчик (Developer)
- Роль разработчика — это участник, который создаёт модели и системы ИИ, а также разрабатывает связанные компоненты для внедрения в цепочке поставки.
- Основная ответственность: проектирование, реализация и тестирование ИИ-систем с учётом требований безопасности, справедливости и соответствия нормативам.
Внедряющий оператор (Deployer)
- Роль внедряющего оператора — это участник, который развертывает и эксплуатирует ИИ-системы в конкретной среде и отвечает за их безопасное использование и соблюдение требований due diligence.
- Основная ответственность: контроль за безопасностью, прозрачностью, управление рисками и соблюдение правовых обязательств при эксплуатации ИИ.
Провайдер платформы/услуги (Platform/Service provider)
- Роль провайдера платформы/услуги — это участник, который предоставляет ИИ-возможности или сервисы конечным пользователям и третьим сторонам.
- Основная ответственность: обеспечение надёжности, безопасности и соответствия нормативным требованиям предоставляемых ИИ-сервисов, а также поддержка механизмов прозрачности и разрешения жалоб.
Конечный пользователь (End user)
- Роль конечного пользователя — это участник, который взаимодействует с результатами работы ИИ-систем для принятия решений или потребления.
- Основная ответственность: использование ИИ-систем в соответствии с предоставленной информацией, участие в механизмах обратной связи и разрешения жалоб.
Секторальный регулятор (Sectoral regulator)
- Роль секторального регулятора — это орган, который устанавливает и контролирует выполнение сектор-специфических правил и нормативов, а также обеспечивает соблюдение законодательства в своей области.
- Основная ответственность: разработка и применение правил, надзор за соблюдением требований, реагирование на инциденты и координация с другими участниками экосистемы.
Координирующий министерство (Nodal ministry)
- Роль координирующего министерства — это государственное ведомство, которое координирует общий подход к управлению ИИ на уровне страны (например, MeitY).
- Основная ответственность: разработка стратегии, координация с регуляторами, секторальными органами и международными партнёрами, обеспечение согласованности подходов и нормативов.
Орган по стандартизации (Standards body)
- Роль органа по стандартизации — это организация, отвечающая за разработку, тестирование, оценку и валидацию стандартов в области ИИ.
- Основная ответственность: создание и поддержка стандартов, проведение аудитов и сертификаций, обеспечение соответствия ИИ-систем требованиям безопасности и качества.
Органы правоприменения (Law enforcement)
- Роль органов правоприменения — это правоохранительные органы, полиция и киберполиция, которые расследуют преступления, связанные с ИИ, и поддерживают реагирование на инциденты.
- Основная ответственность: расследование инцидентов, сбор доказательств, координация с другими участниками экосистемы, обеспечение безопасности и соблюдения закона.
Аудитор (Auditor)
- Роль аудитора — это независимый оценщик или орган по стандартизации, который проводит аудиты и сертификации для обеспечения подотчётности.
- Основная ответственность: проверка соответствия ИИ-систем требованиям, предоставление независимых оценок и рекомендаций по улучшению процессов и безопасности.