Модель рисков India AI Governance

от

Риски в India AI Governance Guidelines классифицируются по категориям и уровням, что позволяет структурированно подходить к управлению угрозами в экосистеме ИИ.

Злоупотребления (Malicious uses)

  • Риск злоупотреблений включает сценарии, когда ИИ используется для распространения дезинформации, создания дипфейков (deepfakes), проведения атак на системы, отравления данных или моделей, а также для поддержки других вредоносных действий.
  • Основная задача: предотвращение использования ИИ в целях манипуляции, обмана и атак на пользователей и инфраструктуру.

Предвзятость и дискриминация (Bias and discrimination)

  • Риск предвзятости и дискриминации возникает, когда данные или системы ИИ приводят к несправедливым решениям, ущемляющим возможности и благосостояние отдельных групп людей.
  • Основная задача: обеспечение справедливости, предотвращение предвзятости и дискриминации в принятии решений ИИ.

Провалы прозрачности (Transparency failures)

  • Риск провалов прозрачности связан с отсутствием достаточной информации о применении ИИ, включая использование персональных данных без согласия и отсутствие раскрытия информации о рисках и мерах.
  • Основная задача: обеспечение открытости, понятности и доступности информации для пользователей и регуляторов.

Системные риски (Systemic risks)

  • Системные риски связаны с нарушением цепочки поставок ИИ из-за концентрации рынка, геополитической нестабильности или изменений регуляторики.
  • Основная задача: обеспечение устойчивости и надёжности экосистемы ИИ при внешних шоках и изменениях.

Потеря контроля (Loss of control)

  • Риск потери контроля возникает, когда ИИ-системы начинают вести себя непредсказуемо и нарушают общественный порядок или безопасность.
  • Основная задача: обеспечение контроля и предсказуемости поведения ИИ-систем, предотвращение непредсказуемых последствий.

Риски для национальной безопасности (National security)

  • Риски для национальной безопасности включают дезинформацию, кибератаки на критическую инфраструктуру и другие угрозы суверенитету, связанные с применением ИИ.
  • Основная задача: защита критических систем и инфраструктуры от вредоносного использования ИИ.

Уровни рисков

  1. Низкий (Low): минимальные угрозы, не требующие дополнительных мер.
  2. Средний (Medium): требуют внимания и пропорциональных мер.
  3. Высокий (High): требуют серьёзных и срочных мер.
  4. Чувствительный сектор (Sensitive sector): особые меры для секторов с высокой значимостью и рисками.