УБИ.222: Угроза подмены модели машинного обучения

Описание угрозы

Угроза заключается в возможности подмены нарушителем модели машинного обучения, используемой в информационной (автоматизированной) системе, реализующей технологии искусственного интеллекта.
Данная угроза обусловлена слабостями разграничения доступа в информационных (автоматизированных) системах, использующих машинное обучение.
Реализация данной угрозы возможна при наличии у нарушителя непосредственного доступа к модели машинного обучения

Источники угрозы

  • Внутренний нарушитель с высоким потенциалом

Объект воздействия

Программное обеспечение (программы), использующее машинное обучение; модели машинного обучения

Последствия реализации угрозы

  • Нарушение конфиденциальности
  • Нарушение целостности
Последние изменения