УБИ.222: Угроза подмены модели машинного обучения

Описание угрозы Угроза заключается в возможности подмены нарушителем модели машинного обучения, используемой в информационной (автоматизированной) системе, реализующей технологии искусственного интеллекта.
Данная угроза обусловлена слабостями разграничения доступа в информационных (автоматизированных) системах, использующих машинное обучение.
Реализация данной угрозы возможна при наличии у нарушителя непосредственного доступа к модели машинного обучения
Источники угрозы
  • Внутренний нарушитель с высоким потенциалом
Объект воздействия Программное обеспечение (программы), использующее машинное обучение; модели машинного обучения
Последствия реализации угрозы
  • Нарушение конфиденциальности
  • Нарушение целостности
Последние изменения