УБИ.221: Угроза модификации модели машинного обучения путем искажения («отравления») обучающих данных

Описание угрозы Угроза заключается в возможности модификации (искажения) модели машинного обучения, используемой в информационной (автоматизированной) системе, реализующей технологии искусственного интеллекта.
Данная угроза обусловлена:
- недостатками реализации процесса машинного обучения;
- недостатками устройства алгоритмов машинного обучения.
Реализация данной угрозы возможна при наличии у нарушителя возможности воздействовать на процесс машинного обучения
Источники угрозы
  • Внутренний нарушитель со средним потенциалом
  • Внешний нарушитель с высоким потенциалом
Объект воздействия Программное обеспечение (программы), использующее машинное обучение; модели машинного обучения; обучающие данные машинного обучения
Последствия реализации угрозы
  • Нарушение целостности
Последние изменения