БДУ - Угрозы

УБИ.221: Угроза модификации модели машинного обучения путем искажения («отравления») обучающих данных

Описание угрозы

Угроза заключается в возможности модификации (искажения) модели машинного обучения, используемой в информационной (автоматизированной) системе, реализующей технологии искусственного интеллекта.
Данная угроза обусловлена:
- недостатками реализации процесса машинного обучения;
- недостатками устройства алгоритмов машинного обучения.
Реализация данной угрозы возможна при наличии у нарушителя возможности воздействовать на процесс машинного обучения

Источники угрозы

Внутренний нарушитель со средним потенциалом
Внешний нарушитель с высоким потенциалом

Объект воздействия

Программное обеспечение (программы), использующее машинное обучение; модели машинного обучения; обучающие данные машинного обучения

Последствия реализации угрозы

Нарушение целостности

Назад к списку

Последние изменения

Банк данных угроз безопасности информации

Федеральная служба по техническому и экспортному контролю

ФСТЭК России

Государственный научно-исследовательский испытательный институт проблем технической защиты информации

ФАУ «ГНИИИ ПТЗИ ФСТЭК России»

УБИ.221: Угроза модификации модели машинного обучения путем искажения («отравления») обучающих данных

Описание угрозы

Источники угрозы

Объект воздействия

Последствия реализации угрозы