Полное описание

Гарбук, Сергей Владимирович. Специальная модель безопасности создания и применения систем искусственного интеллекта / Гарбук С. В. - DOI 10.21681/2311-3456-2024-1-15-23. - Текст : непосредственный // Вопросы кибербезопасности = Cybersecurity Issues : научный рецензируемый журнал. - 2024. - N 1. - С. 15-23. - Библиогр. в конце ст. - ISSN 2311-3456.

ГРНТИ	УДК
28.23	004.056:004.8
50.37.23

Рубрики:
Искусственный интеллект
Информация -- Сохранность

Кл.слова (ненормированные): качество систем искусственного интеллекта -- функциональная корректность систем искусственного интеллекта -- риски создания систем искусственного интеллекта -- риски применения систем искусственного интеллекта
Аннотация: Цель исследования - обоснование характера и структуры угроз, проявляющихся при создании и применении систем искусственного интеллекта на базе алгоритмов машинного обучения, в зависимости от видов нарушений требований, предъявляемых к информационным компонентам этих систем.
Показано, что угрозы безопасности создания и применения систем искусственного интеллекта обусловлены нарушением требований в области целостности и доступности, предъявляемых к функциональным характеристикам систем и предусмотренным условиям их эксплуатации, к используемым эталонным архитектурам моделей машинного обучения, а также к обучающим, тестовым и входным наборам данных. При этом угрозы безопасности могут проявляться в виде деградации и повышения погрешности оценки функциональных характеристик (нарушение функциональности), а также компрометации чувствительных сведений о самих системах и о третьих лицах. Нарушение функциональности систем, в свою очередь, может приводить к реализации угроз физической, информационной и экономической безопасности. В статье приведены логические зависимости, позволяющие оценивать структуру потенциальных угроз безопасности в зависимости от степени соответствия комплексу предъявляемых требований в области целостности и конфиденциальности информационных компонент систем. Научная новизна: полученные результаты могут быть использованы при обосновании требований к процессам жизненного цикла систем искусственного интеллекта на основе алгоритмов машинного обучения, а также при оценивании потенциальных рисков при создании и применении таких систем.

Нет сведений об экземплярах
Держатели документа:
Государственная публичная научно-техническая библиотека России : 123298, г. Москва, ул. 3-я Хорошевская, д. 17 (Шифр в БД-источнике (KATBW): -403960-711853)

Шифр в сводном ЭК: 70f70c4c43d2f320d77e4fecab878f08

Заказать
Заказ фрагмента документа ₽