Полное описание

Атаки и методы защиты в системах машинного обучения: анализ современных исследований / Котенко И. В., Саенко И. Б., Лаута О. С. [и др.]. - DOI 10.21681/2311-3456-2024-1-24-37. - Текст : непосредственный // Вопросы кибербезопасности = Cybersecurity Issues : научный рецензируемый журнал. - 2024. - N 1. - С. 24-37. - Библиогр. в конце ст. - ISSN 2311-3456.

ГРНТИ	УДК
28.23.25	004.056:004.85(048.8)
50.55

Рубрики:
Машинное обучение
Кибербезопасность

Кл.слова (ненормированные): кибербезопасность -- машинное обучение -- глубокое обучение -- состязательные атаки -- защита от атак -- искусственный интеллект
Аннотация: Цель исследования: проведение анализа атак на системы машинного обучения и методов защиты от них на основе известных обзорных статей, опубликованных за последние пять лет в высокорейтинговых журналах.
Исследованы обзорные работы в высокорейтинговых журналах, посвященные анализу атак на системы машинного обучения и методам защиты от них. Выявлено, что тематика защиты от таких атак вызывает в настоящее время постоянно растущий интерес, а сфера воздействия таких атак охватывает интеллектуальные системы различного предназначения с ориентацией на широкий спектр типов обрабатываемых данных (изображения, звук, текст, видео, кибербезопасность и т.д.). Обобщены признаки классификации атак на системы машинного обучения и мер защиты от них. Выделены и рассмотрены наиболее распространенные атаки, которые по своему типу относятся к атакам "белого ящика" или "черного ящика". Обоснованы наиболее распространенные методы защиты от атак на системы машинного обучения, и дана их характеристика. Для ряда наиболее сложных методов защиты приведено их детальное описание на уровне отдельных этапов. Выделены особенности реализации методов защиты, позволяющие повысить эффективность обнаружения атак на системы машинного обучения. Научная новизна: анализ работ по тематике атак на системы машинного обучения и мер защиты от них показал, что в настоящее время для них не существует устоявшейся классификации, что обусловлено бурным ростом новых разновидностей атак и появлением новых методов и механизмов защиты. Предложенные в рассмотренном исследовании признаки классификации атак и методов защиты обобщают подходы к такой классификации. Описание наиболее распространенных методов защиты отличается от других известных описаний поэтапной детализацией, которая обеспечивает простоту реализации этих методов в системах защиты интеллектуальных системах различного назначения.
Доп. точки доступа:
Котенко, Игорь Витальевич
Саенко, Игорь Борисович
Лаута, Олег Сергеевич
Васильев, Никита Алексеевич
Садовников, Владимир Евгеньевич


Нет сведений об экземплярах
Держатели документа:
Государственная публичная научно-техническая библиотека России : 123298, г. Москва, ул. 3-я Хорошевская, д. 17 (Шифр в БД-источнике (KATBW): -294008-420215)

Шифр в сводном ЭК: 34ff744545e7387d2b52a616ced9605b

Заказать
Заказ фрагмента документа ₽