Полное описание

Карпенко, А. П. Как обмануть нейронную сеть? Синтез шума для уменьшения точности нейросетевой классификации изображений / А. П. Карпенко, В. А. Овчинников. - Текст : непосредственный // Московский государственный технический университет имени Н. Э. Баумана. Вестник Московского государственного технического университета имени Н.Э.Баумана : научно-теоретический и прикладной журнал. - 2021. - N 1. - С. 102-119. - Библиогр. в конце ст. - ISSN 0236-3933.

ГРНТИ	УДК
28.23.37	004.032.26

Рубрики:
Нейронные сети -- Применение

Кл.слова (ненормированные): глубокая нейронная сеть -- классификация изображений -- синтез атакующего шума -- графические ускорители
Аннотация: Цель исследования --- разработка алгоритмического и программного обеспечения для синтеза шума с намерением совершения атак на нейронные сети глубокого обучения, предназначенные для классификации изображений. Приведены результаты анализа методов проведения атак на такие нейронные сети. Задача синтеза "атакующего" шума сформулирована как задача многомерной условной оптимизации. Основные особенности предложенного алгоритма синтеза атакующего шума заключаются в следующем: ограничения на шум учитываются с помощью функции clip; в качестве критериев эффективности атакующего шума используются рейтинги top-1, top-5 ошибок классификации; для обучения нейронных сетей применяются алгоритмы обратного распространения ошибки и градиентного спуска Адама; указанная задача оптимизации решается методом стохастического градиентного спуска; в процессе обучения нейронных сетей используется техника аугментации. Разработанное программное обеспечение работает под управлением операционных систем Ubuntu 18.04 и CentOS 7, написано на языке программирования Python с использованием фреймворка динамического дифференцирования графа вычислений Pytorch. Среда разработки Visual Studio Code. Для ускорения вычислений использованы графический процессор Nvidia TITAN XP и технология CUDA. Приведены результаты широкого вычислительного эксперимента по синтезу неуниверсального и универсального атакующих шумов для восьми глубоких нейронных сетей. Показано, что предложенный атакующий алгоритм может увеличивать ошибку нейронной сети в 8 раз.
Доп. точки доступа:
Овчинников, В.А.


Имеются экземпляры в отделах: всего 2 : ЧЗХР (1), ХРЦ (1)
Свободны: ЧЗХР (1), ХРЦ (1)
Держатели документа:
Государственная публичная научно-техническая библиотека России : 123298, г. Москва, ул. 3-я Хорошевская, д. 17 (Шифр в БД-источнике (KATBW): -909108-009144)

Шифр в сводном ЭК: 1cf757aae6cd9c58d52885f99a22881d

Заказать издание
Заказ фрагмента документа ₽