Полное описание
> Мурылева, А. А. Защита моделей машинного обучения от извлечения обучающего набора данных / А. А. Мурылева, М. О. Калинин, Д. С. Лаврова. - DOI 10.48612/jisp/en1z-upfz-u3p7. - Текст : непосредственный // Проблемы информационной безопасности. Компьютерные системы : журнал. - 2024. - N 1. - С. 142-152. - Библиогр. в конце ст. - ISSN 2071-8217.
| ГРНТИ | УДК | |
| 28.23 | 004.8 | |
| 28.23.25 | 004.85 | |
| 004.056 |
Рубрики:
Искусственный интеллект
Машинное обучение
Кл.слова (ненормированные): зашумление -- машинное обучение -- обучающий набор -- определение членства -- шум гаусса
Аннотация: Рассмотрена проблема защиты моделей машинного обучения от угрозы нарушения конфиденциальности данных, реализующей определение членства в обучающих наборах данных. Предложен метод защитного зашумления обучающего набора. Экспериментально показано, что гуассово зашумление обучающих данных с масштабом 0,2 является наиболее простым и эффективным способом защиты моделей машинного обучения от определения членства в обучающем наборе. В сравнении с альтернативами данный метод прост в реализации, универсален по отношению к видам моделей и позволяет снизить результативность определения членства до 26 %-ных пунктов.
Доп. точки доступа:
Калинин, Максим Олегович
Лаврова, Дарья Сергеевна
>
Нет сведений об экземплярах
Держатели документа:
Государственная публичная научно-техническая библиотека России : 123298, г. Москва, ул. 3-я Хорошевская, д. 17 (Шифр в БД-источнике (KATBW): -940176-558686)>
Шифр в сводном ЭК: dc0202e0e3bf4328c1e6e89bb5758320
Полтавцева, Мария Анатольевна. Высокопроизводительные системы обнаружения вторжений : учебное пособие / М. А. Полтавцева, Д. С. Лаврова, 2020. - 185 с. - Текст (визуальный) : непосредственный.Калинин, Максим Олегович. Анализ рисков информационной безопасности : лабораторный практикум: учебное пособие / М. О. Калинин, 2020. - 101 с. - Текст (визуальный) : непосредственный.Криптографические методы защиты информации. Криптосистемы с открытым ключом : учебное пособие / Е. Б. Александрова, Д. С. Лаврова, Е. Ю. Павленко, А. В. Ярмак, 2020. - 85, [1] с. - Текст (визуальный) : непосредственный.Математические методы защиты информации. Аутентификация и контроль целостности : учебное пособие / Е. Б. Александрова, Д. С. Лаврова, Е. Ю. Павленко, А. В. Ярмак, 2021. - 85, [1] с. - Текст (визуальный) : непосредственный.Калинин, Максим Олегович. Обнаружение сетевых атак на цифровые предприятия с использованием квантового машинного обучения / М. О. Калинин, В. М. Крундышев. - Текст (визуальный) : непосредственный // Цифровая экономика, умные инновации и технологии : сборник трудов Национальной (Всероссийской) научно-практической конференции с зарубежным участием, 18-20 апреля 2021 года, Санкт-Петербург / Министерство науки и высшего образования Российской Федерации, Санкт-Петербургский политехнический университет Петра Великого, Институт промышленного менеджмента, экономики и торговли, Высшая инженерно-экономическая школа, Университет Николая Коперника в Торуне (Польша) [и др.]. - Санкт-Петербург : ПОЛИТЕХ-ПРЕСС, 2021. - с. 286-287Полтавцева, Мария Анатольевна. Высокопроизводительные системы обнаружения вторжений : Учебное пособие / Санкт-Петербургский государственный политехнический университет Петра Великого, 2023. - 152 с. - Текст : электронный.Безопасность операционных систем : учебное пособие : [в 2 ч.] / Министерство науки и высшего образования Российской Федерации, Санкт-Петербургский политехнический университет Петра Великого, Институт компьютерных наук и кибербезопасности, Высшая школа кибербезопасности. Ч. 1 : Операционные системы семейства Linux / Е. Ю. Павленко, Д. С. Лаврова, Н. Н. Самарин, М. Е. Сухопаров, 2023. - 75, [1] с. - Текст : непосредственный.Калинин, Максим Олегович. Технологии машинного обучения в кибербезопасности. Основы искусственного интеллекта. : лабораторный практикум: учебное пособие / М. О. Калинин, В. М. Крундышев, 2024. - 95 с. (Введено оглавление). - Текст (визуальный) : непосредственный.Распознавание киберугроз на адаптивную сетевую топологию крупномасштабных систем на основе рекуррентной нейронной сети / Е. Ю. Павленко, Н. В. Гололобов, Д. С. Лаврова, А. В. Козачок. - Текст : непосредственный // Вопросы кибербезопасности : научный рецензируемый журнал / "Эшелон", научно-производственное объединение (Москва). - Москва : Эшелон, 2022. - N 6. - с. 93-99Иванова О.Д. Гибридный метод выявления атак уклонения, направленных на системы машинного обучения / О. Д. Иванова, М. О. Калинин. - Текст : непосредственный // Проблемы информационной безопасности. Компьютерные системы : журнал / Санкт-Петербургский политехнический университет Петра Великого. - СПб. : Изд-во Политехнического университета, 2023. - N 1. - с. 104-110Безбородько, Анастасия Игоревна. Применение модульной нейронной сети для обнаружения DDoS-атак / А. И. Безбородько, Д. С. Лаврова. - Текст : непосредственный // Проблемы информационной безопасности. Компьютерные системы : журнал / Санкт-Петербургский политехнический университет Петра Великого. - СПб. : Изд-во Политехнического университета, 2023. - N 1. - с. 111-118Калинин, Максим Олегович. Основы искусственного интеллекта. Безопасность искусственного интеллекта : учебное пособие / М. О. Калинин, В. М. Крундышев, 2024. - 88 с. - Текст (визуальный) : непосредственный.Мурылева А.А. Защита моделей машинного обучения от извлечения обучающего набора данных / А. А. Мурылева, М. О. Калинин, Д. С. Лаврова. - Текст : непосредственный // Проблемы информационной безопасности. Компьютерные системы : журнал / Санкт-Петербургский политехнический университет Петра Великого. - Санкт-Петербург : Изд-во Политехнического университета, 2024. - N 1. - с. 142-152Неделя науки ИКНК : материалы докладов Всероссийской научно-практической конференции, 14 апреля-16 мая 2025 года / Министерство науки и высшего образования Российской Федерации, Санкт-Петербургский политехнический университет Петра Великого, Институт компьютерных наук и кибербезопасности, 2025. - 367 с. - Текст (визуальный) : непосредственный.Современные системы обработки и хранения больших данных. Обеспечение безопасности : учебное пособие / М. А. Полтавцева, Д. П. Зегжда, М. О. Калинин, Е. Б. Александрова, 2025. - 124 с. - Текст (визуальный) : непосредственный.
Проблемы информационной безопасности. Компьютерные системы : журнал / Санкт-Петербургский политехнический университет Петра Великого. - Журнал выходит с 2000г. - Текст : непосредственный.Мурылева А.А. Защита моделей машинного обучения от извлечения обучающего набора данных / А. А. Мурылева, М. О. Калинин, Д. С. Лаврова. - Текст : непосредственный // Проблемы информационной безопасности. Компьютерные системы : журнал / Санкт-Петербургский политехнический университет Петра Великого. - Санкт-Петербург : Изд-во Политехнического университета, 2024. - N 1. - с. 142-152
Мурынин А.Б. Принципы оптимизации информативных признаков в задаче автоматического распознавания лица человека компьютерной системой / А. Б. Мурынин, В. И. Цурков, 1997. - 34 с.ил. - Текст : непосредственный.Яшкин Ю.Н. Конструирование оптических приборов. Оптико-механические сканирующие устройства / Ю. Н. Яшкин, А. А. Цуканов, 1989. - 49 c. - Текст : непосредственный.Чернавский Д.С. Синергетика и информация / Д. С. Чернавский, 1990. - 46 c. - Текст : непосредственный.Венда В.Ф. Системы гибридного интеллекта : Эволюция, психология, информатика / В.Ф.Венда, 1990. - 447 c. - Текст : непосредственный.Клещев А.С. Экспертная система, моделирующая процесс оптимизации программ. Обработка знаний : препринт / А. С. Клещев, М. А. Князева, 1990. - 44 с. - Текст : непосредственный.Оптические процессоры для обработки изображений и сигналов : сборник научных трудов / Физико-технический ин-т им. А. Ф. Иоффе (Ленинград), 1989. - 170 с. - Текст : непосредственный.Expert system as a maze / O. A. Khrustalev, P. K. Silaev, O. D. Timofeevskaya, E. N. Tyurin, 1990. - 10 p. - Текст : непосредственный.Потапова О.Ф. Создание экспертных систем на базе ПЭВМ ЕС1840. Операторы языка пролог / О. Ф. Потапова, И. М. Птаховская, 1990. - 20 с. - Текст : непосредственный.Храмцов С.В. Система автоматизированного синтеза тестов для генератора экспертных систем СИНАП / С. В. Храмцов, 1990. - 28 с. - Текст : непосредственный.Digital image processing and analysis / Ed.:R.Chelappa, A.A.Sawchuk. Vol. 1 : Digital image processing, 1985. - X,721 p. p. - Текст : непосредственный.Artificial neural networks : сборник научных трудов / Ed. N. Morgan, 1990. - VIII,130 p. p. - Текст : непосредственный.Vemuri V.R. Artificial neural networks:concepts and control applications / V. R. Vemuri, 1992. - 509 p. - Текст : непосредственный.Artificial neural networks:concepts and theory / Сост.Compl.: P. Mehra, B. W. Wah, 1992. - XI,667 p. p. - Текст : непосредственный.Nearest neighbor (NN) norms:NN patern classification techniques / Ed. B. V. Dasarathy, 1991. - XII,447 p. p. - Текст : непосредственный.Innovative applications of artificial intelligence 3 : материалы временных коллективов / Ed.: R. G. Smith, A. C. Scott, 1991. - 362 p. - Текст : непосредственный.Воронцов К.В. Локальные базисы в алгебраическом подходе к проблеме распознавания : специальность 01.01.09 "Дискретная математика и математическая кибернетика" : автореферат диссертации на соискание ученой степени канд. физ.-мат. наук / К. В. Воронцов, 1999. - 20 с. - Текст : непосредственный.Скиданов Р.В. Оптические методы формирования поля направлений и поля пространственных частот : специальность 01.04.01 "Приборы и методы экспериментальной физики" : автореферат диссертации на соискание ученой степени канд.физ.-мат.наук / Р. В. Скиданов, 1998. - 15 с. - Текст : непосредственный.Pattern recognition and image analysis / D. Hutchison, J. C. Mitchell, F. Mattern [et al.], 2009 r=on-line. - Текст : электронный.Multiple classifier systems / SpringerLink (Online service), 2009 r=on-line. - Текст : электронный.Combinatorial pattern matching / D. Hutchison, D. Terzopoulos, M. Sudan [et al.], 2009 r=on-line. - Текст : электронный.
Показать все результатыВенда В.Ф. Системы гибридного интеллекта : Эволюция, психология, информатика / В.Ф.Венда, 1990. - 447 c. - Текст : непосредственный.Дулин С.К. Моделирования сходства элементов базы знаний / С. К. Дулин, И. А. Киселев, 1994. - 23 c. - Текст : непосредственный.Frederichs G. Kunstliche Intelligenz im Hartetest der kommerziellen Praxis / G. Frederichs, M. Rader, 1993. - 108 S. - Текст : непосредственный.Abe S. Support vector machines for pattern classification / S. Abe, 2005 r=on-line. - Текст : электронный.Вихтенко Э.М. Элементы теории искусственного интеллекта / Э. М. Вихтенко, 2006. - 94 с. - Текст : непосредственный.Осипов Г.С. Лекции по искусственному интеллекту / Г. С. Осипов, 2013. - 267 с. - Текст : непосредственный.Дворянкин А.М. Искусственный интеллект. Моделирование рассуждений и формальные системы / А. М. Дворянкин, М. Б. Сипливая, И. Г. Жукова, 2003. - 140 с. - Текст : непосредственный.Baltag A. logic for suspicious players: epistemic actions and belief-update in games / A. Baltag, 2000. - 30 p. - Текст : непосредственный.Куркин В.И. Системы искусственного интеллекта / В. И. Куркин, 2005. - 69 с. - Текст : непосредственный.Искусственный интеллект : монография / Ред. А. И. Дащенко, 1991. - 540 c. - Текст : непосредственный.Knowledge-driven computing / SpringerLink (Online service), 2008 r=on-line. - Текст : электронный.Kacprzyk J. Advances in differential evolution / J. Kacprzyk, U. K. Chakraborty, 2008 r=on-line. - Текст : электронный.Software engineering, artificial intelligence, networking and parallel/distributed computing / R. Lee ; ed. R. Lee, 2008 r=on-line. - Текст : электронный.Information modelling and knowledge bases / Ed. H. Kangassalo, 1990. - VI,636 p. p. - Текст : непосредственный.Когнитивный вызов и информационные технологии / Г. Г. Малинецкий, С. К. Маненков, Н. А. Митин, В. В. Шишов, 2010. - 28 с. - Текст : непосредственный.Методы и средства построения систем знания : Учеб.пособие / Вольфенгаген В.Э.и др. Ч. 2 : Модели, обслуживающие базы данных и базы знаний / В.Э.Вольфенгаген,И.А.Горюнова,С.В.Косиков, 1992. - 135 с. - Текст : непосредственный.Ennals R. Artificial intelligence and human institutions / R. Ennals, 1991. - XII,181 p. p. - Текст : непосредственный.Connectionism in perspective / Ed. Preifer et al., 1989. - XXI,517 p. p. - Текст : непосредственный.Компьютер обретает разум / Ред. В. Л. Стефанюк, 1990. - 240 c. - Текст : непосредственный.Левин Р. Практическое введение в технологию искусственного интеллекта и экспертных систем с иллюстрациями на Бейсике / Р. Левин, Д. Дранг, Ю. Эделсон ; , 1990. - 239 c. - Текст : непосредственный.
Показать все результатыВенда В.Ф. Системы гибридного интеллекта : Эволюция, психология, информатика / В.Ф.Венда, 1990. - 447 c. - Текст : непосредственный.Клещев А.С. Экспертная система, моделирующая процесс оптимизации программ. Обработка знаний : препринт / А. С. Клещев, М. А. Князева, 1990. - 44 с. - Текст : непосредственный.Expert system as a maze / O. A. Khrustalev, P. K. Silaev, O. D. Timofeevskaya, E. N. Tyurin, 1990. - 10 p. - Текст : непосредственный.Потапова О.Ф. Создание экспертных систем на базе ПЭВМ ЕС1840. Операторы языка пролог / О. Ф. Потапова, И. М. Птаховская, 1990. - 20 с. - Текст : непосредственный.Храмцов С.В. Система автоматизированного синтеза тестов для генератора экспертных систем СИНАП / С. В. Храмцов, 1990. - 28 с. - Текст : непосредственный.Innovative applications of artificial intelligence 3 : материалы временных коллективов / Ed.: R. G. Smith, A. C. Scott, 1991. - 362 p. - Текст : непосредственный.Security and privacy : Proc.of the 1980-84 symp.on security and privacy and the 1985-87 IEEE symp.on security and privacy / Ed.:C.E.Garvey. Vol. 1 : Proceedings of the first 5 symposia 1980-84, 1990. - VIII,227 p. p. - Текст : непосредственный.Прокушев Я.Е. Криптографическая защита информации / Я. Е. Прокушев, 2005. - 145 с. - Текст : непосредственный.Янаева М.В. Разработка и исследование кластерных экспертных систем : специальность 05.13.01 "Системный анализ,управление и обработка информации (по отраслям)" : диссертация на соискание ученой степени канд. техн. наук / М. В. Янаева, 2006. - 24 с. - Текст : непосредственный.Фомичев В.М. Дифференциация элементов в конечных группах и в автоматах по заданным признакам, определяющим криптографические свойства систем защиты информации : специальность 05.13.19 "Методы и системы защиты информации, информационная безопасность" : диссертация на соискание ученой степени д-ра физ.-мат. наук / В. М. Фомичев, 2006. - 38 с. - Текст : непосредственный.Хоглунд Г. Руткиты: внедрение в ядро Windows / Г. Хоглунд, Д. Батлер, 2007. - 284 с. - Текст : непосредственный.Басан А.С. Разработка моделей, алгоритмов и программ реализации мандатного разграничения доступа в СУБД с интеграцией прав доступа в цифровые сертификаты : специальность 05.13.19 "Методы и системы защиты информации, информационная безопасность" : диссертация на соискание ученой степени канд. техн. наук / А. С. Басан, 2007. - 16 с. - Текст : непосредственный.Балашов С.Г. Научно-методическое обеспечение риск-анализа и управление защитой региональных информационно-телекоммуникационных систем : специальность 05.13.19 "Методы и системы защиты информации, информационная безопасность" : диссертация на соискание ученой степени канд. техн. наук / С. Г. Балашов, 2007. - 15 с. - Текст : непосредственный.Пелешенко В.С. Разработка математической модели информационного обмена в локальной вычислительной сети для реализации средств и метода сетевой защиты информации : специальность 05.13.19 "Методы и системы защиты информации, информационная безопасность" : диссертация на соискание ученой степени канд. техн. наук / В. С. Пелешенко, 2007. - 18 с. - Текст : непосредственный.Толковый словарь по искусственному интеллекту / Ред. А. Н. Аверкин, 1992. - 255 с. - Текст : непосредственный.Оглтри Т.В. Firewalls. Практическое применение межсетевых экранов / Т. В. Оглтри, 2001. - 396 с. - Текст : непосредственный.Степанов П.В. Обеспечение ЭМС и информационной безопасности в локальных кабельных сетях / П. В. Степанов, 2008. - 45 с. - Текст : непосредственный.Степанов П.В. Развитие телекоммуникационных систем и обеспечение информационной безопасности / П. В. Степанов, 2008. - 56 с. - Текст : непосредственный.Bellifemine F. Developing multi-agent systems with JADE / F. Bellifemine, G. Caire, D. Greenwood, 2007 r=on-line. - Текст : электронный.Астахова А. В. Информационные системы в экономике и защита информации на предприятиях - участниках ВЭД : выставочные материалы / А. В. Астахова, 2014. - 214 с. - Текст : непосредственный.
Показать все результатыПроблемы информационной безопасности. Компьютерные системы. - Журнал, 2024г. № 1. - Текст : непосредственный.Мурылева А.А. Защита моделей машинного обучения от извлечения обучающего набора данных / А. А. Мурылева, М. О. Калинин, Д. С. Лаврова. - Текст : непосредственный // Проблемы информационной безопасности. Компьютерные системы : журнал / Санкт-Петербургский политехнический университет Петра Великого. - Санкт-Петербург : Изд-во Политехнического университета, 2024. - N 1. - с. 142-152
Проблемы информационной безопасности. Компьютерные системы. - Журнал, 2024г. № 1. - Текст : непосредственный.Мурылева А.А. Защита моделей машинного обучения от извлечения обучающего набора данных / А. А. Мурылева, М. О. Калинин, Д. С. Лаврова. - Текст : непосредственный // Проблемы информационной безопасности. Компьютерные системы : журнал / Санкт-Петербургский политехнический университет Петра Великого. - Санкт-Петербург : Изд-во Политехнического университета, 2024. - N 1. - с. 142-152Куракин, Александр Сергеевич. Оценка эффективности функционирования группы беспилотных летательных аппаратов при выполнении задач аэрофотосъемки / А. С. Куракин. - Текст : непосредственный // Проблемы информационной безопасности. Компьютерные системы : журнал / Санкт-Петербургский политехнический университет Петра Великого. - Санкт-Петербург : Изд-во Политехнического университета, 2024. - N 1. - с. 62-69
Заказ фрагмента документа ₽