Полное описание

Технология "слепой" обработки привлекаемых данных в системах машинного обучения / В. А. Конявский, С. В. Конявская-Счастная, Г. В. Росс [и др.]. - DOI 10.52190/2073-2600_2024_2_17. - Текст : непосредственный // Вопросы защиты информации : научно-практический журнал. - 2024. - N 2. - С. 17-32. - Библиогр. в конце ст. - ISSN 2073-2600.

ГРНТИ	УДК
28.23	004.8
28.23.25	004.85
	004.048

Рубрики:
Искусственный интеллект
Машинное обучение

Кл.слова (ненормированные): машинное обучение -- безопасность -- "слепая" обработка данных -- конфиденциальное машинное обучение -- ит-конвейер -- объединение данных -- защищаемые данные -- неизвлекаемость данных -- дифференциальные атаки -- конфиденциальные вычисления -- национальный оператор антифрода
Аннотация: Статья посвящена разрешению противоречия между потребностью в обработке объединенных данных при построении прогнозных моделей и отсутствием технических решений по обеспечению достаточного уровня защищенности информации, сложившегося к настоящему времени. Вводятся понятия "слепой" обработки данных, неизвлекаемых данных и моделей, привлекаемых данных. Приведены примеры косвенных утечек, возникновение которых, как правило, связано с дифференциальными атаками. Для повышения уровня защищенности данных предлагается при слепой обработке данных ограничить запросы к системе машинного обучения только проверенными последовательностями команд, не приводящими к утечкам защищаемых данных - ИТ-конвейерами. Предложена формальная модель обработки данных "вслепую", референсная архитектура автоматизированной системы "слепой" обработки данных, структура и меры по фиксации и обеспечению целостности и легальности применения ИТ-конвейеров, особенности их формирования и применения. На основе полученных результатов создан программно-аппаратный комплекс "Крипто-Анклав". Результаты также могут применяться при создании национальной системы антифрода, в медицине, промышленности.
Доп. точки доступа:
Конявский, Валерий Аркадьевич
Конявская-Счастная, Светлана Валерьевна
Росс, Геннадий Викторович
Райгородский, Андрей Михайлович
Тренин, Сергей Алексеевич
Леонидов, Андрей Владимирович
Васильева, Екатерина Евгеньевна
Васильев, Сергей Борисович
Коновалихин, Максим Юрьевич


Нет сведений об экземплярах
Держатели документа:
Государственная публичная научно-техническая библиотека России : 123298, г. Москва, ул. 3-я Хорошевская, д. 17 (Шифр в БД-источнике (KATBW): -330933-376281)

Шифр в сводном ЭК: 3147e0093767e07cbb1454c736269b09

Заказать
Заказ фрагмента документа ₽